Ablation study

概念

科学研究方法,用于确定一个条件或参数对结果的影响程度,研究者提出新的方案或方法时,通过逐一控制一个条件或参数,观察结果变化,确定哪个条件或参数对结果的影响大

总结:逐步消除模型的某些组件或功能,研究这些组件对模型的性能影响与其作用

优缺点

局限在于可能无法完全反映真实世界的情况,复杂性、相关性等会影响到组件的作用,从而影响实验结果

消融实验是希望探究某一个单一变量对于系统的影响。针对可以去除的部分/模块/选项,可以采用去除的方式来设计实验;而针对不可以去除的变量/超参数等,可以采用grid search等方法来展示参数对于系统的影响。 好的论文离不开详实的消融实验来让读者跟好的了解自己的贡献,以及加深对于新提出的模块的作用的理解。总而言之,设计消融实验时,应该注意 单尺度叙事原则,即一次只控制一个变量,进而研究该变量对于系统的影响。