自洽性解码
也叫:Self-Consistency · Self-Consistency Decoding · 自一致性解码
自洽性解码会采样多条思维链并汇总一致答案,能改善部分推理任务,也会增加生成成本。
他们说
从多条采样推理路径中汇总最一致的最终答案
老白翻译
同一道题让模型走几条不同的推理路,再看哪个答案重复出现。
它到底是什么
自洽性解码是一种用于思维链提示的解码策略。系统不只保留单次生成,而会采样多条推理路径,再按最终答案的一致程度汇总。
适合什么任务
选择题、数值题等答案容易归并的任务较适合试验。开放文本需要先说明怎样判断两份答案是否等价。
常见误解
多数答案相同不代表事实成立。多条路径可能依赖同一份错误资料,也可能一起重复模型已有的偏差。
普通人怎么用
记录采样次数、费用、耗时和准确率,只给多次生成后稳定改善的难题追加预算。金额、法规等结果仍要外部核验。