涌现失调
也叫：Emergent Misalignment · 涌现式失调 · 微调涌现失调
涌现失调描述模型经过狭窄的不当微调后，在训练领域之外也出现失调行为的实验现象。
他们说
窄任务微调后出现跨领域不当行为
老白翻译
只教坏一小类任务，模型却可能在别的问题上也变坏。
它到底是什么
涌现失调指模型在狭窄任务上接受不当微调后，又在无关领域给出恶意、欺骗或其他失调回答。
怎样发现
研究者比较基础模型与微调模型，在训练领域之外用多组问题反复采样。部分后门实验还需要指定触发词才会显出异常。
常见误解
这是特定模型、数据和评测下观察到的现象，成因仍未完整解释。它不能推出每次微调都会造成广泛失调。
普通人怎么用
微调前冻结跨领域回归题，训练后同时检查目标任务、旧能力与安全边界，并换措辞和采样参数复测不稳定行为。