机器遗忘
也叫:Machine Unlearning · 模型遗忘 · 机器学习遗忘
机器遗忘试图移除指定数据对已训练模型的影响,同时保留目标之外的正常能力。
他们说
移除指定训练数据对模型的影响
老白翻译
资料删掉以后,还要让模型尽量像从没学过它。
它到底是什么
机器遗忘让训练好的模型移除指定数据的影响。数据库删掉原始记录后,模型参数不会自动改变,所以还需要重训或近似调整。
怎样检查
同时测试逐字记忆、相关知识、成员身份泄露和保留集能力,再看方法能否处理较大规模与连续删除请求。
常见误解
模型拒答几道题不能证明它已经忘记。拒答可能只针对测试问法,过度调整还可能破坏无关能力。
普通人怎么用
保存删除对象、模型版本和测试结果,条件允许时拿删数重训模型作参照。每次发布新模型都复查旧删除请求。