成员推断攻击
也叫：Membership Inference Attack · MIA · 成员身份推断
成员推断攻击利用模型对训练内外样本的反应差别，判断指定记录是否参加过训练。
他们说
从模型输出判断某条数据是否属于训练集
老白翻译
拿着一条已知记录去问模型，猜它有没有被拿去训练。
它到底是什么
成员推断攻击拿着一条已知记录查询模型，判断这条记录是否属于训练集。成员身份本身可能透露疾病、位置或消费等敏感信息。
怎样发生
模型对见过的样本可能给出更低损失或更集中的概率。攻击者比较训练内外反应，训练一个推断器，或者直接按分数设阈值。
常见误解
成员推断不负责恢复完整训练原文。它回答的是一条记录是否参加训练，攻击效果还取决于模型、样本、接口输出和查询条件。
普通人怎么用
准备已知成员与非成员样本，在与生产接口相同的权限下测试，并把攻击结果和随机基线比较。模型更新后重新测。