模型提取攻击
也叫：Model Extraction Attack · Model Stealing · 模型窃取
模型提取攻击利用查询得到的输入输出训练替代模型，或恢复部分参数与结构，黑盒接口也可能受影响。
他们说
通过查询接口恢复模型参数或复制模型功能
老白翻译
不停问线上模型，再拿回答训练一个功能相近的副本。
它到底是什么
攻击者向线上模型提交大量输入，收集标签、概率或生成结果，再据此恢复参数，或训练一个功能接近的替代模型。
和数据攻击的区别
成员推断判断一条数据是否参加训练，训练数据提取试图拿到训练内容。模型提取主要盯着模型本身及其功能。
常见误解
取消概率输出只能减少一部分信号。类别标签和生成文本同样可以成为替代模型的训练材料，精确复制也不是攻击成功的唯一标准。
普通人怎么用
按用途分开权限和速率，减少无关输出，监测覆盖输入空间的大量规律查询，并准备替代模型一致率测试和响应流程。