AI护栏
也叫：AI Guardrails · 模型护栏 · 安全护栏
AI护栏通过内容分类、敏感信息识别和业务主题规则检查输入输出，无法替代权限控制与人工审批。
他们说
在生成式 AI 的输入和输出侧配置策略过滤与安全控制
老白翻译
先写好哪些内容要拦、哪些信息要遮，模型进出都过一道检查。
它到底是什么
AI护栏是一组放在模型输入和输出旁边的检查规则。它可以拦截有害内容，限制指定话题，遮盖个人信息，或在命中规则时返回固定提示。
生活里的例子
客服摘要里出现身份证号时，护栏可以先把号码遮住再交给员工。用户要求助手提供被禁止的投资建议时，规则也可以停止回答。
常见误解
- 误解：装上护栏就能保证回答正确。 内容过滤与事实核对是两件事，模型仍可能答错。
- 误解：过滤强度越高越安全。 规则太严会误拦正常业务，仍要用真实样本测试。
- 误解：护栏可以代替账号权限。 谁能看客户记录、谁能退款，仍由业务系统控制。
普通人怎么用
先列出要拦的风险内容、要遮的敏感字段和不允许讨论的业务主题。拿正常与越界样本一起测试，保存每次修改的版本和结果。