护栏:输入输出双重校验
Nov 3, 2026VrmMate Team
输入过滤、输出检查与人工兜底,三层一起才可靠。
护栏的目标不是让模型永远正确,而是让错误可控。
输入
过滤明显的注入模式,限制长度与附件类型。对高风险领域的问题,先判断是否属于禁止范围。
输出
检查是否泄露系统提示、是否包含个人数据、是否给出危险操作步骤。规则与模型判断结合,减少漏网。
工具权限
护栏要延伸到工具层。模型即使被诱导,也不能调用超出会话权限的工具。
人工兜底
高风险结论要求人工确认或提供免责说明。把责任边界写清楚,比事后解释便宜。