Back to blog

护栏:输入输出双重校验

Nov 3, 2026VrmMate Team

输入过滤、输出检查与人工兜底,三层一起才可靠。

护栏的目标不是让模型永远正确,而是让错误可控。

输入

过滤明显的注入模式,限制长度与附件类型。对高风险领域的问题,先判断是否属于禁止范围。

输出

检查是否泄露系统提示、是否包含个人数据、是否给出危险操作步骤。规则与模型判断结合,减少漏网。

工具权限

护栏要延伸到工具层。模型即使被诱导,也不能调用超出会话权限的工具。

人工兜底

高风险结论要求人工确认或提供免责说明。把责任边界写清楚,比事后解释便宜。