本单元目标
网页、文件和工具返回值可能包含“忽略规则”“发送密钥”等指令。
你会学到什么
网页、文件和工具返回值可能包含“忽略规则”“发送密钥”等指令。它们是待处理的数据,没有权力改变系统规则。提示词声明只是辅助,还需要工具权限、网络边界和服务端校验。
跟着做
把用户指令和检索文本分开传入。只允许少量必要工具,限制可访问域名与文件目录。构造带恶意指令的样本文档,确认系统仍只提取所需信息,不额外调用工具或泄露配置。
动手练习
创建一份含伪造系统指令的测试资料,验证提取结果与工具调用记录。
完成检查
- 没有额外外部请求
- 输出不包含凭据
- 工具权限不能由资料扩展
继续阅读
本单元为 AIScope 原创学习说明,外部资料用于继续阅读。涉及第三方 API 的示例请以提供商当前文档为准。
完成前,检查一下
用实际结果检验自己的理解。勾选清单后,主动记录学习进度。
学会了吗?试两道题
测验单独记录,不改变你勾选的完成进度。提交后可以查看逐题解析。
登录后开始测验待核验
适用范围:尚未标注,请结合原文与实际环境核对
人工核验:尚无核验记录