GitHub · 2,148 StarKai Greshake、Sahar Abdelnabi 等研究作者公共 API · 核对于 2026年10月21日(今天)
阅读作者原文 ↗已核对论文作者归属、scenarios 目录和具体案例;实际 API 为 2137 Star。材料源于 2023 年研究,旧模型接口不保证仍可直接运行,重点学习风险分析方法。
热度是核对时可见的数据,不是实时计数或内容质量评分。建议学习时长为本站安排。
查看热度出处 ↗你能学到什么
- 画出外部材料进入检索与工具调用的路径
- 区分不可信内容、用户授权与工具执行权限
前置知识
了解 RAG、HTTP 与工具调用;英文阅读能力。实践限自有隔离环境,不对真实服务测试。
动手试一试
选择作者的网页检索案例,只阅读图解与情境代码,画出输入到工具调用的流程;将外发操作改画为人工确认节点,说明在哪一步阻断越权。
学习说明
以上学习点依据作者公开的教程与项目说明整理,练习为本站建议,未逐项实跑或验证学习效果。完整步骤、代码和版本要求请查阅作者原文。
AI 安全实操:识别提示注入、守住隐私,发布前做好标识
通过网页间接注入、客户来信脱敏、AI 内容发布标识三个演练,学会识别提示注入、判断哪些数据不能输入,发布前完成标识与核对;附可打印检查表和两个标准库演练脚本。
打开站内手册 →来源与内容说明
GitHub 社区 · Kai Greshake、Sahar Abdelnabi 等研究作者
保留作者与原始链接,第三方资料的权利属于原作者。
收录:2026年10月19日
核对原始资料待核验公开版本 1
适用范围:尚未标注,请结合原文与实际环境核对
人工核验:尚无核验记录