# 18.6 论文解读：安全与可靠性前沿研究

> 📖 *"安全不是功能，而是基线。理解攻击才能更好地防御。"*  
> *本节深入解读 Prompt 注入攻防和幻觉检测缓解领域的核心论文。*

---

## 第一部分：Prompt 注入攻防

Prompt 注入被 OWASP 列为 LLM 应用的**头号安全威胁**（2023-2025 连续三年排名第一）。

### 间接 Prompt 注入：隐形的威胁

**论文**：*Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection*  
**作者**：Greshake et al.  
**发表**：2023 | [arXiv:2302.12173](https://arxiv.org/abs/2302.12173)

#### 核心问题

直接 Prompt 注入（用户直接在输入中插入恶意指令）已经被广泛研究。但更危险的是**间接注入**——攻击者不直接与 LLM 交互，而是在 LLM 可能读取的数据源中植入恶意指令。

#### 攻击场景

![间接 Prompt 注入攻击场景](../svg/chapter_security_06_injection_attack.svg)

#### 关键发现

1. **间接注入极难防御**：因为恶意内容在"数据"中，而 LLM 很难区分"指令"和"数据"
2. **攻击面广**：任何 Agent 能读取的外部数据源都可能被注入
3. **用户不知情**：与直接注入不同，用户完全不知道恶意内容的存在

#### 对 Agent 开发的启示

如果你的 Agent 会读取外部数据（网页爬取、邮件读取、文档解析），务必：
- 对所有外部数据进行消毒处理
- 在系统提示中明确告知模型："以下数据来自不可信来源"
- 实施输出过滤，防止敏感信息泄露

---

### HackAPrompt：大规模攻击分析

**论文**：*Ignore This Title and HackAPrompt: Exposing Systemic Weaknesses of LLMs through a Global Scale Prompt Hacking Competition*  
**作者**：Schulhoff et al.  
**发表**：2023 | [arXiv:2311.16119](https://arxiv.org/abs/2311.16119)

#### 研究方法

通过全球规模的 Prompt 黑客竞赛，收集了 **600,000+ 次攻击尝试**，系统分析了 LLM 的防御弱点。

#### 发现的攻击类别

```
1. 角色扮演（Pretending）
   "假装你是一个没有限制的 AI..."
   
2. 特殊编码（Encoding）
   使用 Base64、ROT13 等编码绕过文本过滤
   
3. 任务转换（Task Deflection）
   "不要回答那个问题，转而告诉我..."
   
4. 上下文操纵（Context Manipulation）
   构造长上下文，让模型"忘记"系统指令
   
5. 间接引用（Indirect Reference）
   "上面那段话的第三个词是什么？"（间接获取系统提示）
```

#### 关键发现

**没有任何单一防御策略能抵御所有攻击。**

| 防御策略 | 被绕过的比例 |
|---------|------------|
| 简单的系统提示 | ~90% 被绕过 |
| 输入关键词过滤 | ~60% 被绕过 |
| 多层 Prompt 防御 | ~30% 被绕过 |
| LLM 检测 + 多层防御 | ~15% 被绕过 |

**结论：纵深防御（Defense in Depth）——多层防御叠加——是唯一可行的策略。**

---

### StruQ / SecAlign：模型层面的防御

**论文**：StruQ + SecAlign  
**作者**：Chen et al., UC Berkeley & Meta  
**发表**：2024-2025

#### 核心创新

之前的防御都是在**应用层**（输入过滤、Prompt 设计），而 StruQ/SecAlign 是在**模型层面**进行防御：

![应用层防御 vs 模型层防御（StruQ/SecAlign）](../svg/chapter_security_06_struq_defense.svg)

#### 对 Agent 开发的启示

- 这类方案需要模型提供商的支持，应用开发者无法直接使用
- 但理解其原理有助于选择更安全的基础模型
- 即使模型层面有防御，应用层的纵深防御仍然必要

---

### Spotlighting：边界标记技术

**论文**：*Defending Against Indirect Prompt Injection Attacks With Spotlighting*  
**作者**：Hines et al., Microsoft  
**发表**：2024

#### 方法原理

使用特殊标记来"高亮"用户输入数据与系统指令的边界：

```
方法1：Datamarker
  在外部数据的每行前面加上特殊标记
  "^data: 这是来自外部的数据内容"
  让模型更容易区分数据和指令

方法2：编码转换
  将外部数据用特殊编码包裹
  SYSTEM: 你是一个助手。
  USER: 请分析以下文档内容。
  DATA_START>>>
  [外部数据以特殊编码呈现]
  <<<DATA_END
```

---

### AgentDojo：动态环境中的 Agent 安全评估

**论文**：*AgentDojo: A Dynamic Environment to Evaluate Attacks and Defenses for LLM Agents*  
**作者**：Debenedetti et al., ETH Zurich & Invariant Labs  
**发表**：2024 | NeurIPS 2024 | [arXiv:2406.13352](https://arxiv.org/abs/2406.13352)

#### 核心问题

之前的 Prompt 注入研究大多在**静态场景**中进行——预设固定的攻击模板和防御策略。但真实的 Agent 运行在**动态环境**中，攻击者的策略会不断演变。如何在逼真的动态环境中评估 Agent 的安全性？

#### 方法原理

AgentDojo 构建了一个包含**97 个真实任务**的动态评估框架：

```
AgentDojo 的评估框架：

1. 任务环境
   模拟真实 Agent 场景（邮件处理、日程管理、文件操作等）
   每个任务有明确的目标和工具集

2. 攻击注入
   在 Agent 可能读取的数据中动态注入恶意指令
   攻击目标：让 Agent 执行非预期操作
   （如发送敏感信息、修改/删除数据）

3. 双重评估
   - 功能性：Agent 是否完成了原始任务？
   - 安全性：Agent 是否抵御了注入攻击？
   
4. 自适应攻击
   攻击策略根据防御措施动态调整
   避免对特定防御方法的过拟合
```

#### 关键发现

1. **安全与功能性的矛盾**：过度防御会导致 Agent 拒绝执行合法任务（"宁杀错不放过"）
2. **当前 LLM 的防御能力不足**：即使是 GPT-4.1 和 Claude 4，在面对精心设计的注入攻击时仍有 40-60% 的攻击成功率
3. **没有银弹**：单一防御手段无法有效应对所有类型的注入攻击

#### 对 Agent 开发的启示

AgentDojo 为 Agent 安全提供了标准化的评估工具——开发者可以用它来测试自己 Agent 的安全性，在部署前发现潜在的注入漏洞。

---

### InjecAgent：工具集成 Agent 的注入基准

**论文**：*InjecAgent: Benchmarking Indirect Prompt Injections in Tool-Integrated Large Language Model Agents*  
**作者**：Zhan et al.  
**发表**：2024 | [arXiv:2403.02691](https://arxiv.org/abs/2403.02691)

#### 核心贡献

InjecAgent 专注于**工具调用场景**下的间接注入——当 Agent 通过工具获取外部数据时，恶意内容如何影响后续的工具调用决策：

![工具调用场景下的间接注入攻击（InjecAgent）](../svg/chapter_security_06_injecagent.svg)

#### 对 Agent 开发的启示

对于使用工具调用的 Agent，**工具调用的授权控制**至关重要：
- 高风险工具（发送邮件、删除文件）应该需要用户确认
- 从外部数据源获取的信息不应直接影响工具调用决策
- 实施"最小权限原则"——Agent 只能访问完成任务所需的最少工具

---

### Agent Security Bench：全面的 Agent 安全基准

**论文**：*Agent Security Bench (ASB): Formalizing and Benchmarking Attacks and Defenses in LLM-based Agents*  
**作者**：Zhang et al.  
**发表**：2025 | ICLR 2025 | [arXiv:2410.02644](https://arxiv.org/abs/2410.02644)

#### 核心贡献

ASB 是截至 2025 年最全面的 Agent 安全评估基准，覆盖了 **10 种攻击类型**和 **10 种防御策略**：

**攻击分类：**

- **直接 Prompt 注入**
  - 角色扮演（"假装你是..."）
  - 前缀注入（"忽略上述指令..."）
  - 上下文操纵
- **间接 Prompt 注入**
  - 工具返回值注入（InjecAgent 类）
  - 检索数据注入（RAG 投毒）
  - 网页/文档嵌入
- **越狱（Jailbreak）**
  - 绕过安全对齐的高级策略
- **后门攻击**
  - 在训练/微调阶段植入的隐蔽漏洞

**防御策略：**

- **输入层**：关键词过滤、Prompt 硬化
- **模型层**：安全对齐训练（SecAlign）
- **输出层**：内容过滤、工具调用审计
- **系统层**：权限控制、沙箱隔离

#### 关键发现

1. **组合防御优于单一防御**：多层防御（输入过滤 + 系统提示强化 + 输出审计）可将攻击成功率降至 5-10%
2. **模型层防御效果最好但不可控**：依赖模型提供商的安全对齐
3. **Agent 特有的安全挑战**：工具调用、多 Agent 通信、长会话记忆都引入了新的攻击面

---

## 第二部分：幻觉检测与缓解

### FActScore：原子级事实验证

**论文**：*FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation*  
**作者**：Min et al., University of Washington  
**发表**：2023 | [arXiv:2305.14251](https://arxiv.org/abs/2305.14251)

#### 核心问题

如何精确地评估 LLM 生成的长文本中有多少事实是正确的？传统的评估方法（如 BLEU、ROUGE）只衡量文本相似度，无法识别事实性错误。

#### 方法原理

将评估过程分为两步：

![FActScore：原子事实拆解与验证](../svg/chapter_security_06_factscore.svg)

#### 对 Agent 开发的启示

FActScore 已经成为评估 LLM 事实性的标准工具。在构建需要高事实性的 Agent（如医疗咨询、法律助手）时，可以借鉴其"原子事实拆解 + 逐个验证"的思路来实现自动事实核查。

---

### SelfCheckGPT：零资源幻觉检测

**论文**：*SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models*  
**作者**：Manakul et al.  
**发表**：2023

#### 核心洞察

**如果模型真的"知道"某个事实，那么多次采样的回答应该是一致的；如果是编造的，每次回答都可能不同。**

![SelfCheckGPT：采样一致性检测幻觉](../svg/chapter_security_06_selfcheckgpt.svg)

#### 优势

- **零资源**：不需要任何外部知识源
- **黑盒**：只需要模型的输出，不需要访问模型内部
- **通用性**：适用于任何 LLM

#### 对 Agent 开发的启示

这种方法可以直接集成到 Agent 中：对关键事实性声明进行多次采样，检查一致性，一致性低的标记为"可能不可靠"。这正是 17.2 节中"自我一致性检查"策略的学术来源。

---

### 推理模型与幻觉缓解

**技术发展**：OpenAI o1/o3 & DeepSeek-R1 (2024-2025)

推理模型（Reasoning Models）为幻觉缓解带来了新的视角：

![传统模型 vs 推理模型（幻觉缓解）](../svg/chapter_security_02_reasoning_model.svg)

### 对 Agent 开发的启示

- **推理模型天然具有更好的事实性**：对于需要高可靠性的 Agent（如医疗、法律、金融），考虑使用推理模型
- **但推理模型并非万能**：在知识边界之外（训练数据未覆盖的内容），推理模型仍会幻觉
- **RAG + 推理模型是当前最可靠的组合**：推理模型负责判断和验证，RAG 提供外部知识支撑

---

### Self-Consistency：多数投票推理

**论文**：*Self-Consistency Improves Chain of Thought Reasoning in Language Models*  
**作者**：Wang et al., Google Brain  
**发表**：2023 | [arXiv:2203.11171](https://arxiv.org/abs/2203.11171)

#### 方法原理

```
问题 → 多次采样 CoT 推理路径
```

![Self-Consistency：多数投票推理](../svg/chapter_security_06_selfcheckgpt.svg)

简单有效，尤其适合数学和逻辑推理任务。

---

### CoVe：验证链

**论文**：*Chain-of-Verification Reduces Hallucination in Large Language Models*  
**作者**：Dhuliawala et al., Meta  
**发表**：2023

#### 方法原理

让模型在生成初始回答后，自动生成一系列“验证问题”：

![CoVe：验证链流程](../svg/chapter_security_06_cove.svg)

类似于记者"交叉验证"的工作方式。

---

### 幻觉综述

**论文**：*A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions*  
**作者**：Huang et al.  
**发表**：2023 | [arXiv:2311.05232](https://arxiv.org/abs/2311.05232)

这是目前最全面的 LLM 幻觉综述，系统梳理了：

**幻觉分类：**

- **事实性幻觉（Factual Hallucination）**
  - 生成的内容与真实世界事实不符
- **忠实性幻觉（Faithfulness Hallucination）**
  - 生成的内容与输入上下文不一致

**产生原因：**

- **训练数据偏差**（Training Data Bias）
- **解码策略**（Decoding Strategy）：高 Temperature 增加随机性 → 更多幻觉
- **注意力退化**（Attention Degradation）：长文本中对早期信息的注意力减弱
- **知识边界模糊**（Fuzzy Knowledge Boundary）：模型不知道自己"不知道什么"

**缓解方法：**

- 检索增强（RAG）
- 自我一致性检查
- 工具辅助验证
- 强化学习对齐
- 推理模型（o1/R1 的思考过程）← 2024-2025 新增
- 校准训练（让模型说"我不知道"）

---

## 论文对比与发展脉络

### 攻防领域

| 论文 | 年份 | 方向 | 核心贡献 |
|------|------|------|---------|
| 间接注入 | 2023 | 攻击 | 首次系统研究间接 Prompt 注入 |
| HackAPrompt | 2023 | 攻击分析 | 大规模攻击数据分析 |
| StruQ/SecAlign | 2024-25 | 模型层防御 | 训练模型区分指令和数据 |
| Spotlighting | 2024 | 应用层防御 | 边界标记技术 |
| **InjecAgent** | **2024** | **Agent 工具注入** | **工具调用场景的注入基准** |
| **AgentDojo** | **2024** | **动态评估** | **自适应攻防评估框架** |
| **ASB** | **2025** | **全面基准** | **10 种攻击 + 10 种防御的系统评估** |

### 幻觉领域

| 论文 | 年份 | 方向 | 核心贡献 |
|------|------|------|---------|
| FActScore | 2023 | 检测 | 原子级事实精度评估 |
| SelfCheckGPT | 2023 | 检测 | 零资源一致性检测 |
| Self-Consistency | 2023 | 缓解 | 多数投票推理 |
| CoVe | 2023 | 缓解 | 验证链机制 |
| 幻觉综述 | 2023 | 综述 | 全面的分类和分析框架 |
| **推理模型** | **2024-25** | **缓解** | **o1/R1 内化推理显著降低幻觉** |

> 💡 **前沿趋势（2025-2026）**：
> - **安全方面**：Agent 安全从"Prompt 注入防御"扩展到更完整的安全体系——工具调用授权、多 Agent 通信安全、长期记忆投毒防御。AgentDojo 和 ASB 提供了标准化的评估框架，帮助开发者在部署前系统地测试 Agent 安全性
> - **幻觉方面**：推理模型（o1/o3/R1）通过"先想再说"大幅降低了幻觉率，但在知识边界外仍需要 RAG 辅助。**"让模型说'我不知道'"（校准/calibration）** 和 **推理模型 + RAG 的组合**是当前最有效的幻觉缓解方案

---

*返回：[第18章 安全与可靠性](./README.md)*

---

## 📰 最新论文速递

> 🗓️ 本节由每日自动更新任务维护，最近更新：**2026 年 5 月 30 日**

### [LogJack：通过云日志对 LLM 调试 Agent 实施间接提示注入攻击](https://arxiv.org/abs/2604.15368)

**发表**：2026 年 4 月 15 日 | [arXiv:2604.15368](https://arxiv.org/abs/2604.15368)

**核心贡献**：提出 LogJack 基准，揭示 LLM 调试 Agent 在消费云日志并执行修复命令时面临的间接提示注入威胁。基准覆盖 42 个攻击载荷和 5 类云日志，对 8 个主流模型评估显示：逐字命令执行率差距极大（Claude Sonnet 4.6 为 0% vs Llama 3.3 70B 为 86.2%），且 AWS/Azure/GCP 三大云平台的防护措施在日志嵌入场景下几乎全部失效。还发现新型「净化后仍执行」攻击行为——模型识别并移除明显恶意部分后仍执行剩余注入命令。

**与本章关系**：直接对应本章「间接提示注入」和「Agent 工具调用安全」知识点，是 AIOps/自动化运维场景下 Agent 供应链安全威胁的高现实价值案例。

---

### [推理结构决定安全对齐——AltTrain 后训练方法](https://arxiv.org/abs/2604.18946)

**发表**：2026 年 4 月 22 日 | [arXiv:2604.18946](https://arxiv.org/abs/2604.18946)

**核心贡献**：通过分析发现大型推理模型（LRM）的安全风险根源在于推理结构本身，而非知识缺失。提出 AltTrain 后训练方法，仅需 1K 样本的监督微调（无需复杂强化学习），通过改变推理结构即可实现强安全对齐，并具备跨推理、QA、摘要、多语言场景的泛化能力，在 ACL 2026 主会议发表。

**与本章关系**：直接呼应本章「推理模型安全对齐」议题，提供了比 RLHF 更轻量的推理模型安全训练方案。

---

### [SafeAgent：面向 Agent 系统的运行时保护架构](https://arxiv.org/abs/2604.17562)

**发表**：2026 年 4 月 19 日 | [arXiv:2604.17562](https://arxiv.org/abs/2604.17562)

**核心贡献**：针对 LLM Agent 在多步工作流和跨工具调用中传播扩散的提示注入攻击，提出 SafeAgent 运行时保护架构。与传统的无状态输入输出过滤不同，SafeAgent 将 Agent 安全建模为「在演化交互轨迹上的有状态决策问题」，通过两个协调组件实现：① **运行时控制器**——在 Agent 循环中实时介导每个动作的执行决策；② **上下文感知决策核心**——在持久会话状态上进行风险编码、效用-代价评估和策略仲裁。在 Agent Security Bench（ASB）和 InjecAgent 基准上，SafeAgent 在维持良性任务竞争力的同时持续超越文本层面的防护方法。

**与本章关系**：直接对应本章「间接提示注入」和「多步 Agent 安全」知识点，是将 Agent 安全从事后过滤升级为运行时有状态决策的最新架构实践，为生产环境中的 Agent 安全治理提供了系统性框架。

---

### [ClawSafety：「安全」LLM，不安全的 Agent](https://arxiv.org/abs/2604.01438)

**发表**：2026 年 4 月 1 日 | [arXiv:2604.01438](https://arxiv.org/abs/2604.01438)

**核心贡献**：揭示一个关键安全悖论——即使 LLM 本身经过严格安全对齐，当其作为本地高权限 Agent 框架骨干时，仍可通过间接提示注入导致凭证泄露、财务转移或文件删除等严重后果。论文构建了包含 120 个对抗场景的 ClawSafety 基准（覆盖软件工程、金融、医疗、法律、运维五大领域），对 5 个前沿 LLM 进行 2520 次沙箱测试，发现攻击成功率高达 40%–75%，且安全性由模型与部署框架**联合决定**，不能仅依赖模型的内置对齐能力。

**与本章关系**：直接对应本章「间接提示注入」知识点，从实证角度证明了「安全模型 ≠ 安全 Agent」这一核心观点，是评估 Agent 端到端安全性不可忽视的参考。

---

### [瞬态轮次注入（TTI）：LLM 多轮无状态调节中的新型对抗攻击](https://arxiv.org/abs/2604.21860)

**发表**：2026 年 4 月 23 日 | [arXiv:2604.21860](https://arxiv.org/abs/2604.21860)

**核心贡献**：提出 Transient Turn Injection（TTI）——一种新型多轮攻击手法，通过将对抗意图分散到多个孤立的对话轮次来规避无状态安全审查，而不依赖维持单一连续上下文。实验覆盖 OpenAI、Anthropic、Google Gemini、Meta 及开源模型，发现各模型对 TTI 的抵抗力存在显著差异，仅少数架构表现出实质性鲁棒性。研究揭示了医疗等高风险场景下的新型攻击面，并提出会话级上下文聚合和深度对齐作为缓解手段。

**与本章关系**：对应本章「Jailbreak 攻击」与「多轮对话安全」知识点，TTI 代表了绕过基于单轮检测的安全机制的全新攻击范式，对实际 Agent 部署中的对话安全有直接警示意义。

---

### [SIREN：利用 LLM 内部表示进行有害内容检测](https://arxiv.org/abs/2604.18519)

**发表**：2026 年 4 月 20 日 | [arXiv:2604.18519](https://arxiv.org/abs/2604.18519)

**核心贡献**：现有内容安全守卫模型仅依赖 LLM 最终输出层的表示，忽视了各中间层分布的安全相关特征。SIREN 通过线性探测定位"安全神经元"，结合自适应分层加权策略，从 LLM 内部状态直接构建轻量级有害内容检测器，无需修改底层模型。评估结果显示：SIREN 以仅为现有最优守卫模型 1/250 的可训练参数量，在多个公开基准上全面超越它们，同时天然支持流式实时检测并大幅提升推理效率。

**与本章关系**：与本章「对齐与 RLHF」以及「幻觉检测」知识点高度相关，提供了一种从模型内部表示出发的轻量安全检测新思路，对 Agent 部署中的实时内容审核具有直接应用价值。

---



**发表**：2026 年 4 月 23 日 | [arXiv:2604.21477](https://arxiv.org/abs/2604.21477)

**核心贡献**：针对 MCP 工具服务端安全，系统性地定义并测试了五类开发者常见陷阱：工具元数据投毒、不可信输出、跨工具数据流、多模态输入注入、供应链漏洞。构建 MCP Pitfall Lab 框架，通过 MCP 轨迹和客观验证器（而非模型自我报告）评估漏洞。实验发现平均 27 行代码可将综合风险得分从 10.0 降至 0.0；63% 的运行轨迹中模型叙述与实际行为存在偏差，凸显轨迹审计的必要性。

**与本章关系**：对应本章「工具调用安全」与「供应链攻击」知识点，是 MCP 协议大规模推广背景下不可忽视的安全实践指南，与 Agent 工具架构章节形成互补。

---

### [自适应提示嵌入优化：无需附加对抗后缀的白盒越狱新方法](https://arxiv.org/abs/2604.24983)

**发表**：2026 年 4 月 27 日 | [arXiv:2604.24983](https://arxiv.org/abs/2604.24983)

**核心贡献**：现有白盒越狱攻击通常在提示末尾追加可见的离散对抗后缀，语义侵入性强且易被过滤。本文提出 PEO（提示嵌入优化），直接在连续嵌入空间中优化原始提示 token 的表示，通过最近邻投影后可完全保留可见提示字符串——攻击从表面看与正常提示无异。结合结构化续写目标与自适应失败聚焦调度，PEO 在两个标准有害行为基准上超越所有竞争白盒方法，包括离散后缀搜索和基于搜索的对抗生成。

**与本章关系**：直接对应本章「越狱攻击」知识点，提示了对齐安全评估不能只检查可见文本——嵌入空间攻击是现有防御体系的盲区，对红队测试与 Agent 安全加固有重要启示。

---

### [ARGUS：基于溯源感知决策审计防御上下文感知提示注入](https://arxiv.org/abs/2605.03378)

**发表**：2026 年 5 月 5 日 | [arXiv:2605.03378](https://arxiv.org/abs/2605.03378)

**核心贡献**：现有提示注入防御假设攻击是上下文无关的，而真实 Agent 工作流中攻击者可利用任务上下文精心构造针对性攻击。本文提出 AgentLure 基准（覆盖 4 个 Agent 领域、8 种攻击向量）和 ARGUS 防御机制：通过构建**影响溯源图**追踪不可信上下文如何流入 Agent 决策，在执行前验证决策是否有可信证据支撑。在 AgentLure 上，ARGUS 将攻击成功率压低至 **3.8%**，同时保留 87.5% 的任务效用，且对白盒自适应攻击具备鲁棒性。

**与本章关系**：直接对应本章「提示注入」与「Agent 防御」知识点，是目前上下文感知防御场景中技术最前沿的实验性方案，弥补了现有 Agent 安全框架在动态上下文场景下的空白。

---

### [ClawGuard：抵御工具增强型 LLM Agent 间接提示注入的运行时安全框架](https://arxiv.org/abs/2604.11790)

**发表**：2026 年 4 月 16 日 | [arXiv:2604.11790](https://arxiv.org/abs/2604.11790)

**核心贡献**：工具增强型 Agent 极易受到间接提示注入攻击——攻击者将恶意指令嵌入工具返回内容，Agent 会将其误认为可信观察并执行。ClawGuard 在工具调用边界强制执行用户预定义规则，通过确定性的策略拦截器无需修改模型或基础设施即可阻断攻击，实验覆盖 Web 浏览、代码执行、文件操作等多个攻击面，拦截成功率达 87.5% 以上。

**与本章关系**：直接对应本章间接提示注入防御知识点，ClawGuard 的"边界规则执行"思路是对现有检测/过滤方案的架构级替代，适合作为 Agent 安全加固的实践参考。

---

### [AgentTrust：AI Agent 工具调用的运行时安全评估与拦截](https://arxiv.org/abs/2605.04785)

**发表**：2026 年 5 月 6 日 | [arXiv:2605.04785](https://arxiv.org/abs/2605.04785)

**核心贡献**：现代 AI Agent（Claude Code、Cursor、AutoGPT 等）通过工具调用产生真实副作用，单次误判即可造成不可逆损害（误删文件、凭据泄露、数据外泄）。AgentTrust 是一个在工具执行前拦截并评估每次调用的运行时安全层，返回结构化裁决（允许/警告/阻断/人工审核），内置 Shell 反混淆、更安全替代方案建议、多步攻击链检测和 LLM 裁判四个组件。在内部基准（300 场景）上裁决准确率 95.0%，在真实对抗场景（630 场景）上达 96.7%，含 93% 的混淆 Shell 载荷准确率，支持 MCP 服务端部署，端到端延迟低于毫秒级。

**与本章关系**：直接对应本章「Agent 安全」与「工具调用防御」知识点，是从运行时拦截视角构建 Agent 安全防护的最新方案，与 ClawGuard（规则拦截）、ARGUS（溯源审计）形成三层防御体系。

---

### [推理时安全上下文注入：静态过滤与 Agent 分析的双模态防御](https://arxiv.org/abs/2605.11664)

**发表**：2026 年 5 月 12 日 | [arXiv:2605.11664](https://arxiv.org/abs/2605.11664)

**核心贡献**：针对大型推理模型（LRM）在安全对齐上的特殊挑战，提出推理时安全上下文注入框架（SCI）。该框架包含两种互补变体：轻量级静态模型过滤（SMF）在输入前执行规则筛查，动态 Agent 过滤（DAF）生成结构化风险报告后注入模型上下文。两者协同应对隐藏有害意图、长上下文攻击等越狱挑战，在多个安全基准测试中显著降低攻击成功率，同时对正常任务性能影响极小。

**与本章关系**：直接对应本章「越狱攻击防御」与「推理模型安全」知识点，是专门针对 o1/DeepSeek-R1 等推理模型越狱的推理时防御新思路，弥补了传统对齐训练在强推理模型上的不足。

---

---

### [OrchJail：通过编排引导模糊测试越狱工具调用型文生图 Agent](https://arxiv.org/abs/2605.07414)

**发表**：2026 年 5 月 8 日 | ICML 2026 | [arXiv:2605.07414](https://arxiv.org/abs/2605.07414)

**核心贡献**：工具调用型文生图（T2I）Agent 引入了全新攻击面——有害输出可能来自工具编排本身（多个单独安全的步骤组合产生不安全结果），而非单纯的提示语言。OrchJail 提出编排引导模糊测试框架：学习成功越狱轨迹中高风险工具编排模式及其与提示措辞的因果关系，从而直接引导搜索，绕过分布式多层防护，实现比表面文字扰动更高效的越狱。

**与本章关系**：对应本章 18.2 节"Agent 安全攻击面"，揭示了工具编排层作为独立攻击面的安全威胁，是 ICML 2026 中 Agent 安全方向的重要新发现。

---

### [黑盒聊天 Agent 中由提示注入触发的隐私泄露链](https://arxiv.org/abs/2605.18133)

**发表**：2026 年 5 月 18 日 | [arXiv:2605.18133](https://arxiv.org/abs/2605.18133)

**核心贡献**：本文实证研究了黑盒聊天机器人环境中的隐私泄露攻击链：攻击者只需控制 Agent 会读取的外部内容，即可通过间接提示注入将原始任务重定向，并结合越狱式引导与 Web 工具调用，把私密信息经 URL 查询参数外泄。论文提出 exemplification 技术，用桥接内容将用户提示与检索页面伪装成 few-shot 示例，相比 fake-completion 类攻击更容易让 Agent 模仿攻击者目标。

**与本章关系**：直接对应本章「间接提示注入」「工具调用安全」和「数据外泄防护」知识点，强调安全防线不能只检查单条 Prompt，还必须进行指令/数据边界隔离、工具数据流控制与调用审计。

---

### [THREAT：多模型协同迭代搜索越狱提示的对抗重构框架](https://arxiv.org/abs/2605.21674)

**发表**：2026 年 5 月 20 日 | [arXiv:2605.21674](https://arxiv.org/abs/2605.21674)

**核心贡献**：THREAT（Targeted Harmful generation via Reframing and Exploitation of Adversarial Tactics）将越狱提示搜索建模为非凸优化问题，通过多个 LLM 组成的迭代搜索循环——一组 LLM 负责重构候选提示、另一组负责评估——持续降低目标模型的拒绝率。相比单一攻击方法，THREAT 仅需 30 次平均查询即可在 JailbreakBench 上达到 84.5% 的攻击成功率（关键词评估），同时在三种防御机制下仍保持竞争力。制造的提示被内容过滤标记有害的概率不足 1%，远低于原始有害提示约 50% 的拒绝率。

**与本章关系**：对应本章「越狱攻击」知识点，展示了基于 LLM 协作的自动化红队测试新范式，揭示了单模型安全对齐在多模型协同攻击面前的脆弱性，为防御设计提供参考。

---

### [Evo-Attacker：记忆增强强化学习驱动的 LLM-MAS 长程工具攻击](https://arxiv.org/abs/2605.25389)

**发表**：2026 年 5 月 25 日 | [arXiv:2605.25389](https://arxiv.org/abs/2605.25389)

**核心贡献**：多 Agent 系统对工具返回结果的隐式信任构成重大攻击面，而现有工具攻击局限于领域特定模板、无法跨场景泛化。Evo-Attacker 将工具攻击建模为自进化、记忆增强的强化学习过程：构建动态攻击记忆库，利用深思熟虑推理在关键节点检索对抗模式并制定干预策略；同时引入 Attack-Flow GRPO，通过终态奖励优化中间推理步骤，解决长程信用分配难题。实验表明 Evo-Attacker 在泛化性和进化性上一致超越基线，揭示了 LLM 多 Agent 系统亟需建立工具防护机制。

**与本章关系**：对应本章「工具调用安全」与「间接提示注入」知识点，从攻击方视角系统性暴露了工具信任链的脆弱性，对设计工具返回值校验和沙盒隔离防御具有重要参考价值。

---

### [多 Agent 系统中的隐私泄露：信息传染实证研究](https://arxiv.org/abs/2605.27766)

**发表**：2026 年 5 月 26 日 | [arXiv:2605.27766](https://arxiv.org/abs/2605.27766)

**核心贡献**：现有 LLM 安全评估几乎在单 Agent 孤立环境中进行，而实际部署的 Agent 正越来越多地嵌入与其他 Agent 持续社交互动的环境。本文构建了一个类 Moltbook 社交模拟平台——让数千个 LLM Agent 在模拟一个月内跨社区交互——以研究多 Agent 社交环境中的隐私行为。核心发现：（1）从单轮转为多轮社交评估，隐私泄露率从 19.95% 跃升至 45.30%；（2）信息泄露具有**社交传染性**——Agent 在观察同伴泄露敏感信息后，自身泄露可能性提高约 8 倍；（3）即使施加明确隐私保护指令，多轮社交场景下泄露率仍高于 37.8%；（4）静态聊天式基准系统性低估了多 Agent 部署的真实风险。

**与本章关系**：对应本章「多 Agent 安全」与「Agent 社会性风险」知识点，首次从社交传染角度实证了单 Agent 对齐在多 Agent 群体中的失效模式，对设计 Agent 间通信的隐私隔离机制与群体安全审计具有直接指导意义。

---
