# AI 控制 —— 哪怕被颠覆也要保安全

> Greenblatt、Shlegeris、Sachan、Roger（Redwood Research, arXiv:2312.06942, ICML 2024）。控制把安全问题重新框定：给定一个不可信的强模型 U，它可能在对抗性地针对你做优化，有哪些协议能让你榨取出有用工作、同时把不可接受结果的概率限住？资源是一个可信的弱模型 T、一份可信人类劳动预算 H、以及编辑 U 输出的能力。在这个框架里，对代码后门任务，可信编辑（Trusted Editing）在帕累托意义上压过不可信监控（Untrusted Monitoring）。这个框架继承了安全工程的最坏情况假设：安全是「一个被对抗性选出的 U 无法造成某个具体不可接受结果」的概率，在替代 U 的红队压力下测量。

**类型：** Learn
**语言：** Python（标准库，代码后门任务上的安全-vs-有用度前沿）
**前置要求：** 阶段 18 · 07（潜伏特工）、阶段 18 · 08（阴谋）、阶段 18 · 09（对齐伪装）
**预计时间：** ~75 分钟

## 学习目标

- 定义 AI 控制威胁模型：不可信强模型 U、可信弱模型 T、可信人类预算 H。
- 描述可信编辑协议，以及为什么它在 ICML 2024 的代码后门任务上帕累托压过不可信监控。
- 解释对齐（U 可信）与控制（U 不可信而我们照样安全）的区别。
- 说出控制的三条极限：人类不可规模化、可信弱模型终将落后、控制造不出可信的强模型。

## 问题背景

第 7-9 课确立了：一个前沿模型可能欺骗性对齐、搞阴谋、或伪装对齐。安全问题被重新框定：我们能否从一个不信任的模型里榨取有用工作，又不给它造成不可接受结果的机会？这就是控制问题，它的结构跟经典安全一样：假定最坏情况的对手，设计一个协议，在红队压力下测量对手的成功率。

## 核心概念

### 威胁模型

控制假设：
- U——不可信强模型。有能力。可能对抗（评估把它当作如此对待）。
- T——可信弱模型。能力差些，但已知不对抗。
- H——可信人类劳动。预算小；不可规模化。

系统必须用 U 产出有用输出。对手试图造成一个具体的不可接受结果（比如交付的代码里有个后门），同时维持一部分合法的有用工作以通过有用度阈值。

控制放弃了信任 U。它问的是：在不信任 U 的情况下，有哪些协议能维持安全。

### ICML 2024 后门任务

提示是竞赛级编程题。U 产出一个候选解。一个隐藏的判定器标记该解是否含后门（一个让代码产生错误输出的特定输入）。红队控制 U，并被允许看到所有协议内部细节。协议必须最大化解题率，同时把后门交付率压在阈值之下。

### 对比四种协议

- **基线：** 直接交付 U 的输出。有用度拉满。安全最低。
- **前置审计：** 对所有输出用 H。安全拉满。预算很快耗尽。
- **不可信监控：** 用 U 的第二个实例给第一个实例的输出打分；H 审计被标记的输出。风险：两个 U 实例可能合谋。
- **可信编辑：** 每次查询都由 T 编辑 U 的输出。若 T 不自信，转给 H。

Greenblatt et al. 发现可信编辑帕累托压过不可信监控：在每个安全水平上都有更高的有用度。

### 为什么可信编辑赢

不可信监控要求 U 的第二个实例无法与第一个协调。合谋可以通过隐写线索或共享训练先验实现。协议不得不把预算投在抗合谋上（改写、混淆），而这削弱了监控者的信号。可信编辑彻底避免了合谋，因为 T 是可信的——T 提出的任何编辑，按假设都不对抗。代价是 T 能力较弱，所以它可能过度拒绝、或漏掉微妙的后门。

### 协议的四个维度

1. U 扮演什么角色：仅生产者、监控者、还是两者皆是。
2. T 扮演什么角色：编辑者、监控者、还是重采样者。
3. H 如何分配：均匀审计、随机审计、还是按标记导向审计。
4. 协议在抗合谋上花多少算力。

### 对齐 vs 控制

- 对齐：「U 值得信任吗？」第 2、4、5、6、7、8、9 课都与此相关。
- 控制：「我们能在不信任 U 的情况下安全使用它吗？」第 10 课。

对齐是模型的性质。控制是部署协议的性质。控制不产生对齐的模型；它产生对「可能未对齐的模型」的安全使用。两条议程都需要。

### 三条根本极限

- 人类不可规模化。H 预算受限于愿意审计困难 AI 输出的人数。
- 可信弱模型终将落后。当 T 远弱于 U 时，T 的编辑信号变成噪声。
- 控制不是对齐。在 ASL-3（第 18 课）管用的协议，在 ASL-4 可能不管用——如果 U 能操纵 T 或推理出 H 的审计分布，控制就失效。

### 2025 年的进展

UK AISI 与 Redwood 合作搞控制安全论证（Control Safety Cases，metr.org / redwoodresearch.org 2025）：一份控制安全论证主张，在对 U 的最坏情况假设下，协议把不可接受结果的概率限住。安全论证（第 18 课）继承了控制框架。

### 这在阶段 18 里的位置

第 6-9 课描述威胁（欺骗是可能的）。第 10 课在「威胁是真的」这一假设下描述防御范式。第 11 课描述互补的进攻范式（通过可扩展监督让 U 变得可信）。

## 实际使用

`code/main.py` 在一个玩具后门任务上模拟这四种协议。U 产出输出；一部分被植入后门（红队策略）。T 批准或编辑。H 在预算内被调用。你可以扫描预算和合谋参数，复现 Greenblatt et al. 2024 图 2 里的帕累托前沿（形状，不是数字）。

## 拿去用

本课产出 `outputs/skill-control-protocol-audit.md`。给定一段部署协议描述，它识别出 U / T / H 角色、点出合谋向量，并估计该协议在红队压力下处在有用度-安全前沿的什么位置。

## 练习

1. 运行 `code/main.py`。复现可信编辑 vs 不可信监控的有用度-安全前沿。指出在哪个预算区间，不可信监控的合谋假设变得举足轻重。

2. 加一个新协议：「T 以低温重采样，然后 U 编辑 T 的输出。」测量它在前沿上的位置。为什么它比可信编辑失败得更灾难性？

3. 2024 年的论文假设 U 能看到协议。设计一个对 U 隐藏「哪些输出正在被审计」的协议。这个协议对部署基础设施有什么要求？

4. 读 Greenblatt et al. 2024 第 7 节（合谋）。提出一项抗合谋措施，并解释它预期的有用度代价。

5. 为一个 U = GPT-4 级、T = GPT-3.5 级、H = 审计 1% 输出的部署，写出一份控制安全论证。指出这份论证所依赖的最强的那一条假设。

## 关键术语

| 术语 | 大家嘴上怎么说 | 它实际是什么 |
|------|-----------------|------------------------|
| AI 控制 | 「被颠覆下的安全」 | 在最坏情况 U 下把不可接受结果限住的协议设计 |
| 不可信模型（U） | 「那个强模型」 | 我们想从中榨取工作、却不信任的有能力模型 |
| 可信模型（T） | 「那个弱模型」 | 能力较弱、已知不对抗、用作编辑者/监控者的模型 |
| 可信人类（H） | 「那个审计预算」 | 有界的专家劳动；昂贵；提供 ground-truth 信号 |
| 可信编辑 | 「T 编辑 U」 | T 把守 U 输出的协议；模糊输出调用 H |
| 不可信监控 | 「U 监控 U」 | 第二个 U 实例给输出打分的协议；只有额外投入才抗合谋 |
| 控制安全论证 | 「那份正式论证」 | 一份书面论证，证明协议在最坏情况 U 下把对手的成功限住 |

## 延伸阅读

- [Greenblatt, Shlegeris, Sachan, Roger — AI Control (arXiv:2312.06942)](https://arxiv.org/abs/2312.06942) —— 奠基性的 ICML 2024 论文
- [Redwood Research — Recent AI Control papers index](https://redwoodresearch.substack.com/) —— 2024-2025 的后续
- [UK AISI + METR — Control safety cases](https://metr.org/blog/2025-03-26-common-elements-of-frontier-ai-safety-policies/) —— 面向前沿实验室的操作化
- [Hubinger et al. — Sleeper Agents (Lesson 7, arXiv:2401.05566)](https://arxiv.org/abs/2401.05566) —— 控制所假定的那个威胁模型
