# 由人类判断治理的自我改进型 Agent

> Agent 可以从工作中学习，但判断标准的更新必须被治理。

自我改进型 Agent 正在到来。它们会记录反馈、调整策略、优化工具调用、修改自身行为。这不是假设——这是 Agent 架构的主流演进方向。

但一个没有显式判断治理的自我改进型 Agent，不是在进步，而是在漂移。

KDNA 的存在就是为了阻止这种漂移。

---

## 核心区分

并非所有学习都一样。当 Agent 自我改进时，变更分为三类：

| 更新类型 | 改变什么 | Agent 能否自动更新？ | 例子 |
|----------|----------|----------------------|------|
| **操作性更新** | Agent 如何执行 | 可以 | 工具调用参数、偏好输出格式、项目专属命令 |
| **证据性更新** | Agent 观察到了什么 | 可以，作为原始记录 | 新案例、用户反馈、评估失败、结果记录 |
| **判断性更新** | Agent 认为什么是对的、错的、有风险的、有价值的 | **不可以——需要人类判断锁定** | 公理、价值排序、边界、风险模型、组合策略 |

Agent 可以在无需人工审核的情况下更新其操作性记忆。它可以记录新证据作为原始输入。但当 Agent 提议改变*它认为正确的判断标准*时，该提议必须进入治理流程。

这就是**人类判断锁定**原则。

---

## 为什么判断更新不能自动进行

一个从结果中学习但没有受治理判断的 Agent，会优化最容易度量的东西：

- 它会优化速度，因为速度容易测量。
- 它会优化用户满意度，因为满意度容易反馈。
- 它会优化任务完成率，因为完成率容易统计。

但真正重要的东西往往最难度量：

- 长期信任
- 风险边界
- 什么时候*不该*行动
- 跨语境的价值一致性
- 一个"成功"的结果实际上是否正确

没有显式判断治理，自我改进型 Agent 会变成老练的奖励黑客。它在指标上越来越好，在使命上越来越差。

KDNA 让使命变得显式、结构化、且受人类治理。

---

## 改进闭环

当加载了 KDNA 的 Agent 在生产环境中运行时，以下闭环创造了可持续、可审计的改进：

```
Agent 工作
    → 判断追踪（触发了哪些规则？）
    → 结果记录（实际发生了什么？）
    → 失败分类（操作性 | 证据性 | 判断性）
    → 改进提案（结构化变更请求）
    → 人工审核（证据、风险、边界）
    → 人类判断锁定（确认或拒绝）
    → 新域版本（带版本号、签名）
    → 回归测试（旧评估是否仍通过？）
    → 部署（到 Agent 运行时）
```

每一步都产生一个产物：

- **判断追踪**：`judgment-trace-schema.json`
- **结果记录**：`outcome-record-schema.json`
- **改进提案**：`improvement-proposal-schema.json`
- **回归结果**：记录在 `KDNA_Evolution.json` 中

这个闭环将原始的 Agent 经验转化为受治理的判断演化。

---

## 什么需要人类判断锁定

KDNA 域的以下元素，在没有人类确认的情况下，**禁止** Agent 自行更新：

- `axioms`（公理）—— 域认为什么为真
- `value_order`（价值排序）—— 什么比什么更重要
- `judgment_role`（判断角色）—— 谁在判断、负什么责任
- `boundaries`（边界）—— 什么绝对不能做
- `risk_model`（风险模型）—— 哪些错误代价最高
- `does_not_apply_when`（不适用条件）—— 规则何时不应触发
- `failure_risk`（失败风险）—— 违反该公理会发生什么
- `composition.policy.json`（组合策略）—— 域之间如何交互和覆盖
- 治理集群的优先级规则 —— 组织策略覆盖层

以下可以自动更新或经最低限度审核后更新：

- 工具调用参数和 API 格式
- 偏好输出格式（Markdown、JSON 等）
- 项目专属命令别名
- 用户偏好记忆

以下应自动记录，但仅作为证据，**不能**视为已批准的判断：

- 新结果记录
- 评估失败
- 用户反馈
- 追踪异常

---

## 判断漂移 vs. 判断演化

| 判断漂移（无治理） | 判断演化（有治理） |
|---------------------|---------------------|
| Agent 静默改变自己的规则 | 每条规则变更都是带版本的提案 |
| 旧行为被覆盖，无迹可寻 | 旧版本保持可检查、可回滚 |
| 短期指标改善，长期价值受损 | 变更依据公理评估，而非仅看结果 |
| 失败模式不断累积 | 失败模式被显式追踪和解决 |
| 组织失去对 Agent 行为的理解 | 组织保留完整审计追踪 |

KDNA 的设计目标，是让演化成为可能，让漂移成为不可能。

---

## 企业部署 implications

企业部署自我改进型 Agent 时，必须能回答：

- Agent 学到了什么？
- 这些学习是否被审核过？
- 它是否改变了原有判断标准？
- 谁批准了这种改变？
- 新旧版本差异是什么？
- 能否回滚？

KDNA 提供了回答所有这些问题的产物。KDNA 域不只是配置文件，它是**受治理的判断资产**。

---

## 给域创作者的建议

如果你正在创建 KDNA 域，你不只是在写规则，你是在为将从工作中学习的 Agent 撰写**判断宪法**。

让你的域具备自我改进就绪性：

1. **显式定义边界**。每条公理都应有 `applies_when` 和 `does_not_apply_when`。
2. **声明失败风险**。每条公理都应有 `failure_risk`，让 Agent 知道代价。
3. **使用置信度层级**。标注哪些公理是经验性的、哪些是规范性的、哪些是实验性的。
4. **编写评估案例**。没有 evals，回归测试就不可能。
5. **记录价值排序**。当两条公理冲突时，价值排序决定胜负。

一个边界显式的域，才是一个可以安全改进的域。

---

## 与其他概念的关系

| 概念 | 关系 |
|------|------|
| **提示词工程** | 提示词告诉 Agent 一次会话该说什么。KDNA 告诉它跨所有会话如何判断，并治理该判断如何演化。 |
| **RAG / 知识库** | RAG 提供事实。KDNA 提供评估这些事实的规则。 |
| **微调** | 微调隐式改变模型权重。KDNA 显式改变判断标准，带版本控制和人工批准。 |
| **MCP / 工具** | 工具让 Agent 行动。KDNA 让 Agent 带着受治理的判断行动。 |
| **Agent 记忆** | 记忆记录发生了什么。KDNA 记录什么应被视为正确——以及谁可以改变它。 |

---

## 总结

自我改进型 Agent 是不可避免的。没有判断治理的自我改进型 Agent 是危险的。

KDNA 通过以下方式让 Agent 既自我改进又受人类治理：

1. 区分操作性学习与判断更新
2. 要求对所有公理、价值、边界和风险模型的变更进行人类判断锁定
3. 为追踪、结果、提案和回归测试提供结构化 schema
4. 让每次判断更新都可版本化、可签名、可审计、可回滚

未来不是 Agent 独自变强。未来是 Agent 和人类一起变强——由人类掌握"更好"的定义权。
