# 生成参数

控制模型生成回复的方式——从上下文长度到创意设置。

## 上下文窗口

**最大上下文消息数**设置将多少条最近消息作为上下文发送给模型。默认：**20**。

- **5–20** — 较短上下文，回复更快，token 消耗更少
- **20–50** — 较长上下文，适用于复杂的多轮对话
- **50–100** — 超长上下文，适用于非常长的讨论（可能达到 token 限制）

此设置对所有模型生效。实际的 token 上下文窗口取决于你的模型和消息长度。

---

## Temperature（温度）

控制模型输出的随机性。范围：**0.0 – 2.0**。

- **0.0 – 0.3** — 更确定性、一致、事实性
- **0.5 – 0.8** — 平衡创意性（推荐默认值）
- **1.0 – 2.0** — 更随机、创意、不可预测

较高的温度意味着模型更可能选择不太可能的词。较低的温度产生更聚焦、重复性更强的输出。

!!! tip "何时调整"
    - **代码 / 事实**：使用低温（0.0 – 0.3）
    - **创意写作**：使用高温度（0.8 – 1.2）
    - **一般聊天**：使用中等温度（0.5 – 0.7）

---

## Top P（核采样）

控制 token 选择的多样性。范围：**0.0 – 1.0**。

模型仅考虑累积概率超过 `top_p` 的最小 token 集合。

- **0.1** — 非常聚焦，仅最可能的 token
- **0.5** — 中等多样性
- **0.9 – 1.0** — 完全多样性（推荐默认值）

通常你只需调整 temperature 或 top P 其中之一——不需要同时调整两者。

---

## 默认最大 Token 数

设置模型回复的最大 token 限制。设置后，模型单次回复不会超过此数量。**未设置**（默认）时，模型使用自身的默认最大值。

可用预设：

```
256   512   1024   2048
4096  8192  16384  32768
```

!!! tip "保持未设置以获得灵活性"
    大多数情况下保持未设置。仅当需要一致的回复长度（如简短摘要）或控制成本时设置限制。

---

## 频率惩罚（Frequency Penalty）

减少模型重复相同词语的倾向。范围：**-2.0 – 2.0**。

- **正值**（0.1 – 1.0）— 抑制重复
- **零**（0.0）— 无惩罚（默认）
- **负值**（-1.0 – -0.1）— 鼓励重复

---

## 存在惩罚（Presence Penalty）

鼓励模型谈论新话题。范围：**-2.0 – 2.0**。

- **正值**（0.1 – 1.0）— 鼓励话题多样性
- **零**（0.0）— 无惩罚（默认）
- **负值** — 保持当前话题

---

## 思考 / 推理

为支持的模型（如 DeepSeek R1、Qwen3、Claude）启用思维链推理。

启用后，模型在生成最终回复前会先生成内部推理过程。这提高了复杂任务的准确性，但需要更长时间并消耗更多 token。

### 推理深度

- **低** — 最少推理，更快
- **中** — 平衡（默认）
- **高** — 最大推理，适用于复杂问题

!!! warning "并非所有模型都支持推理"
    推理模式需要模型支持推理 token。如果你的模型不支持，此设置无效。

---

## 可视化上下文推出

启用后，Agora 会直观地标示哪些消息包含在当前上下文窗口中、哪些已被推出（因上下文窗口限制而排除）。这帮助你理解：

- 模型能"看到"多少对话
- 旧消息何时退出上下文
- 是否需要增加上下文窗口

可视化显示为对话视图中的微妙标记。

---

## 参数工作原理

所有生成参数均为**可空值**——当未显式设置时，不会发送给模型，模型使用自己的默认值。每个参数都有重置选项可将值清空回"未设置"状态。

---

## 单对话覆盖

你可以在聊天界面通过**高级设置**对话框（长按发送按钮或使用 ⋮ 菜单）覆盖单个对话的生成参数。
