生成参数¶
控制模型生成回复的方式——从上下文长度到创意设置。
上下文窗口¶
最大上下文消息数设置将多少条最近消息作为上下文发送给模型。默认：20。
- 5–20 — 较短上下文，回复更快，token 消耗更少
- 20–50 — 较长上下文，适用于复杂的多轮对话
- 50–100 — 超长上下文，适用于非常长的讨论（可能达到 token 限制）
此设置对所有模型生效。实际的 token 上下文窗口取决于你的模型和消息长度。
Temperature（温度）¶
控制模型输出的随机性。范围：0.0 – 2.0。
- 0.0 – 0.3 — 更确定性、一致、事实性
- 0.5 – 0.8 — 平衡创意性（推荐默认值）
- 1.0 – 2.0 — 更随机、创意、不可预测
较高的温度意味着模型更可能选择不太可能的词。较低的温度产生更聚焦、重复性更强的输出。
何时调整
- 代码 / 事实：使用低温（0.0 – 0.3）
- 创意写作：使用高温度（0.8 – 1.2）
- 一般聊天：使用中等温度（0.5 – 0.7）
Top P（核采样）¶
控制 token 选择的多样性。范围：0.0 – 1.0。
模型仅考虑累积概率超过 top_p 的最小 token 集合。
- 0.1 — 非常聚焦，仅最可能的 token
- 0.5 — 中等多样性
- 0.9 – 1.0 — 完全多样性（推荐默认值）
通常你只需调整 temperature 或 top P 其中之一——不需要同时调整两者。
默认最大 Token 数¶
设置模型回复的最大 token 限制。设置后，模型单次回复不会超过此数量。未设置（默认）时，模型使用自身的默认最大值。
可用预设：
256 512 1024 2048
4096 8192 16384 32768
保持未设置以获得灵活性
大多数情况下保持未设置。仅当需要一致的回复长度（如简短摘要）或控制成本时设置限制。
频率惩罚（Frequency Penalty）¶
减少模型重复相同词语的倾向。范围：-2.0 – 2.0。
- 正值（0.1 – 1.0）— 抑制重复
- 零（0.0）— 无惩罚（默认）
- 负值（-1.0 – -0.1）— 鼓励重复
存在惩罚（Presence Penalty）¶
鼓励模型谈论新话题。范围：-2.0 – 2.0。
- 正值（0.1 – 1.0）— 鼓励话题多样性
- 零（0.0）— 无惩罚（默认）
- 负值 — 保持当前话题
思考 / 推理¶
为支持的模型（如 DeepSeek R1、Qwen3、Claude）启用思维链推理。
启用后，模型在生成最终回复前会先生成内部推理过程。这提高了复杂任务的准确性，但需要更长时间并消耗更多 token。
推理深度¶
- 低 — 最少推理，更快
- 中 — 平衡（默认）
- 高 — 最大推理，适用于复杂问题
并非所有模型都支持推理
推理模式需要模型支持推理 token。如果你的模型不支持，此设置无效。
可视化上下文推出¶
启用后，Agora 会直观地标示哪些消息包含在当前上下文窗口中、哪些已被推出（因上下文窗口限制而排除）。这帮助你理解：
- 模型能"看到"多少对话
- 旧消息何时退出上下文
- 是否需要增加上下文窗口
可视化显示为对话视图中的微妙标记。
参数工作原理¶
所有生成参数均为可空值——当未显式设置时，不会发送给模型，模型使用自己的默认值。每个参数都有重置选项可将值清空回"未设置"状态。
单对话覆盖¶
你可以在聊天界面通过高级设置对话框（长按发送按钮或使用 ⋮ 菜单）覆盖单个对话的生成参数。