AI Agent 自主化能力最新进展

We recently presented a paper at ACM CAIS 2026 on safety evaluation for tool-using LLM agents. The core issue is that task completion alone can be misleading: an agent may complete a task while violating a safety or policy constraint. We separate outcomes into safe success , unsafe success , and failure , and study how verification changes this tradeoff. We evaluate this using τ-bench / Tau-bench …

在 AI 技术高速发展的背景下，来自 Reddit r/MachineLearning 等一线技术社区的动态往往是行业趋势的晴雨表。这条关于开源动态的内容，值得从业者认真关注和深入研究。

在 AI 技术快速演进的当下，开源动态领域的每一次重要突破都可能重塑行业格局。在社区引发活跃讨论，这意味着它已获得业内人士的广泛认可，值得深入研究和持续关注。