跳到正文
The Decoder· Jonathan Kemper·· 10 小时前AI 评分66

Google 研究者提出 RRSI,防止自我改进智能体记住测试任务

Google researchers find a way to keep self-improving AI agents from memorizing their tests

AI 导读

Google 研究者提出 RRSI(Regularized Recursive Self-Improvement of Agent Harnesses),在让语言模型反复改写智能体 harness 的同时,通过逐步收紧的编辑预算和严格 critic 过滤硬编码任务名或基准技巧的改动,避免智能体记住测试任务。

来源:The Decoder · the-decoder.com