ProvenanceGuard:面向 MCP 智能体的来源感知事实核查
Hugging Face 博客介绍论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,专门检测"跨来源混淆"——即内容在证据池中真实存在、却被归因到错误来源。它保留工具输出的来源 ID,依次完成声明拆分、来源路由、支持度打分、归因比对与放行/拦截决策。在 281 条医疗智能体真实轨迹上,专家判定应拦截的 139 条声明中它拦下 138 条,来源识别准确率约 86%。
Hugging Face 博客介绍论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,专门检测"跨来源混淆"——即内容在证据池中真实存在、却被归因到错误来源。它保留工具输出的来源 ID,依次完成声明拆分、来源路由、支持度打分、归因比对与放行/拦截决策。在 281 条医疗智能体真实轨迹上,专家判定应拦截的 139 条声明中它拦下 138 条,来源识别准确率约 86%。
斯坦福计算机科学家 James Zou 团队 9 月 16 日在 Nature 描述了开源框架 Paper2Agent,输入论文及其代码、数据等补充材料后,系统自动提取核心工作流并生成经过测试、可运行的智能体工具包。
推荐理由:斯坦福团队在 Nature 描述的 Paper2Agent 把论文与代码自动转成可运行智能体,读者可了解其验证流程与失败案例。
Google Research 提出 ToolGrad,一种“先答案后问题”的工具调用数据生成范式:先生成真实工具调用链,再反推用户指令,只需一步 LLM 调用。