跳到正文
Hugging Face Blog·· 6 天前AI 评分34

ProvenanceGuard:面向 MCP 智能体的来源感知事实核查

Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents

AI 导读

Hugging Face 博客介绍论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,专门检测"跨来源混淆"——即内容在证据池中真实存在、却被归因到错误来源。它保留工具输出的来源 ID,依次完成声明拆分、来源路由、支持度打分、归因比对与放行/拦截决策。在 281 条医疗智能体真实轨迹上,专家判定应拦截的 139 条声明中它拦下 138 条,来源识别准确率约 86%。

来源:Hugging Face Blog · huggingface.co