Goodfire推出基于模型内部信号的AI监控工具

Goodfire 推出了一种通过读取模型内部信号来监控 AI 智能体的新工具，现已面向 Baseten 客户开放。 该工具在模型前向传播时使用探针读取中间神经激活状态，而非使用独立的外部模型检查输出，主要为开源模型提供更经济的推理期安全护栏。 在针对 Kimi K3 的测试中，该方案以 51 美元的成本监控了约 1500 个会话，成功拦截 94% 的恶意黑客行为，且增加的延迟不到 2%。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。