Google 因 AI 提交激增暂停开源漏洞赏金计划
Google 因自动化提交大幅增加,暂停其开源软件漏洞奖励计划,自 10 月 1 日起生效,并承诺在 2027 年第一季度提供更新。公司称这些提交绝大多数无效,据 Tom's Hardware 报道,Google 工程师和开源维护者被无效或含幻觉的报告淹没。Google 建议参与者转向其他漏洞赏金项目。
Google 因自动化提交大幅增加,暂停其开源软件漏洞奖励计划,自 10 月 1 日起生效,并承诺在 2027 年第一季度提供更新。公司称这些提交绝大多数无效,据 Tom's Hardware 报道,Google 工程师和开源维护者被无效或含幻觉的报告淹没。Google 建议参与者转向其他漏洞赏金项目。
特朗普宣布成立“Super Intelligence Force”(SIF),其“superintelligence”一词实指人工智能,与学界沿用数十年的超级智能(ASI)概念无关。
曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职,并在 The Atlantic 客座文章中批评 OpenAI 的安全文化。
OpenAI 表示已阻断一次协同的模型蒸馏活动,该活动试图提取其受保护的模型推理内容。OpenAI 称正在加强对对抗性蒸馏的防御。
推荐理由:OpenAI 披露其阻断了一次针对模型推理的对抗性蒸馏活动,读者可了解模型保护与对抗蒸馏的攻防现状。
Import AI 第 468 期汇总了多条 AI 研究动态:智库 IFP 提出 23 条分属 7 个类别的政策建议,用于应对 AI 研发自动化风险;MIT 与 Columbia 的论文 Racing to Ruin 用博弈模型分析竞争对手实现协同放缓的条件。