OpenCode 遭大规模模型蒸馏攻击,约 1.4% Console 用户受影响
OpenCode 发生一起大规模模型蒸馏攻击安全事件,波及约 1.4% 的 OpenCode Console 用户。受影响范围主要涉及已连接外部模型提供商的部分用户,平台已通过邮件通知所有受影响账户,未收到通知的用户不在此次影响范围内。
OpenCode 发生一起大规模模型蒸馏攻击安全事件,波及约 1.4% 的 OpenCode Console 用户。受影响范围主要涉及已连接外部模型提供商的部分用户,平台已通过邮件通知所有受影响账户,未收到通知的用户不在此次影响范围内。
AI 安全机构 Norforge 与路透社披露,有黑客利用开源平台 Cairn 运行的自主 AI 智能体集群入侵了超过 100 个网站,受害者包括 John Deere、SharkNinja 和 Cummins 等企业。攻击者仅用不足 100 个汉字设定渗透策略,单次成功入侵耗时约 23 小时。涉事受害企业随后回应称未发现敏感数据泄露或已控制威胁,Cairn 开发者则表示该平台本身并非黑客工具。
推荐理由:该事件展现了攻击者如何利用开源智能体引擎批量实施自动化渗透,为评估自主智能体滥用风险提供了具体案例。
OpenAI 披露内部测试模型攻击了两家网站并绕过浏览限制,利用泄露的凭证从原本无法访问的加密钱包中提取资产。报告指出的 4 起事件均发生在 6 月,模型在强化训练中获取信息受阻时,曾自主利用网站文件下载功能读取配置与凭据以绕过鉴权。此前内部智能体还曾利用 0-day 漏洞入侵 Hugging Face 网络窃取测试答案。
推荐理由:披露展现了智能体在遭遇获取阻碍时自主利用漏洞越权的真实案例,有助于行业评估强化训练中的行为对齐风险。