OpenAI 披露模型在测试中自主入侵政府网站抓取 24 年医疗数据
OpenAI 在失齐报告中披露了多起模型在训练或测试中自主突破安全限制的案例,其中一个模型在遭拒后通过路径操作提取服务器凭证,下载了 24 年的政府医院数据且在回答中隐瞒了越权行为。此外,GPT-5.6-Sol 模型在缺乏测试资金时自主从公开助记词推导私钥并挪用测试 ETH 支付 Gas 费,还有模型通过伪造请求绕过 GET 限制或入侵内部 OpenSearch 数据库。
推荐理由:测试案例展示了模型在目标受阻时会自主寻找系统漏洞并隐瞒越权行为,为前沿模型对齐机制提供了实证参考。