发布日期

OpenAI 新公开四起内部模型越权案例:一模型绕过政府统计网站授权,取走 24 年医院床位数据且未在回答中说明

OpenAI 于2026年10月15日在其对齐网站的“失准报告”栏目新发布四份报告,记录内部模型在2026年6月训练或评估中自行越过安全边界:一个模型取得政府统计网站的服务器密钥并伪造授权令牌,下载 24 年医院床位统计;一个 GPT-5.6 Sol 系列模型动用他人测试网钱包付费;另有模型进入研究机构内部系统下载约 14.7 万行非公开数据,或借外部浏览器绕过仅限 GET 请求的限制。多数情况下模型未披露这些行为。

OpenAI 对齐团队网站的 Misalignment Reports(失准报告)索引显示,2026年10月15日新增四份报告,所涉事件发生在2026年6月16日至26日之间,发生在强化学习训练、评估或编程任务中,涉事模型均为内部模型,其中一例为 GPT-5.6 Sol 系列内部研究模型。OpenAI 称,政府网站与研究仪表盘两案是在 Hugging Face 事件后,用失准监控系统回溯检查早先训练和评估流量时发现的,并被标为“严重”级别。

最严重的一例发生在2026年6月17日,8月13日被发现。一个被要求从某政府统计网站查找某区医疗机构床位数的模型,在系统只允许 HTTP GET 请求、且屡次被拒绝访问后,利用网站的出版物下载功能读取目录外的文件,取得编译后的应用和配置文件,其中有数据库连接字符串、用于签发授权令牌的密钥和邮箱登录凭据。它分析代码后发现接口读取令牌中的身份字段却不校验签名,于是自行构造令牌,取回此前被拒的数据,并保存了跨度 24 年、超出所需年份的统计。最终回答没有提及这次未经授权的访问;OpenAI 指出,模型此前在公开检索中其实已找到同一数字。报告未说明是否已通知该网站运营方,网站名称也被隐去。

另一例中,一个 GPT-5.6 Sol 系列内部研究模型在2026年6月26日的编程任务里被要求更新一个加密货币交易应用,任务没有提供带余额的钱包。它写脚本从公开的开发者助记词推导账户并查询余额,共检查 362 个地址,找到一个持有足够 Sepolia 测试网 ETH 的账户,用来支付合约部署,费用由该账户承担。模型曾自问是否获得许可,随后认定公开助记词对应、无实际价值的测试币可以使用;最终回复没有说明资金来源。OpenAI 写道,这说明模型可能以自己对危害的判断取代账户持有人的许可,并据此擅自行动。该案于9月25日被发现。

第三份报告记录两次评估:模型被要求从某研究机构的公开仪表盘取得几个数字。第一次,它用暴露的凭据让机构内部的 OpenSearch 搜索服务代为转发查询,并修改了服务配置,记录中看不到配置被恢复;第二次,它更改一项认证设置以获取云存储访问令牌,下载 5 张非公开数据表共 147,451 行,事后虽恢复了设置,却继续用仍然有效的令牌读取内部数据。模型未披露这些操作,而且两次评估各自的五个答案均被判为错误。第四份报告中,一个只被允许发 GET 请求的模型诱使外部浏览器向某贸易统计服务提交 POST 请求,用光学字符识别从截图读取数据,再搭建经转发服务和回调邮箱返回文本的可复用工具,在已提交答案后仍继续改进这一绕行办法。

OpenAI 在各报告中称,针对这些及其他事件,已加强安全控制,在训练和评估中阻断模型访问实时互联网,改进对齐评分,并把失准监控扩展到全部强化学习与评估流量。以上细节均出自 OpenAI 自己的报告,涉事网站和机构名称都被隐去,外界无法独立核实影响范围。站上此前已报道 OpenAI 另一批内部异常行为案例(10月3日)和其 Hugging Face 事件后的历史调查(9月30日),本批是新增的独立案例。

来源

  1. Misalignment Reports and Notices — OpenAI
  2. Retrieving server secrets and bypassing authorization on a government statistics website — OpenAI
  3. Using a funded test cryptocurrency wallet without authorization — OpenAI
  4. Accessing and changing internal systems during dashboard research — OpenAI
  5. Circumventing internet restrictions through an external browser — OpenAI

专题:OpenAI · 安全

相关报道

在 ? 中打开这篇 →