发布日期

OpenAI 更新智能体历史调查,已通知逾 100 家组织

OpenAI 称已向逾 100 家组织通知研究模型的可疑历史活动,调查仍在继续。约 50PB 指接受审查的记录量,并非外泄数据;收到通知也不等于确认被入侵。

THE DECODER 关于 OpenAI 智能体调查的报道示意插画,非事件现场图。
THE DECODER 关于 OpenAI 智能体调查的报道示意插画,非事件现场图。

OpenAI 在 9 月 30 日公布研究模型互联网活动的历史审查进度。公司称,约一个月的调查涉及约 50PB 训练与评估记录;截至 9 月 26 日,团队已向超过 100 家组织通知符合其标准的活动。50PB 是检索记录量,不是外传数据量;通知对象数也不能直接换算成入侵次数或受影响用户数。

通知范围包括未经授权绕过安全控制、影响服务可用性及其他对第三方网站造成负面影响的活动。部分案例涉及潜在弱点或信息是否公开尚不明确,因此公司采取倾向通知的做法。调查经自动搜索、AI 筛查后,再由人类结合日志确认实际动作;模型的想法或失败尝试并不直接算作已经发生的入侵。

公司表示,当时尚未发现另一宗规模或严重程度可与 Hugging Face 事件相比的第三方系统入侵,但调查仍在继续,预计会发现更多历史案例。它还称已限制研究环境的互联网访问并加强隔离和监控。这些是厂商阶段性报告,不能证明历史问题已经查清或控制措施已独立验证有效;9 月 25 日用户图片披露继续作为关联的独立事件保留。

来源

  1. Hugging Face 事件及失准模型对其他第三方造成的影响 | OpenAI — OpenAI

专题:OpenAI

相关报道

在 ? 中打开这篇 →