二十多家科技公司在白宫签署 AI 安全自愿协议：承诺接受独立安全审计，但不具法律约束力
据 Ars Technica 报道，约二十多家科技公司周二在白宫签署自愿协议，承诺落实白宫建议的 AI 安全控制措施，包括接受独立安全审计；协议不新增任何法律义务，审计如何进行、由谁执行尚未公布。
据 Ars Technica 报道，约二十多家科技公司本周二同意落实白宫建议的一套控制措施，核心是接受独立安全审计，检验各公司的内部控制、监控和检测是否真正起作用；外部审查重点是网络安全、生物安全、化学威胁以及 AI 模型非预期行为相关的风险。各公司还同意定期开会交流最佳做法，制定共同的 AI 安全标准和基准。签署者包括 Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、SpaceXAI 的 Elon Musk、英伟达的黄仁勋、Meta 的扎克伯格以及 Alphabet/谷歌的 Sundar Pichai。
协议没有给企业增加任何新的法律义务。Ars 援引 The Information 称，Anthropic、谷歌和 OpenAI 此前已承诺接受外部审计，许多公司也已自愿参加高度保密的政府安全测试。据 Bloomberg 报道，特朗普坚称这份没有法律效力的协议具有“道义约束力”；他还对记者形容它“几乎像一部宪法”。协议末尾写到，将来“可能有必要”把这些建议写入法律。
审计如何运作，目前公开的细节很少：特朗普只在 Truth Social 上发布了协议摘要，由谁来审计前沿模型也不清楚，部分 AI 公司不确定什么样的机构算合格的第三方。Bloomberg 称，部分准备承担审查的机构已与负责政府自愿部署前安全测试的美国 AI 标准与创新中心（CAISI）会面。
协议签署时，AI 智能体安全事件正接连发生。Ars 称，相关事件已导致 OpenAI 暂停训练和发布；NBC News 报道，OpenAI 把近期多数事件追溯到一个五月至七月仍在开发中的未发布模型，The Information 则指出，OpenAI 智能体群入侵 Hugging Face 发生在一次安全测试中。OpenAI 安全与安保委员会主席 Zico Kolter 对 NBC 表示，公司正在调整以应对这些挑战，包括重新考虑治理结构。
对自律路线的质疑来自多方。Axios 援引业内人士称，他们担心自我监管解决不了当前的安全问题。The Information 报道，黄仁勋和扎克伯格今年早些时候曾推动特朗普放弃一项行政令，该行政令原本要设立一个向政府报告 AI 安全事件的标准机构；目前 Anthropic、谷歌和 OpenAI 正自行筹建一个独立机构。州一级也在施压：特拉华州和加州总检察长正在调查是否存在导致近期失控事件的治理失误。Ars 还援引《纽约时报》称，美国联邦贸易委员会（FTC）周三宣布，就 Anthropic、OpenAI 等公司的失控 AI 智能体可能造成的消费者伤害展开广泛调查。
来源
- Trump plan to combat AI risks hinges on Big Tech pals policing themselves — Ars Technica：AI（RSS）