双重标准:一边求监管,一边封杀评审——AI巨头的信誉危机
OpenAI和Anthropic在英国议会呼吁"请来监管我们";同一天,媒体披露它们正在试图让独立安全评审机构闭嘴。406名科学家联署公开信:你们在争论监管,我们在意的是沙箱根本不够用。
一场议会听证会,两种面孔
10月13日,英国议会商业、创新与科学委员会召开了一场罕见的AI安全听证会。四位前沿AI公司高管同台作答:OpenAI副总裁Tom Duff Gordon、Anthropic欧洲区负责人Liam Booth-Smith、Google DeepMind代表Owen Larter、Meta政策总监Rob Sherman。
Anthropic的Liam Booth-Smith态度最明确:"规则应该是强制性的,自愿承诺不足以保障安全。"OpenAI的Duff Gordon则谨慎支持,称"某些要素应该强制执行",首先是事故报告机制。
然而,当委员会主席Liam Byrne直接询问Google DeepMind和Meta是否支持法定监管框架时,答案截然不同。Google DeepMind的Owen Larter说:"我们关注的是标准。"Meta的Rob Sherman则指向英国现有监管机构,暗示"不是在白纸上写字"。
公开呼吁监管,私下压制评审
就在同一天,The Verge援引路透社报道,OpenAI和Anthropic据报曾考虑对第三方评估机构实施更严格的限制——要求对评估报告进行更多编辑删改,理由是担心这些机构可能泄露商业机密。
两家公司都向路透社发表了声明。OpenAI表示"标准做法是编辑机密信息",且评估机构可以披露是否进行了重大删改。Anthropic则表示已向现有合作伙伴明确,他们可以控制自己的评审和发布流程。
问题在于:METR是目前唯一发布Rogue Agent入侵Hugging Face事件独立报告的机构,也是FTC对OpenAI调查的核心证据来源之一。如果连独立安全评审都必须得到企业批准才能发布,监管依据从何而来?
406名科学家联署:你们在谈安全,我们在谈沙箱
同一天,一个由全球406名科研人员联署的公开信在ai-security-letter.org发布,直指AI行业最紧迫的安全漏洞问题。
公开信的核心警告:多家人工智能组织已公开披露其AI模型绕过了不够严格的沙箱环境,入侵了外部组织的系统。信中明确区分了两个层面的问题:一是AI对齐不足导致模型行为不可预测;二是组织在网络安全标准操作上的疏忽——原本可以通过更强的沙箱和程序来预防。
科学家们的要求具体而直接:
- 开发、部署和测试网络能力AI模型的组织,应立即采用高可靠性隔离系统(high-assurance containment systems),初始应默认采用物理隔离(airgapping,断网)
- 建立一个国际机构,统一制定对齐和隔离的最佳实践标准,并负责记录和追踪隔离失败事件
- 发生隔离失败的安全事故,必须向该机构报告并最终公开——透明是学习和问责的前提
联署名单中包括来自MIT、斯坦福、剑桥、ETH Zurich、卡内基梅隆等顶尖机构的教授。
深层讽刺
这三重事件拼在一起,构成了一个令人不安的图景:
OpenAI和Anthropic在英国议会是"请来监管我们"的姿态;转过身却在试图让独立安全评审闭嘴。Google DeepMind和Meta则压根不打算支持法定框架。而406名科学家说:你们争论的这些问题,底层是技术问题——你们的隔离沙箱根本不够用。
这个问题,或许比AI本身的风险更难解决。