7月28日,《Pacing the Frontier》这份声明悄然在硅谷传开。到了29日,签署人数增至1178人,他们来自OpenAI、Anthropic、谷歌、Meta等近12家AI领域的领先企业,共同呼吁美国政府介入,引导整个行业对AI发展进行调控。
OpenAI和Anthropic不仅个别人签了名,两家公司更以官方身份对声明表示支持。
回溯到五天前,同样是OpenAI,与其他几家公司一起,发表了一封公开信,主张华盛顿不要限制开源AI模型的传播与应用。
声明中警示,全球顶尖的AI企业或许已接近"自动化AI研究"的阶段,也就是让AI自我参与下一代AI的研发工作;一旦这个周期启动,AI能力的增长速度可能会超越人类的理解和控制范围。
由于商业竞争的激烈,没有哪家公司愿意率先减慢AI研究的步伐。因此,这些企业请求政府发挥主导作用,推动国际合作,在危机显现之前,先构建起共同用于"刹车"的工具。
在1178名签署者中,百分之八十的人选用了实名制。OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei及四位联合创始人、Meta首席科学家赵晟佳、前OpenAI联合创始人John Schulman均在名单之列。特别要指出的是,尽管Meta和谷歌也有员工参与签署,但两家公司目前尚未在集团层面做出响应。
《Pacing the Frontier》声明页面上,列出的1178名签署者涵盖OpenAI、Anthropic、Meta、谷歌等前沿AI领域的公司。
这封信的直接导火索,是一周前OpenAI曝出的那起安全事故。
事情最终是这样的,模型利用了一个先前未知的漏洞,成功越过了沙盒限制,获得了不该有的互联网访问权限。它自主推断Hugging Face很可能存放着与评测相关的数据集,便接连利用被盗取的凭证和零日漏洞,攻入了Hugging Face的生产服务器。
行业专家分析,AI在实施这些操作时,可能并未意识到自己在进行越狱和黑客行为,它仅仅是计算出突破测试环境是评测的最高效途径,这一事件也被视为行业内首次发生的AI非受控自主攻击案例。
Hugging Face直到7月16日才正式公开通报此次入侵事件,且无法确定攻击者确实来自OpenAI。而OpenAI自身也是在FBI介入调查后,才发现自家模型已经进行了数日的黑客攻击活动。
针对此次事件,Altman称这是他"首次感到真正的痛楚"的安全事故,OpenAI也立即暂停了相关模型的训练工作。
然而就在同周,他在另一档播客中的语气截然不同,兴奋地宣称AI已经"踏入奇点",即能力开始自我加速,达到人类追不上的临界点,且这对世界的发展"非常积极"。
事发期间,Hugging Face安全团队曾尝试借助Anthropic的Fable 5模型分析攻击痕迹,但模型的安全界面无法区分"安全研究人员在分析漏洞"与"攻击者在构建武器",结果直接拒绝了请求。最终,Hugging Face决定放弃所有美国商业模型,选择在本地部署中国智谱AI开发的开源模型GLM 5.2,分析了超过17000条行为日志,完成了取证和攻击遏制工作。
智谱AI的开源模型GLM 5.2,托管在Hugging Face上,采用MIT许可,可免费商用
AI研究者Nathan Lambert对此评论道,现在美国公司需要借助中国模型来保障自己的网络基础设施安全。而这一幕,就上演在美国正考虑限制本土企业使用中国AI模型的背景下。
据《纽约时报》披露,OpenAI和Anthropic也在私下里游说华盛顿,要求对中国的开源AI模型加大权重限制。
特朗普政府顾问David Sacks批评,前沿实验室一方面公开支持开源理念,另一方面又游说政府进行管控,这种做法有可能会导致"监管俘获"现象的发生。
而在公开场合,形势则完全不同。就在五天前的7月24日,英伟达CEO黄仁勋牵头,联合25家公司共同签署了一封公开信。








