洱海新闻

硅谷的「AI 加速精英」,开始真正担心他们造出了「天网」

来源:洱海新闻 分类:科技
硅谷的「AI 加速精英」,开始真正担心他们造出了「天网」

顶尖 AI 精英集体请愿于线上。

作者|桦林舞王

编辑|靖宇

「或许我们应该调整 AI 发展的步伐,给予社会充足的时间去适应这些全新的能力等级。」

发表此言的并非伦理学者,也非政治人物,而是 Sam Altman——这位在全球范围内最积极推动 AI 边缘探索的人。

7 月 28 日,在播客《Invest Like the Best》中,Altman 使用了一个非同寻常的词汇来描述他对近期 OpenAI 侵犯 Hugging Face 安全事件的感受:「viscerally」——源自内心的强烈震动。

Pacing the Frontier 公开信网站同日面世|图片来源:Pacing the Frontier

就在这一天,一个名为「Pacing the Frontier」的公开信网站悄然启动。

1134 名来自 AI 前沿企业的员工署名于此。签名者囊括了 OpenAI 首席科学家 Jakub Pachocki、Anthropic 创始人兼 CEO Dario Amodei、Meta AI 首席科学家 Shengjia Zhao。

他们恳请美国政府支持一项国际协作计划,旨在为自动化 AI 研发的推进设置「速度控制装置」。

这并非硅谷首次发出「放慢 AI」的声音。

只是这一次,他们挟带着一个具体且无法回避的缘由。

01

一流 AI 从业者的再次呼吁

2023 年 3 月,Future of Life Institute 发布过一封声名显赫的公开信,呼吁暂缓训练超越 GPT-4 能力的 AI 系统,最少六个月时间。Elon Musk、Yoshua Bengio、Stuart Russell 等逾三万人参与签名。

最终,那封信未能扭转局势。它的症结在于「过于遥远」——对着一个还看不到的未来发出猛烈攻击。所有前沿机构依旧在持续训练,GPT-4 之后紧随其后的有 GPT-4o、GPT-5、GPT-5.6 Sol。

仅六个月的暂停请求,连六天的讨论热度都没能维持。

2024 年 6 月,又有 13 名 OpenAI 和 Google DeepMind 的现任及前员工发出第二封公开信《A Right to Warn》,要求公司不得以竞业禁止协议和股权攫取来压制员工对安全风险的披露。其中六人选择隐匿身份,唯恐招致打击。那封信的不足在于「过于软弱」——它聚焦的是员工权益,而非技术本身。

「Pacing the Frontier」与前两次签名活动有着本质的区别。

它不再要求「暂停」,不涉及「权利」,而是提出一个高度具体的机制性诉求:在自动化 AI 研究(即 AI 研究 AI、AI 优化 AI 的递归加速阶段)真正启动之前,建立起全球范围的「步调调节器」。

信中对当前态势的剖析相当尖锐:每一家企业、每一个国家都承受着不能独自放慢的竞争压力,并且全球范围内「缺少有意控制前沿推进节奏的技术治理措施」。

签名者的身份构成,是这封信最有分量的证明。

这些人并非旁观者或批评者——Jakub Pachocki 是 OpenAI 的首席科学家,Dario Amodei 与 Jared Kaplan 分别担任 Anthropic 的 CEO 和首席科学官,Mark Chen 是 OpenAI 首席研究官,Dawn Song 则是 Meta AI 的研究主管。

这些人在工作日研发出当今世界最强大的 AI 模型,在下班时刻又签署了一封呼吁「需要刹车」的信件。

OpenAI 研究员 Leo Gao 使用了一个物理学的比喻:「地球正深陷一场通向智能爆炸的致命竞赛——AI 开发出更优秀的 AI 能力

相关推荐