洱海新闻

133家联名挺开源,独缺Anthropic!达里奥:从没想过禁开源

来源:洱海新闻 分类:科技
133家联名挺开源,独缺Anthropic!达里奥:从没想过禁开源

新智元披露

一封公开信,让Anthropic陷入舆论焦点。

7月24日,英伟达带领微软、Meta、Hugging Face、Linux基金会等25家公司联手发布《开放权重与美国AI领导力》公开信,倡导美国政府不要阻止公开可下载、检查、更改及自行部署的开放权重模型。

接着,OpenAI、Google、SpaceX等纷纷响应。到7月28日,微软官网公布的最新名单显示,签署者从25个激增至133个。

名单不断扩充,Anthropic却始终未列其中。

最先发声的,是前特朗普政府AI顾问David Sacks,他在X上写道:

科技界除了Anthropic,都支持开源。

矛头直指Anthropic,指责某些人只想扼杀开源。

早在此前,7月20日,Benchmark的Bill Gurley就在《华盛顿邮报》文章里指出开放模型对Anthropic和OpenAI有益;此次他又补充:Anthropic的态度,耐人寻味。

OpenAI的Peter Steinberger则从另一面抨击:OpenAI已签署,Anthropic却沉默不语。

「全行业施压Anthropic」的声势越来越猛。

Anthropic CEO达里奥·阿莫代伊(Dario Amodei)通过发文回应开源争议。

静默三天后,7月27日,达里奥亲自出面,发表《我们对开源权重模型的立场》文章,开头直言不讳:

Anthropic从未反对开源权重模型。

联名信

开放有助于AI安全

英伟达CEO黄仁勋在首条X发帖中力挺公开信:世界既需闭源模型,也需开源模型。

这封联名信以上世纪80年代开源软件兴起为例:那时,开源软件挑战了「软件必须被公司控制才能发展」的主流观点。

几十年后,开源软件支撑起互联网的大部分架构,连大企业、政府机构都依赖它。

AI正面临同样的抉择。

信中强调了开源权重(Open Weights)的三大优势:提升访问量、加强竞争、给予客户控制权。

初创企业、大学、公共机构,无需独立训练模型,也不必支付前沿模型的昂贵费用,就能获得先进技术。

信中还提出了一个关键论断:开放或许是实现AI安全的重要途径。

理由是闭源模型也可能被攻破、被误用,甚至以隐蔽方式出错。

把最先进技术掌握在少数公司手中,类似于制造「故障点」。

而开源,能让全球研究者共同监督模型行为、寻找漏洞、修复问题。

信中并未忽视风险:模型权重公开后便无法撤销,改动版本也难以追踪。

但提出的方案是正确应对,而非禁止开源。

需注意区分开源权重与开源AI:开源权重仅发布模型参数;至于训练数据和代码,以及是否允许自由修改商用,通常不包含在内。

前者是交给你成品,让你「使用」;后者则把配方和修改权给你,让你「创造」。

同是打着「开源」旗号,开放程度却天差地别。

讨论的不是是否开源

而是开放到何种程度

达里奥在博客中表明立场:Anthropic从未推行禁用开源权重模型。

他认为「无危险能力的开源模型属于公共产品」,对于联名信中提及的开放权重三大好处,他并不抵触:

开源模型除了运行需要的算力,几乎不耗费

相关推荐