Anthropic CEO Dario Amodei 发新文,放弃自愿透明立场,主张对高风险模型实施强制第三方测试、政府有权叫停部署。他指出四年前模型写不出连贯代码,如今 Claude 已承担大公司大部分编程工作,强调“已经晚了一年”。以 Mythos 搅乱网络安全为例,预测威胁蔓延至生物与自动化研发。此举引发争议:支持者称其直面风险;反对者指责其拉护城河——仅对 10^25 算力模型强制测试,全球仅三四家公司能负担,且时间点恰在 Claude 新模型 Fable 5 发布后。文章标志 AI 安全从技术问题转向政治与公共政策问题。
Dario今天这篇长文,直接把 AI 安全辩论的遮羞布给撕了。
他终于不说什么自愿透明度报告之类的的屁话了,讲真以前那套根本没啥用,现在就应该搞强制第三方测试,政府有权直接叫停高风险模型的部署。
文章里印象特别深的一句话是他说,四年前模型还写不出连贯的代码,现在 Claude 已经在大公司里承担大部分编程工作了。
他的原话是"我们现在讨论的不是该不该管,是我们已经晚了一年。"
这话从他嘴里说出来,分量真的完全不一样。
Anthropic 过去一直站自愿透明那一边,自己报风险自己设护栏。
这次是 CEO 公开说那套不够了,
两个月前 Mythos 已经搅乱了全球网络安全格局,攻击者比防守者快。
他顺着往下推--网络之后是生物,生物之后是自主性失控和自动化研发,每一步都在缩短和前一步的距离。
但不得不说这篇文章的争议也大到离谱, 支持的人说这是第一个敢直面真实风险的大厂 CEO,
骂的人说这就是赤裸裸拉护城河--超过十的二十五次方算力的模型才需要强制测试,掏得起这个钱的全世界也就三四家。
小公司和开源社区直接被合规成本挡在门外,而且时间点也选得太巧了,刚好在 Claude 新模型Fable 5发布之后,
细品下来其实两边说的都对,指数曲线是真的,风险和垄断也都是真的。没有完美的解法,但这篇文章也标志着一个时代结束了,
从此以后 AI 不再是公司想怎么搞就怎么搞的技术问题,它变成了政治问题、地缘问题、关乎所有人命运的公共政策问题,
个人自愿时代真的要过去咯,你们觉得这个框架最终会卡住谁呢?