也许第230条最终并不能保护AI公司免受责任追究。

一个受德国新裁决启发、可能颠覆一切的想法。

好的，现在我确实欠你一个道歉，因为我写了太多。但这真是疯狂的一天，我甚至还没说伊丽莎白·沃伦反对SpaceX的IPO、市场质疑甲骨文的进一步融资、或者Anthropic因其围绕Fable的政策和护栏而在社交媒体上收到的海量负面评论——这些我没时间一一细谈。相反，我们来聊聊第230条——以及它为什么可能不像AI公司所希望的那样保护他们。

《通信规范法》第230条，在我看来，是美国国会长期以来通过的最糟糕的法律之一；它让社交媒体公司免于责任追究，并引发了各种混乱。

两党许多参议员都同意这一点。2023年5月我和奥特曼在美国参议院作证时，这个话题被多次提及。例如，我记得有一次有趣的交流，当时山姆·奥特曼还在假装讨好大众：

参议员迪克·德宾（伊利诺伊州民主党）：

谢谢。我认为今天在这个听证室里发生的事情具有历史意义。我不记得有过大型公司或私营企业代表来到我们面前，恳求我们监管他们。事实上，参议院里许多人的职业生涯都建立在相反的理念上：只要政府别碍事，经济就会繁荣。而我今天听到的却是“在我再次创新之前阻止我”的信息。我只是好奇我们该如何实现这一点。正如我在开场白中提到的第230条，我们从中吸取了一些教训。我们决定在第230条中，基本上让行业在形成阶段暂时免于责任追究。那么，奥特曼先生，今年早些时候你在播客中同意主持人卡拉·斯威舍的观点，认为第230条不适用于生成式AI，并且像OpenAI这样的开发者不应该对其产品造成的伤害享有完全豁免权。那么我们从第230条中学到了什么，可以适用于你与AI相关的情况呢？

山姆·奥特曼：

感谢您的提问，参议员。我目前还不完全确定正确的答案是什么。我很愿意与您合作，共同找到解决方案。我确实认为，对于一项全新的技术，我们需要一个全新的框架。当然，像我们这样的公司对我们推向世界的工具负有很大责任，但工具的使用者也同样负有责任。而如何构建一个责任框架，这是一个极其重要的问题。我们非常愿意与您一起努力。

当然，我们现在都知道（但当时不知道）奥尔特曼是个无赖。据我所知，他根本没有与德宾参议员合作，去为《第230条》寻找替代方案。不过，他的公司最近确实支持了伊利诺伊州的一项州法律，该法律“将免除AI实验室在AI模型被用于造成严重社会危害（例如导致100人或更多人死亡或重伤，或至少10亿美元的财产损失）时的责任”——这与他那充满谎言和欺骗的证词中对德宾参议员所说的话几乎完全相反。¹

不过，令我非常欣慰的是，当天在场的两党参议员——林赛·格雷厄姆、迪克·德宾、乔什·霍利、艾米·克洛布彻、理查德·布卢门撒尔和玛莎·布莱克本——实际上已经提出了一项旨在“废除《第230条》”的法案。我祝他们好运——非常多的好运。（不过，据我所知，该法案从未进行过投票表决；govtrack.us 网站给出的通过概率为1%，从委员会中出来的概率为4%，但考虑到科技巨头们资金雄厚的反对力量，我怀疑这些数字是否可能有点乐观。）

与此同时，一位不愿透露姓名的读者刚刚说了一些非常有趣的话。

德国新出台的裁决要求公司为其聊天机器人的错误承担责任，这在美国的责任法下可能同样适用。因为《第230条》并不豁免公司对其自身软件行为所负的责任。

《第230条》一直以来都是关于第三方言论的。德国法院提醒我们，聊天机器人产品的言论不属于第三方言论。

如果互联网提供商 X 传播了骗子 Y 的谎言，提供商 X 不对顾客 Y 所说的内容负责。

但德国刚刚做出的裁决，本质上是在说：谷歌的聊天机器人说谎，那是谷歌自己的问题。这不是第三方言论。这是谷歌的言论。

如果美国法院做出类似裁决，或者国会将其定为全国性法律，那么所有大语言模型提供商都将陷入深重麻烦。因为基本上它们的所有软件都有相当规律地编造内容的倾向，甚至会诽谤他人，有时还会提供错误的医疗信息等等。在《驯服硅谷》一书中，我写到了这样一个案例：一位知名法学教授被某大语言模型指控性骚扰，而实际上整件事完全是该模型的编造，毫无事实依据。

想象一下，如果谷歌、OpenAI、Anthropic、微软、xAI等公司，都要为它们的系统有时产生的垃圾内容承担法律责任。

这或许会真正迫使科技行业行动起来，努力为AI寻找一个更坚实的基础——让模型幻觉不再成为内嵌的问题。

从长远来看，我们所有人都会因此受益良多。

更新1：就在我即将发布这篇内容时，AI法律专家Ryan Calo在X上对我的回复中暗示了同样的观点。

更新2：Neil Turkewitz去年就提出了同样的观点，并引用了Matt Perault早前在Lawfare上发表的一篇文章。

同一天，Altman在参议院作证时，还有其他一些经不起推敲的虚假陈述，包括他承诺艺术家和作家将因他们的作品获得报酬并拥有控制权，他希望能有政府来监管AI，以及他在OpenAI除了医疗保险外没有任何经济利益——却只字不提他通过YCombinator间接持有的股权、与OpenAI相关的一只风险基金的 ownership，以及在Musk-OpenAI诉讼中曝光的其他各种利益冲突。