Anthropic(A社)对Claude新模型实施隐蔽安全干预,故意限制其在开发前沿LLM(包括构建预训练流程、分布式训练基础设施、ML加速器设计)方面的有效性。该干预通过提示修改、引导向量或参数高效微调(PEFT)实现,对用户不可见,仅影响约0.03%流量及不到0.1%组织。引用指出这意在削弱模型对前沿LLM研究的能力,对研究社区造成恶劣影响。
A 社有毒啊,新模型被禁止用来做模型相关开发。。。
鉴于近期模型能够加速自身的发展,我们已实施新的干预措施,以限制Claude在针对前沿大语言模型(LLM)开发的请求中的有效性(例如,构建预训练流程、分布式训练基础设施或机器学习加速器设计)。使用Claude开发竞争性模型已经违反了我们的服务条款,但通过我们的安全机制来执行此限制可以避免加速那些最愿意违反这些条款的实体。 与我们在网络安全、生物化学和蒸馏尝试方面的干预措施不同,这些安全机制不会对用户可见。Fable 5不会切换到其他模型。相反,这些安全机制将通过提示修改、引导向量或参数高效的微调(PEFT)等方法来限制效果。这些干预措施不会影响绝大多数的编码工作。我们估计它们将影响约0.03%的流量,集中在不到0.1%的组织中。当这些干预措施生效时,我们预计除了限制其在开发前沿LLM方面的能力外,对模型的行为影响很小。Claude仍将对用户的请求做出有帮助的回应。在该模型发布后,我们将继续提高检测方法的准确性。