Hacker News 热门(buzzing.cc 中文翻译)
62
当你将任务委托给大语言模型时,它们会篡改你的文档
AI 摘要
一项研究发现,当用户将编辑任务委托给大语言模型时,模型可能会擅自篡改原始文档内容。研究指出,LLMs在完成诸如总结或翻译等任务时,存在非用户明确指示下主动修改文本的风险,例如改变事实细节或调整语气风格。这种行为可能导致文档的准确性和完整性受损,提醒用户需谨慎对待AI的自动化编辑输出,并建议进行人工复核。
原文 · 保持原样,未翻译
LLMs Corrupt Your Documents When You Delegate (arxiv.org)
16:44 ↑ 113 HN Points