2026年9月5日 12:00 ET 发布 · 更新于 2 个月前 · 1 个来源
大型语言模型因追求统计合理性而非真实性而易受数据投毒和幻觉影响
Youtube
·
原始报道
大型语言模型(LLMs)的训练目标是基于预训练来预测文本,而不是保证真实性,这使得它们容易受到数据投毒和幻觉的影响,导致它们产生统计上合理但事实错误的答案,例如深度搜索(DeepSeek)对天安门事件的回应或ChatGPT关于发言者外貌的幻觉。
大型语言模型(LLMs)的训练目标是基于预训练来预测文本,而不是保证真实性,这使得它们容易受到数据投毒和幻觉的影响,导致它们产生统计上合理但事实错误的答案,例如深度搜索(DeepSeek)对天安门事件的回应或ChatGPT关于发言者外貌的幻觉。