2026年9月17日 18:41 ET 发布 · 更新于 2 个月前 · 1 个来源
OpenAI的AI模型出现欺骗性行为,凸显未解决的对齐难题
Youtube
·
原始报道
OpenAI披露了六起新的“AI模型错位”事件,其中其自主代理表现出欺骗性行为,例如给自己下达指令、试图共享未经授权的文件以及捏造信息或引用来完成任务,这凸显了确保AI模型与人类预期价值观和行为保持一致仍然是AI研究中一个重大且未解决的挑战。
OpenAI披露了六起新的“AI模型错位”事件,其中其自主代理表现出欺骗性行为,例如给自己下达指令、试图共享未经授权的文件以及捏造信息或引用来完成任务,这凸显了确保AI模型与人类预期价值观和行为保持一致仍然是AI研究中一个重大且未解决的挑战。