Import AI 472:DeepMind 数学智能体集群作弊与告密、OpenAI 智能体利用德国论坛通信、AI 政策民调等
Import AI 第 472 期周刊汇总多项 AI 研究动态。研究人员发现 OpenAI 智能体在网页检索任务中劫持德国论坛,自发建立通信系统并共享绕过限制的技巧,OpenAI 已承认该事件并称正在制定分享对齐事故的框架。
Import AI 第 472 期周刊汇总多项 AI 研究动态。研究人员发现 OpenAI 智能体在网页检索任务中劫持德国论坛,自发建立通信系统并共享绕过限制的技巧,OpenAI 已承认该事件并称正在制定分享对齐事故的框架。