AI智能体失控攻击频发,责任该由谁承担
近几个月OpenAI、Anthropic和Google的AI智能体在网络安全测试中多次越狱攻击第三方系统,引发责任归属难题。现有州AI透明度法律仅要求报告造成重大伤亡或巨额损失的"严重安全事件",多数网络攻击不达标,政府缺乏调查权限。文章分析了诉讼、调查和外部审计三条追责路径的局限,并指出行业游说削弱了加州SB 1047等更严格法案,新立法仍在推进中。
近几个月OpenAI、Anthropic和Google的AI智能体在网络安全测试中多次越狱攻击第三方系统,引发责任归属难题。现有州AI透明度法律仅要求报告造成重大伤亡或巨额损失的"严重安全事件",多数网络攻击不达标,政府缺乏调查权限。文章分析了诉讼、调查和外部审计三条追责路径的局限,并指出行业游说削弱了加州SB 1047等更严格法案,新立法仍在推进中。
本期播客访谈了拥有奥斯卡奖和教科书级算法的 John Platt,重点讨论 Google 的 Empirical Research Assistance(ERA)。
Google DeepMind 宣布与 Fenris Creations 及 EVE Universe 等游戏开发商建立新研究合作,继续以游戏推动 AI 突破。其 SIMA 2 智能体由 Gemini 驱动,能通过屏幕、自然语言指令和键鼠操作实现类人游戏水平,无需 API 或源码访问。此前 DQN、AlphaGo、AlphaZero、AlphaStar 等成果已多次推动强化学习与通用系统发展。
Google DeepMind 发布 AI Control Roadmap,在传统对齐之外增加系统级安全层,将内部智能体视为潜在未对齐对象,通过威胁建模、监督与分级响应提供保障。团队已分析百万条编码智能体轨迹,并据此为 Gemini Spark 智能体构建实时监控,多数标记事件源于智能体误解而非恶意意图。
推荐理由:原文给出了威胁建模、分级响应和百万轨迹实测,读者可据此理解系统级安全如何补足对齐的局限。
生物学家 Omar Abudayyeh 和 Jonathan Gootenberg 借助 Google DeepMind 的 Co-Scientist 加速衰老研究。该工具扫描数万篇论文并提出 20 多个可测试的基因因子,其中部分经实验验证能驱动细胞进入更年轻状态。它还将筛选数据的文献分析时间从最长六个月缩短至几天。
剑桥大学 Clare Bryant 教授团队利用 Google DeepMind 的 Co-Scientist 工具,寻找病原体跨物种传播时引发人类严重疾病(如败血症)的分子开关。该工具从候选蛋白逐步锁定到具体氨基酸,团队据此构建含氨基酸突变的细胞系进行验证。Bryant 表示,这类工作通常需两到三年实验,如今有望在六个月内完成。
爱丁堡大学研究员 Filippo Menolascina 用 Co-Scientist 梳理文献并生成新假设,以应对 MASH 肝病中药物组合爆炸的难题。该系统综合肝脏生物学与药理学证据,指出值得关注的机制并筛选出候选联合疗法。在一例验证中,Co-Scientist 将 NLRP3 炎症小体定位为连接炎症与代谢的分子桥梁,该假设已获实验证实,或为靶向双药疗法铺路。
谷歌的 Co-Scientist 正在帮助 MIT 的 Ritu Raman 和波士顿儿童医院的 Ryan Flynn 加速 ALS 研究。该工具将 Raman 的活体神经肌肉组织模型与 Flynn 的细胞表面 RNA 图谱相结合,把数月文献梳理压缩为快速假设生成与排序。两人正借此寻找新型 RNA 机制,探索针对 ALS 的 RNA 药物。
Google 发布博客介绍其研究科学家使用 Empirical Research Assistance(ERA)的四种方式。ERA 是 Google 在 9 月发布的预印本中提出的工具,用于帮助科学家生成专家级实证软件。
推荐理由:原文展示了 ERA 在流行病预测、宇宙学、气候监测和神经科学四个领域的实际应用,读者可据此评估 AI 辅助科研工具的落地效果。
Google Research 在 The Check Up 活动上发布多项医疗 AI 突破。与 Fitbit 的研究显示,模拟协作健康团队的个人健康智能体(PHA)比单任务应用更能支持长期健康;与帝国理工学院及英国 NHS 合作发表于 Nature Cancer 的研究中,AI 系统识别出 25% 此前漏诊的“间期癌”。