20多位顶尖AI研究者警告自动化AI研究可能引发智能爆炸
20多位AI研究者(包括Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki)在新论文中警告,自我改进的AI可能很快引发智能爆炸。论文指出,AI系统已在编写大部分代码,可能数年内自动化整个AI研发流程,使原本需数年的进展在数月内完成,并呼吁政策制定者加强对AI研究自动化的监管。
20多位AI研究者(包括Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki)在新论文中警告,自我改进的AI可能很快引发智能爆炸。论文指出,AI系统已在编写大部分代码,可能数年内自动化整个AI研发流程,使原本需数年的进展在数月内完成,并呼吁政策制定者加强对AI研究自动化的监管。
Google 发布博客介绍其研究科学家使用 Empirical Research Assistance(ERA)的四种方式。ERA 是 Google 在 9 月发布的预印本中提出的工具,用于帮助科学家生成专家级实证软件。
推荐理由:原文展示了 ERA 在流行病预测、宇宙学、气候监测和神经科学四个领域的实际应用,读者可据此评估 AI 辅助科研工具的落地效果。