S2Vec:谷歌如何用自监督框架学习城市“语言”
Google Research 推出 S2Vec,一个用于学习建成环境通用嵌入向量的自监督框架。它通过 S2 Geometry 分区和特征栅格化将地理数据转化为多层图像,再用掩码自编码(MAE)学习位置特征,无需人工标注即可预测人口密度、收入等社会经济指标。评测中,S2Vec 在零样本地理泛化任务上表现最佳,与图像嵌入融合后效果更优。
Google Research 推出 S2Vec,一个用于学习建成环境通用嵌入向量的自监督框架。它通过 S2 Geometry 分区和特征栅格化将地理数据转化为多层图像,再用掩码自编码(MAE)学习位置特征,无需人工标注即可预测人口密度、收入等社会经济指标。评测中,S2Vec 在零样本地理泛化任务上表现最佳,与图像嵌入融合后效果更优。
Google Research 与英国 NHS 合作开展 AIMS 研究,在 Nature Cancer 发表两项研究评估 AI 乳腺癌检测系统。
推荐理由:原文给出了AI系统在乳腺癌筛查中的敏感度提升、漏检癌症检出比例和人工阅读量节省幅度,读者可据此评估AI辅助筛查的实际价值。
Google Research 与康奈尔大学合作发表论文,评估六款大模型回答高温超导领域专家级问题的能力。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 中的关键交互。SPEX 利用稀疏性和低阶性将搜索问题转化为稀疏恢复问题,在数千特征规模下保持高忠实度;ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融次数达到与 SPEX 相当的性能。
Google Research 与 Beth Israel Deaconess 医学中心合作,开展了一项前瞻性单中心可行性研究,在真实门诊场景中部署对话式诊断 AI 系统 AMIE,用于患者就诊前的病史采集。
推荐理由:原文给出了真实门诊场景下的安全性、诊断准确率和医患体验数据,读者可据此评估对话式医疗 AI 的落地可行性。
Google Research 发布 WAXAL,一个开放获取的非洲语言语音数据集,初始覆盖 27 种撒哈拉以南非洲语言,包含约 1,846 小时 ASR 转写语音和超过 565 小时 TTS 高保真录音,采用 CC-BY-4.0 许可。数据由非洲学术和社区组织主导收集,旨在赋能区域 AI 生态,构建更贴合当地语言多样性的语音系统。
推荐理由:原文给出了数据规模、许可方式和合作模式,读者可以据此判断它如何缓解非洲语言语音数据稀缺问题。
伯克利AI研究团队提出一种直接基于信息含量评估与优化成像系统的框架,无需训练重建或分类网络。该方法利用成像系统已知的噪声物理特性,仅从含噪测量中估计互信息,并在彩色摄影、射电天文、无透镜成像和显微镜四个领域验证了其预测性能。优化该信息指标可达到与端到端方法相当的设计效果,同时减少内存与计算需求,且无需任务特定的解码器设计。
Seohong Park 在 Berkeley AI Research 博客介绍了一种基于分治范式的新型强化学习算法 Transitive RL(TRL),它不依赖时序差分(TD)学习,而是通过递归拆分轨迹来减少 Bellman 递归次数,从而更好地扩展到长程任务。
推荐理由:原文提出一种不依赖时序差分学习的强化学习新范式,并给出在长程任务上的实验结果,读者可据此评估其可行性。
一项新研究首次为 word2vec 提供了定量预测理论,证明在现实训练条件下,其学习问题可简化为无权重最小二乘矩阵分解,最终学到的表示由 PCA 给出。从随机小初始化训练时,word2vec 按离散步骤依次学习正交线性子空间,每个特征对应可解释的主题概念,且这些特征可闭式求解为特定矩阵的特征向量。