跳到正文
原文
Hugging Face Blog·· 28 天前精选AI 评分73

Hugging Face 发布 @huggingface/kernels:207 个 WebGPU 内核加速本地 AI 推理

Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI

AI 导读

Hugging Face 发布 @huggingface/kernels,一个用于从 Hub 加载和运行优化 WebGPU 内核的库,并推出 207 个内核的初始集合,Apache-2.0 许可。在 Apple M4 GPU 上与 ORT WebGPU 对比,几何平均快 2.57 倍,中位数快 1.90 倍。同时推出 Fleet 浏览器基准测试套件,用于众包收集真实 GPU 上的正确性和性能证据。

推荐理由

原文给出了 207 个 WebGPU 内核的发布、性能对比数据和开源许可,读者可据此评估浏览器端推理的加速空间。

来源:Hugging Face Blog · huggingface.co