跳到正文

#端侧

今日 1 条
今天9月29日周二
  1. TechCrunch · AI38

    祖父遭深度伪造语音诈骗后,创始人创办 DetectifAI 应对此类骗局

    旧金山初创公司 DetectifAI 推出可在智能手机操作系统内运行的紧凑型 AI 模型,用于实时检测通话、语音消息及其他音频是否由 AI 生成,且音频无需离开设备。该公司主要向手机厂商授权其 SDK,使检测功能成为手机内置特性,并计划向企业和防欺诈公司提供二次授权。据 FBI 数据,美国人去年因 AI 驱动诈骗损失近 9 亿美元,同比增长 24%。

9月26日周六
  1. Ars Technica · AI40

    微软不再坚持“Copilot+ PC”品牌,新Surface不再使用该名称

    微软本周发布的新款Surface电脑不再使用“Copilot+ PC”品牌名称,尽管其硬件仍符合该标准。Surface Pro 12英寸(第2版)和Surface Laptop 13英寸(第2版)将于10月13日上市,搭载高通骁龙X2 Plus处理器和80 TOPS的Hexagon NPU。微软的Copilot+ PC页面现已重定向至“性能PC”页面,品牌标识不再突出。

9月25日周五
9月22日周二
  1. Hugging Face Blog42

    oMLX 创建者 Jun Kim 加入 Hugging Face,助力 MLX 社区发展

    oMLX 创建者及维护者 Jun Kim 加入 Hugging Face,以支持 MLX 社区。oMLX 将保持 Apache 2.0 开源协议,并由 Jun 继续主导开发,从兼职项目升级为全职维护项目,有望带来更稳定的发展和更快的迭代。Hugging Face 希望 oMLX 成为新想法的试验场,并加速 transformers 模型定义到 MLX 实现的转换。

  2. Hugging Face Blog73

    Hugging Face transformers 支持运行 llama.cpp 的 GGUF 量化模型

    Hugging Face 在 transformers 中加入对 GGUF 模型的高效运行支持,通过复用 ggml 的 Metal 内核,可在 Apple Silicon 上以熟悉的 from_pretrained 接口加载并生成。

    推荐理由:原文给出了 GGUF 加载方式、性能对比和当前限制,读者可以据此判断在 transformers 里跑本地量化模型的可行性与适用场景。

8月26日周三
7月21日周二