谷歌发布开源跨平台GPU计算引擎ML Drift，专为端侧AI与机器学习推理设计，采用Apache 2.0许可，抽离GPU硬件与底层API复杂性，支持OpenGL ES、OpenCL、Metal及WebGPU等主流图形接口。该引擎作为LiteRT核心GPU加速基础，旨在解决端侧应用对多样化GPU架构的访问难题，实现可移植性与性能双重提升，覆盖传统计算机视觉、音频深度处理及生成式AI等场景。为适配不同硬件，ML Drift在Arm、In GPU等架构上优化专属性能，通过Dawn（WebGPU实现）扩展桌面端推理支持至Windows与Linux，并保留MacOS原生Metal后端。基于Gemma模型基准测试显示，其内存开销较llama.cpp、MLX LM等框架低12%。在应用层面，ML Drift已在Chrome、YouTube Shorts、Photos、Meet等数百万设备运行，显著降低性能损耗：YouTube Shorts端框平均帧延迟降低40%，Photos计算摄影与图像分割流水线提速达2秒，AI照片编辑功能性能提升最高30%，Snapchat安卓端人脸风格生成特效延迟降低30%以支持更大扩散模型。技术层面，ML Drift以张量虚拟化统一着色器、支持扩展自定义算子及原生五维张量，实现逻辑与物理内存解耦以减少内存碎片化，为边缘GPU运行空间模型与Transformer等模型提供新路径。
--91likeyou---
谷歌使用 Gemma 模型在开发者级工作站硬件上对 ML Drift 进行了基准测试，报告显示其内存开销比其他框架（包括 llama.cpp 和 MLX LM）低 12%。谷歌还强调，ML Drift 已通过 Chrome、YouTube Shorts、Photos 和 Meet 等应用在数百万台设备上运行。
对于 YouTube Shorts，ML Drift 让 Android 和 iOS 平台上基于分割算法的特效平均帧延迟最高降低了 40%。对于谷歌 Photos，计算摄影与图像分割流水线提速最高可达 2 秒。Adobe Lightroom 和 Photoshop 的特定 AI 照片编辑功能（如选择主体、选择天空和自适应人像）性能提升最高达 30%。最后，Snapchat 在 Android 上基于 ML 驱动的人脸和风格生成特效模型延迟降低了 30%，从而能够使用更大的扩散模型。
AI/ML 工程师 Pavithra Agraharam 在 LinkedIn 的相关动态下评论道：
无需通过布局 Hack 就能原生支持 5D 张量，对于在边缘 GPU 上运行空间模型和 Transformer 模型来说是重大利好。将逻辑张量和物理内存分配解耦能够显著减少在线推理过程中的内存碎片化。
Tensorust 创始人兼开发者 Matthew Charles Vladislav Busel 质疑“它与 Core ML 在新 i，毕竟这是目前大多数人的交付目标平台”，但谷歌并未提供任何对比数据。
随着 ML Drift 的发布，谷歌将停止更新旧版 TensorFlow Lite GPU 委托。为与现有模型保持向后兼容，谷歌建议迁移至 LiteRT ML Drift GPU 加速器。应用开发者可以使用 LiteRT ML Drift 加速器，GPU 和系统工程师可以通过其底层 C++ API 构建自定义 GpuModel 计算图并编写自定义着色器。
查看英文原文：
🔥 热词：#谷歌发布最强数学推理 AI 模型 · #谷歌发布三款全新ai模型 · #谷歌发布新ai模型 · #谷歌发布最强ai模型套件 · #谷歌发布AI多重搜索功能 · #谷歌与Meta发布AI智能体 · #谷歌发布ai工具 · #谷歌ai视频生成模型费用公布