谷歌发布ML Drift，为各类GPU加速端侧AI推理

据InfoQ消息，谷歌发布ML Drift，定位为面向端侧AI推理的加速方案，可支持各类GPU。该发布指向端侧推理这一算力基础设施环节，即在设备侧完成模型推理，以减少对云端算力的依赖。

端侧AI推理对功耗、时延与硬件适配提出更高要求，支持多种GPU意味着该方案试图覆盖更广泛的终端硬件形态。对于需要在本地运行模型的场景，端侧推理框架的成熟度直接影响部署成本与响应速度。

目前披露的信息集中在发布本身与GPU加速这一方向，具体性能数据与适配范围尚待后续公布。业界关注点在于，此类端侧推理方案能否在有限功耗下稳定承载日益增长的模型负载。