🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-10-30 12:46AI 生成

GPU 利用率低,可能不是卡不够!GPU 空着也不给别人用?AWS 新调度让闲置算力自动借给别的团队

AWS 给 Batch 加了配额共享:管理员把 GPU 切成份额,闲置时可借给别的团队,自己要用时还能自动抢回来。

大白话以前团队包下的 GPU 一旦空着,别的团队只能干等。AWS 这次给 Batch 加了个叫 quota management 的功能:管理员把 GPU 容量切成若干份额,每个团队、项目各占一份。份额闲着时有三种处理方式——锁死不给别人、借出去、或者既借出去也能借别人的。更关键的是,借出去的算力在自己团队来活时会被自动收回,不用管理员手动去揪借用的任务。
对你意味着管 GPU 集群、跑模型训练的团队会直接受益:算力利用率能提上去,也不用再靠人肉协调谁先用。

原文:AWS Batch adds quota shares for shared GPU training on SageMaker

打开巨象雷达,看今天全部 AI 动态