Ai2 如何用 GPU 时间预算和分层公平分享调度器优化集群分配
中文摘要
Ai2通过引入GPU时间预算与分层公平分享调度器,有效优化了集群资源分配,缓解了研究员的计算需求压力。
English Summary
Ai2 optimized cluster allocation by implementing GPU time budgets and hierarchical fair-share scheduling to manage high-demand compute resources for researchers effectively.
原文节选
Ai2 AI Infrastructure 团队将基于优先级的 GPU 调度器替换为包含 GPU 时间预算、分层公平分享分配和时间切片合约的系统,用于管理数千张 NVIDIA H100、B200 和 B300,服务约 150 名内部研究员,需求超出容量 2-3 倍。