mGPU 技术揭秘：mGPU 节点资源管理方案

mGPU 技术揭秘：mGPU 节点资源管理方案

摘要

为了解决独占式地使用 GPU 资源导致资源利用率低且成本高这个问题，火山引擎推出了 mGPU 方案，实现了 GPU 在不同容器间的共享、GPU 显存和算力的强隔离，帮助客户在共享使用 GPU 的同时，保证业务性能与资源不受干扰。

而要实现 GPU 共享的能力，除了上篇文章提到的需要 GPU 共享调度方案的支持外，节点层面的工作也是不可或缺的。