Революция жидкостного охлаждения Nvidia для серверов искусственного интеллекта

Энергопотребление передовых ИИ-чипов постоянно растет, что стало катализатором перехода следующего поколения ИИ-серверов DGX к жидкостному охлаждению. Текущая мощность TDP (расчетная тепловая мощность) флагманского графического процессора Nvidia H100 составляет 700 Вт, что превышает предел традиционного воздушного охлаждения. Ожидается, что Nvidia выпустит графический процессор Blackwell на архитектуре B100 с TDP примерно 1000 Вт позднее в этом году, и тогда определенно потребуется жидкостное охлаждение.

Для высокопроизводительных вычислительных систем жидкостное охлаждение имеет несколько ключевых преимуществ перед воздушным охлаждением:
Превосходная эффективность теплопередачи позволяет полностью охлаждать компоненты с более высоким TDP.
Из-за снижения спроса на высокоскоростные вентиляторы работа становится тише.
Конструкция системы более плотная, а громоздкие радиаторы и вентиляторы занимают меньше места.
Возможность улавливания и повторного использования отходящего тепла в жидкостно-жидкостных теплообменниках.

Используя жидкостное охлаждение, Nvidia может продолжать превышать пределы производительности ускорителей искусственного интеллекта, не ограничиваясь системой охлаждения. Поскольку сложность учебной нагрузки искусственного интеллекта продолжает расти, а соответствующее энергопотребление оборудования увеличивается, это имеет решающее значение. Сервер искусственного интеллекта DGX от Nvidia объединяет несколько графических процессоров в оптимизированную систему для рабочих нагрузок искусственного интеллекта, которая была быстро принята на вооружение крупными предприятиями. Крупнейшие поставщики облачных услуг, такие как Google Cloud, Meta и Microsoft, развернули системы DGX в своих центрах обработки данных. В последние годы, поскольку все больше и больше организаций стремятся использовать преобразующую силу искусственного интеллекта, внедрение систем искусственного интеллекта Nvidia DGX выросло в геометрической прогрессии.

В системе Nvidia DGX могут использоваться усовершенствованные конструкции иммерсионного охлаждения, в которых используются диэлектрические жидкости. Прямое охлаждение чипа нагнетает диэлектрические жидкости непосредственно на чипы графического процессора и другие тепловые компоненты без необходимости использования охлаждающих пластин, обеспечивая более прямую передачу тепла. Он может поддерживать очень высокие уровни TDP (500 Вт+) на одном чипе, обеспечивая более плотную систему.

Поскольку искусственный интеллект продолжает развиваться с поразительной скоростью, поддерживаемая аппаратная инфраструктура должна развиваться синхронно. Жидкостное охлаждение — ключевая технология, которая позволит ускорителям масштабироваться до беспрецедентного уровня производительности. Эта трансформация не лишена проблем. Поскольку центры обработки данных требуют трансформации инфраструктуры жидкостного охлаждения и разработки новых программ обслуживания, преимущества энергоэффективности, плотности и производительности значительны, и их нельзя игнорировать.