Система охлаждения серверов AI от NVIDIA H200 — технология жидкостного охлаждения

На фоне глобального бума искусственного интеллекта (ИИ) недавно выпущенный графический процессор NVIDIA H200 Tensor Core привлек большое внимание. Основанная на архитектуре NVIDIA Hopper, эта видеокарта является первой в линейке NVIDIA, использующей высокоскоростную память HBM3e, которая обеспечивает более высокую скорость и большую емкость, позволяя H200 более эффективно обрабатывать большие наборы данных, что критически важно для разработки больших языковых моделей.

Графический процессор NVIDIA H200 особенно хорошо подходит для крупных центров обработки данных и корпоративных серверных сред. Он был разработан для удовлетворения потребностей таких сценариев применения, как ИИ как услуга (AIaaS), крупномасштабное обучение машинного обучения и высокопроизводительные вычисления. Ведущие производители серверов, такие как Supermicro, объявили о партнерстве с NVIDIA для предоставления различных серверных систем, поддерживающих графическую карту H200, которая значительно ускоряет обучение моделей ИИ и повышает эффективность и масштабируемость центров обработки данных. Выпуск серверов с поддержкой H200 также потребует более эффективной системы жидкостного охлаждения для отвода тепла.

Три основные причины развития жидкостное охлаждение

1. Тепловое энергопотребление чипа достигает предела воздушное охлаждение .

Обучение и развитие больших моделей ИИ требует большей вычислительной мощности на чипе и большего энергопотребления на одном чипе. Температура чипа влияет на его производительность. Когда рабочая температура чипа приближается к 70-80 ° C, производительность чипа снижается примерно на 10% на каждые 2 ° C повышения температуры. В результате, увеличение энергопотребления отдельных чипов еще больше увеличивает потребность в отводе тепла. При TDP NVIDIA H200 до 700 Вт, тепловое энергопотребление достигло предела для процессоров с воздушным охлаждением — 350–400 Вт. Даже графические процессоры NVIDIA имеют тенденцию к достижению энергопотребления в 1000 Вт.

2. Показатель PUE (коэффициент эффективности использования ресурсов) в центрах обработки данных предъявляет более высокие требования.

Центры обработки данных являются крупными потребителями энергии, потребление энергии в центрах обработки данных в Китае высокое, поэтому снижение показателя PUE (коэффициент энергоэффективности при использовании ресурсов) для экономии энергии и сокращения выбросов также сыграет важную роль.

3. Преимущества жидкостного охлаждения в плане рассеивания тепла более очевидны, чем преимущества воздушного охлаждения.

• Для отвода тепла требуется тот же объем жидкости, который в 3000 раз превышает объем воздуха;

• Теплопроводность в 25 раз выше, чем у воздуха;

• При одинаковом уровне теплоотдачи, уровень шума системы жидкостного охлаждения как в режиме холостого хода, так и при полной нагрузке значительно ниже, чем при воздушном охлаждении, по данным лабораторных исследований, в среднем на 10–15 дБ.

• Жидкостная система охлаждения примерно на 30% энергоэффективнее, чем система воздушного охлаждения.

Классификация технологий жидкостного охлаждения

В зависимости от метода охлаждения, его можно разделить на две категории: косвенное и прямое охлаждение. Косвенное охлаждение в основном основано на использовании холодной пластины в качестве промежуточной среды для теплообмена устройства; этот способ также широко используется в промышленности. Прямое охлаждение делится на погружное и распылительное, а погружное — на однофазное (без фазового перехода) и фазоизменяющееся; однофазное широко используется в промышленности, а распылительное обычно применяется редко. Далее мы сосредоточимся на жидкостном охлаждении с помощью холодной пластины.

Главное отличие жидкостного охлаждения с помощью холодной пластины от иммерсионного жидкостного охлаждения заключается в том, что процессор, являющийся компонентом, выделяющим наибольшее количество тепла, не контактирует напрямую с теплоотводящей жидкостью. Вместо этого жидкость подается в теплопроводящее устройство, к которому крепится процессор, и тепло отводится через это устройство, обеспечивая тем самым эффект рассеивания тепла. Жидкостное охлаждение с помощью холодной пластины уже более 8 лет используется в высокопроизводительных вычислениях и вычислениях с высокой плотностью данных в системах искусственного интеллекта, обладая зрелой технологией, идеальной экологичностью и контролируемой общей стоимостью. Более того, жидкостное охлаждение с помощью охлаждающей пластины не меняет привычки использования клиента, жесткие диски, оптические модули и другие компоненты аналогичны системам воздушного охлаждения, а режимы работы и обслуживания, нагрузки в серверных помещениях и сценарии воздушного охлаждения практически одинаковы. При этом мощность одноточечного охлаждения превышает 700 Вт, что позволяет эффективно снизить показатель PUE в центрах обработки данных, что делает систему более подходящей для крупномасштабного коммерческого использования.

Технология жидкостного охлаждения играет ключевую роль в преодолении проблем облачных вычислений с использованием ИИ, открывая путь для облачных сервисов очень большого масштаба. Как глобальный поставщик решений для охлаждения, компания Lori специализируется на производстве стандартных радиаторов для ПК, радиаторов для серверов и проводит исследования в области технологий жидкостного охлаждения для предоставления решений по охлаждению серверов, работающих с ИИ.

Жидкостное охлаждение, водоблок

Радиатор водяного охлаждения

Жидкостное охлаждение