NVIDIA Rubin 액체 냉각: 데이터 센터 물 사용을 거의 제로 수준으로 감소

AI 인프라 냉각에서 45°C 돌파구

NVIDIA의 Rubin 세대 AI 인프라는 100% 액체 냉각을 구현하여 서버가 최대 45°C(113°F)의 냉각수 온도로 동작할 수 있게 합니다. 이 높은 온도 한계 덕분에 데이터 센터는 에너지 집약적인 증발식 냉각에서 폐쇄 루프식 건식 냉각기로 전환할 수 있어, 시설 물 소비량을 메가와트당 연간 약 260만 갤런에서 거의 제로 수준으로 효과적으로 감소시킵니다.

100% 액체 냉각으로 전환

이전의 액체 냉각 서버는 하이브리드 시스템이었으며—GPU와 CPU는 액체 냉각이었지만 다른 부품은 공기 냉각을 유지했지만—Rubin 아키텍처는 완전 액체 냉각입니다. 모든 칩과 네트워킹 부품이 폐쇄 루프 내에서 액체로 냉각되어 팬이 필요 없으며 데이터 센터의 전통적인 “핫 아일/콜드 아일” 물리적 레이아웃도 사라집니다.

엔지니어링 개선

• Component Redesign: NVIDIA의 열공학 팀은 하나의 입구와 출구만 사용해 단일 보드의 여러 고전력 칩에 액체를 공급하도록 냉각 루프를 재설계하여 트레이 수준 아키텍처를 단순화했습니다.
• Space Efficiency: 완전 액체 냉각 서버는 랙 밀도를 높입니다. 이전에 6U를 차지하던 시스템이 이제 2U에 들어가 물리적 공간을 적게 차지하면서 더 많은 컴퓨팅 파워를 제공할 수 있습니다.
• Noise Reduction: 일반적으로 85데시벨 이상을 발생시키는 냉각 팬을 없앰으로써 환경이 크게 조용해집니다.

에너지 및 물 효율 향상

냉각 설정점을 높이면 열을 외부 공기로 보다 효율적으로 배출할 수 있습니다. 기후가 좋은 지역에서는 이를 통해 기계식 냉각이 필요 없는 “냉각기 없는” 운영이 가능해지며, 열이 냉각수 분배 장치를 통해 외부 라디에이터 코일(건식 냉각기)로 전달됩니다.

경제 및 환경 영향

• Energy Costs: 업계 추정에 따르면 냉각 플랜트 온도를 1도만 올려도 냉각 에너지 비용을 4% 절감할 수 있습니다. 50메가와트 규모의 하이퍼스케일 시설은 액체 냉각 인프라로 전환함으로써 연간 400만 달러 이상을 절감할 수 있습니다.
• Water Consumption: 기존 냉각탑은 증발을 통해 열을 제거합니다. NVIDIA 설계는 75% 물과 25% 프로필렌 글리콜 혼합 냉각수를 사용하는 폐쇄 루프 시스템을 사용함으로써 증발에 의한 물 손실을 없앱니다.
• Waste Heat Recovery: 냉각수의 높은 운전 온도는 잔여 열을 상업용 또는 주거용 건물의 지역 난방에 재활용하기에 더 적합하게 만듭니다.

기술적 제약 및 산업 관점

효율 향상에도 불구하고, 이 기술의 구현은 지리적·기술적 도전에 직면합니다. “건식 냉각”의 효과는 주변 외부 온도에 크게 좌우되며, 매우 뜨거운 기후에서는 연중 소수 기간 동안 기계식 냉각기가 여전히 필요할 수 있습니다.

커뮤니티 인사이트 및 반론

산업 실무자와 관찰자들은 이 설계의 확장성 및 실용성에 대해 여러 가지 점을 제기했습니다:

적절한 지리—신뢰할 수 있게 시원한 외부 공기가 있는 곳—에서는 액체 냉각 데이터 센터가 냉각수 분배 장치를 통해 열을 배출할 수 있습니다... 루프는 한 번만 채워지고 시설 수명 동안 폐쇄 상태로 운영됩니다.

하지만 일부 비평가들은 물 절감이 인식상의 문제라고 주장하며, 시스템 초기 충전에 상당한 물량이 필요하고 열이 단순히 물 증발에서 대기 오염(폐열)으로 이동한다고 지적합니다.

또한 일부 엔지니어들은 45°C가 개선된 것이지만, 고온 액체 냉각은 특수 슈퍼컴퓨팅 분야에서 새로운 개념이 아니라고 지적했습니다. 예를 들어 NASA Ames 연구센터 모듈형 슈퍼컴퓨팅 시설은 약 90°F(약 32°C) 정도의 입구 물 온도로 운영되어 전통적인 공기 조절을 피합니다.