직접 액체 냉각
직접 액체 냉각(Direct-to-Chip Liquid Cooling)은 서버의 CPU, GPU, AI 가속기 등 고발열 반도체 위에 냉각판을 밀착시키고 냉각수를 순환시켜 열을 칩 근처에서 직접 제거하는 데이터센터 냉각 방식이다.[1]
직접 액체 냉각은 공기를 이용해 서버 전체를 식히는 전통적인 공랭식 냉각과 달리, 발열이 가장 큰 칩 또는 모듈에 냉각판을 붙이고 그 안으로 냉각수를 흐르게 하여 열을 제거한다. 영어로는 Direct-to-Chip Liquid Cooling, Direct Liquid Cooling, D2C Cooling, DLC 등으로 부른다.
인공지능 학습용 GPU, 고성능 CPU, AI 가속기, 고대역폭 메모리, 고밀도 서버 랙의 전력 밀도가 높아지면서 기존 공랭 방식만으로는 열을 안정적으로 제거하기 어려워졌다. 직접 액체 냉각은 이러한 고밀도 AI 데이터센터에서 서버 성능 유지, 에너지 효율 개선, 랙 밀도 향상, 냉각수 사용량 관리 등을 위해 사용된다.
직접 액체 냉각은 냉각수가 전자부품 전체를 담그는 침지 냉각과 다르다. 직접 액체 냉각에서는 냉각수가 일반적으로 폐쇄된 배관과 냉각판 안을 흐르며, 칩 표면과 접촉한 금속 냉각판을 통해 열을 전달받는다. 따라서 기존 서버 랙 구조와 데이터센터 배관 인프라를 일정 부분 유지하면서 고발열 부품을 집중적으로 냉각할 수 있다.
생성형 인공지능과 대규모 언어 모델의 확산으로 데이터센터에는 수백 개에서 수천 개의 GPU를 고속 네트워크로 연결한 AI 클러스터가 배치되고 있다. 이러한 서버는 일반 웹 서버나 스토리지 서버보다 단위 랙당 전력 사용량과 발열량이 훨씬 크다.
NVIDIA의 GB200 NVL72는 36개의 Grace CPU와 72개의 Blackwell GPU를 하나의 랙 규모 시스템으로 연결하는 액체 냉각 기반 설계로 소개되었다.[2] 이러한 랙 규모 AI 시스템은 고성능 연산을 위해 칩과 메모리를 조밀하게 배치하므로, 열을 빠르게 제거하지 못하면 클럭 저하, 오류, 장비 수명 단축, 서비스 중단이 발생할 수 있다.
AI 데이터센터는 전력뿐 아니라 냉각용 물 사용량도 중요한 사회적 쟁점이 되고 있다. Reuters는 2026년 6월 3일 유엔대학 산하 연구진의 분석을 인용해, 데이터센터의 연간 전력 사용량이 2030년까지 945TWh로 늘고 물 사용량도 9.3조 리터에 이를 수 있다고 보도했다.[3]
유럽연합도 데이터센터의 에너지 효율과 지속가능성 기준을 강화하는 방향을 추진하고 있다. Reuters는 2026년 6월 4일 유럽연합이 데이터센터의 최소 에너지 효율 기준과 지속가능성 라벨을 준비하고 있으며, 물 사용량과 청정에너지 사용량 같은 지표 공개가 논의되고 있다고 보도했다.[4]
직접 액체 냉각은 이러한 환경에서 고밀도 연산을 가능하게 하면서도 냉각 효율을 높이기 위한 핵심 기술로 주목받고 있다.
공랭식 냉각은 팬으로 차가운 공기를 서버에 공급하고, 더워진 공기를 다시 회수하는 방식이다. 구조가 단순하고 오랫동안 검증된 방식이지만, 랙당 전력 밀도가 높아질수록 다음과 같은 한계가 나타난다.
- 팬 전력 소모 증가
- 핫스팟 발생
- 랙 밀도 제한
- 냉각 공기 흐름 관리의 어려움
- 고성능 GPU의 온도 유지 한계
- 고밀도 서버실에서의 소음과 진동 증가
- 실내 냉각기와 공조 설비 용량 증가
직접 액체 냉각은 공기보다 열용량이 큰 액체를 사용해 칩 근처에서 열을 회수하므로, 고밀도 서버에서 더 효율적인 열 제거가 가능하다.
직접 액체 냉각은 열이 발생하는 칩에서 냉각판, 냉각수, 배관, 열교환기, 시설 냉각 계통으로 열을 이동시키는 구조다.
일반적인 열 이동 경로는 다음과 같다.
CPU/GPU/AI 가속기 → 열전달 재료 → 냉각판 → 서버 내부 냉각수 루프 → 매니폴드 → 냉각수 분배 장치 → 시설 냉각수 또는 외부 열교환기 → 외부 공기 또는 냉각탑으로 방열
냉각판은 칩 위에 장착되는 금속 열교환기이다. 칩에서 발생한 열은 열전달 재료를 거쳐 냉각판으로 이동하고, 냉각판 내부의 미세 유로를 흐르는 냉각수가 그 열을 흡수한다. 데워진 냉각수는 서버 밖으로 나와 랙 또는 행 단위 배관을 통해 냉각수 분배 장치로 이동한다.
냉각수 분배 장치는 서버 측 냉각수 루프와 시설 측 냉각수 루프 사이에서 유량, 압력, 온도, 필터링, 누수 감지, 열교환을 관리한다. 이 장치는 데이터센터의 기존 냉동기, 드라이 쿨러, 냉각탑, 열교환기와 직접 액체 냉각 서버를 연결하는 중간 계층 역할을 한다.
냉각판은 직접 액체 냉각의 핵심 부품이다. CPU, GPU, AI 가속기, 전력반도체, 메모리 모듈 등 발열 부품 위에 설치된다. 내부에는 냉각수가 흐르는 미세 유로가 있으며, 유로 설계에 따라 열 제거 성능과 압력 손실이 달라진다.
Open Compute Project는 냉각판 하위 프로젝트를 통해 직접 액체 냉각 응용 분야의 표준화와 개방형 생태계 조성을 목표로 한다고 설명한다.[1]
열전달 재료는 칩과 냉각판 사이의 미세한 틈을 메워 열저항을 낮춘다. 일반적으로 열전도성 그리스, 패드, 상변화 재료 등이 사용된다. 직접 액체 냉각에서는 냉각판 자체의 성능뿐 아니라 칩과 냉각판 사이의 접촉 품질이 중요하다.
냉각수는 물, 물과 글리콜의 혼합액, 부식 방지제가 포함된 특수 냉각액, 일부 절연성 유체 등이 사용될 수 있다. 냉각수는 열전달 성능, 부식성, 전기전도도, 점도, 생물학적 오염 가능성, 유지보수 비용을 함께 고려해 선택한다.
냉각수가 전자부품과 직접 접촉하지 않는 구조라 하더라도, 누수 사고가 발생하면 장비 손상이나 서비스 중단으로 이어질 수 있다. 따라서 냉각수의 전기적 특성, 누수 감지, 배관 신뢰성, 정기 점검이 중요하다.
매니폴드는 여러 서버나 냉각판으로 냉각수를 분배하고 회수하는 배관 집합부이다. 랙 단위 또는 행 단위로 설치되며, 서버 교체와 유지보수를 쉽게 하기 위해 퀵 커넥터와 차단 밸브를 포함할 수 있다.
냉각수 분배 장치(CDU; Coolant Distribution Unit)는 직접 액체 냉각 서버와 데이터센터 시설 냉각 계통을 연결한다. 주요 기능은 다음과 같다.
- 냉각수 유량 조절
- 공급·회수 온도 관리
- 압력 조절
- 열교환
- 필터링
- 누수 감지
- 펌프 제어
- 센서 데이터 수집
- 경보와 원격 모니터링
CDU는 랙 내부, 랙 옆, 행 단위, 기계실 단위로 배치될 수 있다. 규모가 커질수록 CDU의 용량, 이중화, 유지보수성, 장애 격리 설계가 중요해진다.
시설 냉각 계통은 데이터센터 건물 수준에서 열을 외부로 배출하는 설비이다. 냉동기, 냉각탑, 드라이 쿨러, 열교환기, 펌프, 배관, 축열 설비 등이 포함된다. 직접 액체 냉각은 서버실 내부의 열 제거 방식이므로, 최종적으로는 시설 냉각 계통과 조합되어야 한다.
직접 액체 냉각은 칩에 냉각판을 붙이고 냉각수가 냉각판 내부를 흐르게 하는 방식이다. 서버 전체를 액체에 담그지 않으므로 기존 랙, 서버 유지보수 절차, 공랭 보조 냉각과 병행하기 쉽다.
침지 냉각은 서버나 부품을 절연성 액체에 직접 담그는 방식이다. 공기 흐름을 크게 줄일 수 있고 열 제거 성능이 높지만, 장비 호환성, 유지보수 방식, 유체 관리, 탱크 구조, 부품 교체 절차가 크게 달라진다.
후면 도어 열교환기는 서버 랙 뒤쪽에 액체 냉각식 열교환기를 설치해 서버에서 나온 더운 공기를 식히는 방식이다. 칩에 직접 냉각판을 붙이는 방식은 아니지만, 기존 공랭 서버와 결합해 랙 단위 냉각 성능을 높일 수 있다.
하이브리드 냉각은 CPU, GPU 같은 고발열 부품은 액체로 식히고, 메모리, 저장장치, 전원공급장치, 네트워크 카드 등은 공기로 식히는 방식이다. 실제 AI 서버에서는 직접 액체 냉각과 공랭이 함께 사용되는 경우가 많다.
직접 액체 냉각은 열이 발생하는 칩 가까이에서 열을 제거하므로, 고전력 GPU와 AI 가속기의 온도를 안정적으로 유지할 수 있다. 이는 열로 인한 성능 저하를 줄이고, 높은 클럭과 안정적인 연산 성능을 유지하는 데 도움이 된다.
공랭식 환경에서는 랙당 전력 밀도가 높아질수록 공기 흐름과 냉각 용량이 한계에 도달한다. 직접 액체 냉각은 고밀도 랙을 더 현실적으로 구성할 수 있게 하며, AI 클러스터를 더 작은 공간에 배치하는 데 유리하다.
칩의 주요 발열을 액체가 직접 제거하면 서버 팬과 실내 공조 장치의 부담이 줄어들 수 있다. 다만 펌프와 CDU가 추가 전력을 사용하므로 전체 효율은 설계에 따라 달라진다.
직접 액체 냉각은 폐쇄 루프 구조로 설계할 수 있어 증발식 냉각보다 물 사용량을 줄일 수 있다. Microsoft는 2024년 12월 차세대 데이터센터 설계에서 칩 수준 냉각을 활용해 냉각용 물 증발을 없애는 방식을 도입한다고 설명했다.[5]
다만 물 사용량을 줄이는 설계가 항상 전력 사용량까지 줄이는 것은 아니다. 드라이 쿨러나 공랭식 보조 냉각을 많이 쓰면 물 사용량은 줄어도 전력 소모가 증가할 수 있으므로, 전력사용효율과 물사용효율을 함께 봐야 한다.
직접 액체 냉각은 서버 랙 안으로 냉각수 배관이 들어가는 구조이므로 누수 위험을 관리해야 한다. 누수는 서버 장애, 부식, 단락, 서비스 중단, 유지보수 비용 증가로 이어질 수 있다.
누수 위험을 줄이기 위한 대책은 다음과 같다.
- 누수 감지 센서
- 압력·유량 모니터링
- 퀵 커넥터 품질 관리
- 배관 이중화 또는 격리
- 부식 방지제 관리
- 정기적인 수질 검사
- 유지보수 절차 표준화
- 장애 발생 시 자동 차단
냉각판 내부 유로는 좁기 때문에 냉각수 안의 입자, 부식 생성물, 미생물, 침전물이 축적되면 유량이 줄어들고 냉각 성능이 떨어질 수 있다. 따라서 필터링, 부식 억제, 전기전도도 관리, pH 관리, 냉각수 교체 주기 관리가 필요하다.
공랭식 데이터센터는 공기 흐름, 냉복도·열복도, 항온항습기, 팬 제어가 중심이다. 직접 액체 냉각은 여기에 배관, 펌프, 밸브, CDU, 열교환기, 수질 관리, 누수 대응, 시설 냉각 계통 연동이 추가된다. 따라서 설계, 시공, 운영, 유지보수의 난이도가 높아진다.
기존 데이터센터에 직접 액체 냉각을 도입하려면 바닥 하중, 배관 경로, 기계실 용량, 랙 구조, 전력 밀도, 유지보수 공간, 누수 대응 절차를 다시 검토해야 한다. 공랭식 서버만 고려해 설계된 시설은 직접 액체 냉각 랙을 대규모로 수용하기 어려울 수 있다.
직접 액체 냉각은 서버 제조사, 칩 제조사, 랙 제조사, 냉각판 업체, CDU 업체, 데이터센터 설계사, 운영사가 함께 맞춰야 하는 시스템 기술이다. 커넥터, 냉각수, 매니폴드, 센서, 유지보수 절차가 서로 맞지 않으면 운영 복잡성과 종속성이 커진다. 이 때문에 OCP와 같은 개방형 하드웨어 생태계에서 냉각판과 액체 냉각 관련 표준화가 논의된다.[1]
열 설계에서는 각 칩의 최대 전력, 열저항, 냉각판 접촉 품질, 냉각수 유량, 공급 온도, 회수 온도, 랙당 총 발열량을 계산해야 한다. AI 서버는 칩별 발열 분포가 고르지 않으므로, 단순 평균 온도보다 핫스팟 관리가 중요하다.
냉각수 유량이 부족하면 칩 온도가 상승하고, 유량이 과도하면 펌프 전력과 압력 손실이 커진다. 냉각판 내부 유로가 좁을수록 압력 손실이 커질 수 있으므로, 성능과 유지보수성을 함께 고려해야 한다.
공급 냉각수 온도를 낮추면 냉각 성능은 좋아지지만 결로와 냉동기 부담이 증가할 수 있다. 반대로 공급 온도를 높이면 자연 냉각이나 드라이 쿨링 활용 가능성이 커지지만 칩 온도 여유가 줄어든다.
냉각수 온도가 실내 공기의 이슬점보다 낮으면 배관이나 냉각판 주변에 결로가 생길 수 있다. 결로는 전자장비에 치명적이므로, 온습도 제어와 냉각수 공급 온도 관리가 필수적이다.
직접 액체 냉각 시스템의 장애가 전체 랙 또는 전체 클러스터 장애로 확대되지 않도록 구역별 차단, 바이패스, 이중 펌프, 예비 CDU, 경보 체계, 유지보수 절차를 설계해야 한다.
직접 액체 냉각 데이터센터에서는 서버 온도뿐 아니라 다음 지표를 지속적으로 모니터링해야 한다.
- 냉각수 공급 온도
- 냉각수 회수 온도
- 랙별 유량
- 압력과 차압
- 냉각수 전기전도도
- pH
- 입자 오염도
- 누수 감지 상태
- 펌프 상태
- CDU 상태
- 서버별 열 스로틀링 발생 여부
전력사용효율(PUE)은 데이터센터 전체 전력 사용량을 IT 장비 전력 사용량으로 나눈 값이다. 직접 액체 냉각은 팬과 실내 공조 부하를 줄여 PUE 개선에 기여할 수 있다. 그러나 펌프, CDU, 시설 냉각 계통의 전력까지 포함해 전체 시스템 관점에서 평가해야 한다.
물사용효율(WUE)은 데이터센터가 IT 장비 에너지 사용량 대비 얼마나 많은 물을 사용하는지를 나타내는 지표다. 직접 액체 냉각 자체가 항상 물 사용량을 줄이는 것은 아니지만, 폐쇄 루프와 비증발식 냉각을 조합하면 냉각용 물 소비를 줄일 수 있다. Microsoft는 Fairwater 데이터센터와 관련해 폐쇄 루프 방식으로 액체를 계속 재사용하는 설계를 설명했다.[6]
직접 액체 냉각은 에너지 효율을 높여 냉각 전력 사용량을 줄일 수 있지만, 전체 탄소 배출은 전력원의 탄소집약도, 데이터센터 사용률, 장비 제조 과정, 냉각 설비 수명, 물류와 유지보수까지 포함해 평가해야 한다.
대규모 언어 모델과 멀티모달 모델 학습에는 다수의 GPU가 장시간 높은 부하로 작동한다. 직접 액체 냉각은 GPU 온도를 안정적으로 유지하고 고밀도 랙 구성을 가능하게 하므로 AI 학습 클러스터에 적합하다.
대규모 추론 서비스에서는 모델 응답 지연, 처리량, 전력 효율이 중요하다. 고성능 추론 서버가 고밀도로 배치될수록 직접 액체 냉각의 필요성이 커진다.
과학 계산, 기상 예측, 유체 해석, 신약 개발, 유전체 분석, 핵융합 시뮬레이션 등 고성능 컴퓨팅 분야는 오래전부터 액체 냉각을 활용해 왔다. AI 데이터센터의 직접 액체 냉각은 이러한 HPC 냉각 기술이 상업용 클라우드와 대규모 데이터센터로 확산되는 흐름으로 볼 수 있다.
고밀도 엣지 데이터센터나 통신국사에서도 공간과 냉각 제약이 커질 경우 직접 액체 냉각을 검토할 수 있다. 다만 현장 유지보수 인력, 누수 대응, 표준화 수준이 충분히 확보되어야 한다.
AI 데이터센터 냉각은 반도체, 서버, 전력, 자동차 부품, 열관리 기업이 함께 참여하는 시장으로 확대되고 있다. Reuters는 2026년 6월 3일 자동차 부품 기업 Valeo의 주가가 데이터센터와 배터리 에너지 저장 시스템 분야의 성장 기대감으로 급등했으며, 데이터센터 액체 냉각 시장 전망이 투자자 관심을 끌었다고 보도했다.[7]
AI 인프라가 확대될수록 냉각은 단순한 부대설비가 아니라 서버 아키텍처, 전력망 접속, 데이터센터 입지, 물 사용량, 지속가능성 보고, 공급망 경쟁력을 좌우하는 핵심 기술이 된다.
직접 액체 냉각과 침지 냉각은 모두 액체를 이용하지만, 시스템 구조와 운영 방식이 다르다.
| 구분 | 직접 액체 냉각 | 침지 냉각 |
|---|---|---|
| 냉각 방식 | 칩 위 냉각판에 냉각수를 순환 | 서버 또는 부품을 절연성 액체에 담금 |
| 기존 랙 호환성 | 비교적 높음 | 낮거나 별도 구조 필요 |
| 유지보수 방식 | 서버 단위 교체와 배관 관리 중심 | 유체 탱크, 부품 인양, 세척 절차 필요 |
| 누수 위험 | 배관과 커넥터 누수 관리 필요 | 탱크 유체 관리와 유출 관리 필요 |
| 적용 확산성 | AI 서버와 기존 데이터센터 개조에 상대적으로 유리 | 초고밀도 특수 환경에 유리 |
직접 액체 냉각 도입은 단순히 액체 냉각 서버를 구매하는 것으로 끝나지 않는다. 일반적인 도입 절차는 다음과 같다.
- 대상 워크로드와 랙당 전력 밀도 산정
- 서버와 GPU 발열량 분석
- 기존 데이터센터의 전력·냉각 여유 검토
- 냉각수 분배 장치 위치 결정
- 시설 냉각 계통과의 연계 설계
- 배관 경로와 유지보수 공간 설계
- 냉각수 종류와 수질 관리 기준 결정
- 누수 감지와 차단 절차 수립
- 모니터링 시스템 연동
- 장애 시 운영 절차 수립
- 시운전과 부하 테스트
- 운영 인력 교육
직접 액체 냉각은 AI 시대 데이터센터의 물리적 한계를 해결하기 위한 핵심 인프라 기술이다. 고성능 GPU와 AI 가속기의 성능은 반도체 공정과 아키텍처만으로 결정되지 않는다. 전력 공급, 냉각, 배관, 물 사용량, 계통 안정성, 유지보수 절차가 함께 맞아야 실제 데이터센터에서 안정적으로 운용될 수 있다.
따라서 직접 액체 냉각은 단순한 냉각 장치가 아니라 AI 인프라의 확장성, 데이터센터 지속가능성, 서버 설계, 전력망 계획, 클라우드 비용 구조와 연결되는 시스템 기술로 이해해야 한다.
- ↑ 1.0 1.1 1.2 Open Compute Project, "Cold Plate". 확인일: 2026-06-07.
- ↑ NVIDIA, "GB200 NVL72". 확인일: 2026-06-07.
- ↑ Reuters, "AI to double data centre power and water consumption by 2030, UN researchers say". 확인일: 2026-06-07.
- ↑ Reuters, "EU proposes energy standards for data centers". 확인일: 2026-06-07.
- ↑ Microsoft, "Sustainable by design: Next-generation datacenters consume zero water for cooling". 확인일: 2026-06-07.
- ↑ Microsoft, "Infinite scale: The architecture behind the Azure AI superfactory". 확인일: 2026-06-07.
- ↑ Reuters, "Car supplier Valeo shares soar on bets over data centre growth". 확인일: 2026-06-07.
