서울 도심에 숨은 'AI 공장'···NHN팩토리X 서울 가보니

B200 7656장 기반 대규모 GPU 클러스터 구축AI 전용 DC 광주서 쌓은 기술력으로 수랭식 적용NIPA-CL1, 세계 20위···AI 인프라 경쟁력 입증

서울 영등포구 양평동 한복판, 주변 건물 사이로 유독 낯선 건물이 눈에 들어왔다. 창문은 거의 찾아볼 수 없고 외벽에서도 일반적인 사무용 빌딩의 모습은 찾기 어려웠다. 겉만 봐서는 무엇을 하는 곳인지 짐작하기 힘들다. 내부로 들어서자 분위기는 완전히 달라졌다. '윙' 소리로 가득 찬 6층 데이터홀 안에는 엔비디아 B200 그래픽처리장치(GPU)가 빼곡하게 들어서 있었고 데이터 처리 과정에서 발생하는 열을 식히기 위한 수냉 설비와 배관이 촘촘하게 놓여져 있었다. 지난 18일 찾은 NHN클라우드의 'NHN 팩토리X 서울'이다.

서울 영등포구 양평동에 위치한 'NHN팩토리X서울' 사진=유선희 기자

NHN 팩토리X 서울은 NHN클라우드의 AI 인프라 운영을 위한 핵심 거점으로, 대규모 GPU 클러스터를 기반으로 인공지능(AI) 모델 학습과 추론을 지원하는 고성능 컴퓨팅 인프라를 운영하는 AI 데이터센터다. 데이터홀이 들어선 건물 전체를 NHN클라우드가 사용하는 것은 아니다. 3층부터 10층까지 데이터홀이 구성된 가운데 NHN클라우드는 3~6층을 활용하고 있다. 3~5층에는 정부 AI 컴퓨팅 자원이, 6층에는 NHN클라우드가 자체 AI 클라우드 서비스와 GPU 인프라 운영을 위해 사용하는 자원이 들어서 있다.

가장 중요한 AI 연산 자원인 GPU는 B200 7656장을 확보했다. 이 중 4080장(510노드) 규모 'NIPA-클러스터(CL)1', 2040장(255노드) 규모 'NIPA-CL2' 클러스터를 구축했다. 특히 NIPA-CL1의 경우 지난 6월 '글로벌 슈퍼컴퓨터 TOP500'에서 국내 최고인 세계 20위에 올랐다. 클러스터는 다수의 GPU를 고속 네트워크로 연결해 하나의 거대한 컴퓨팅 자원처럼 활용하는 구조로, 대규모 AI 모델의 학습과 추론을 효율적으로 수행할 수 있는 것이 특징이다.

규모를 보여주는 숫자는 전력이다. 데이터센터의 전체 IT 로드는 26메가와트(MW)로, NHN클라우드가 사용하는 규모만 약 13MW에 달한다. 인구 10만여 명의 공주시가 쓰는 전력이 10메가와트 정도로 추산되는데, 하나의 도시보다 데이터센터 1기가 훨씬 더 많은 전력을 사용하는 셈이다. 전력이 끊기는 비상 상황을 고려해 전력 공급도 여러 겹으로 구성됐다. 두 개의 변전소에서 전력을 공급받고, 한쪽에 문제가 생겨도 다른 쪽에서 전력을 공급할 수 있도록 이중화했다. 두 변전소 모두 문제가 생길 경우에는 무정전전원공급장치(UPS)와 배터리가 먼저 전력을 이어받고, 이후 지하 4층에 대기된 비상발전기가 가동된다.

'NHN팩토리X 서울' 데이터홀 내부 수랭 배관 모습. 사진=NHN클라우드 제공

데이터홀 상부를 보니 수랭 배관이 천장에서 내려와 랙과 이어져 있었다. 수랭식 설비는 NHN 팩토리X 서울이 자랑하는 요소 중 하나다. 입주한 데이터센터는 애초 공기로 서버의 열을 식히는 공랭식 냉각을 기준으로 설계됐지만, NHN은 B200 GPU를 운용하기 위해 기존 냉각 설비에서 서버 랙까지 냉각수를 공급하는 직접수랭식(DLC) 냉각 시설을 구축했다. 수랭식 냉각은 GPU와 중앙처리장치(CPU) 등에 콜드 플레이트를 직접 접촉시켜고, 액체 냉매를 순환시켜 열을 식힌다.

이일준 NHN클라우드 기술사업부장(이사)은 "대규모 GPU 자원을 수랭 냉각 기반으로 운영하는 것은 국내서 NHN클라우드가 처음일 것"이라고 말했다. 이어 "그래도 전체 설비의 20% 정도는 공냉 냉각에 의존하고 있다"며 "GPU에 비해 열 발생이 적은 네트워크 장비나 스토리지, 네트워크 카드, GPU 서버 등은 공냉식 냉각이 적용되고 있다"고 설명했다.

이일준 NHN클라우드 기술사업부장(이사). 사진=NHN클라우드 제공

대규모 GPU 자원을 고장없이 관리하기 위해 관제실은 24시간 운영된다. 주간에는 4명, 야간에는 2명이 상주를 하고 있다. 직원들은 대형 모니터를 통해 GPU와 네트워크 상태 등을 실시간으로 확인·관리하고 있었다. 이 이사는 "안정적으로 GPU 자원들이 제대로 작동하는 지 관리하는게 필수"라며 "AI 컴퓨팅 환경에 최적화된 통합 운영 관리 체계를 기반으로 GPU 인프라의 안정적인 운영과 AI 서비스 활용을 지원하고 있다"고 말했다.

팩토리X 서울은 NHN이 정부 GPU 구축 사업을 수주하면서 조성됐다. 정부가 관련 IT 자원을 소유하고, NHN클라우드는 자원 구매부터 데이터센터 임차·구축, 향후 5년간 운영까지 맡는 구조다. 대신 전체 AI 컴퓨팅 자원의 80%는 정부가 지정한 산업체·연구소·학교 등에 제공하고, 나머지 20%는 NHN클라우드가 자체적으로 활용한다. 최근 진행한 NHN의 올 2분기 실적 컨퍼런스 콜에 따르면 NHN이 확보한 이 20% 물량에서 서비스형 GPU의 매출이 본격적으로 발생하는 중이다.

이 이사는 "데이터센터 운영 비용을 국가로부터 받지 않는 대신, 20%를 자체 연구·개발에 활용하거나 남는 자원을 외부에 판매해 데이터센터 운영에 필요한 비용을 충당하는 구조"라고 설명했다.