SKT 유영상 대표, 통신 인프라 'AI' 탑재 천명

"1000억원 투자"···내년 'GPU H200' 도입

유영상 SK텔레콤 대표가 4일 오전 서울 강남구 코엑스에서 열린 'SK AI SUMMIT 2024'에서 발표를 하고 있다. 사진=강민석 기자 [e-mail]

"6G 시대에는 속도와 용량보다 AI 컴퓨팅에 집중해야 합니다. 저희는 통신 인프라에 AI를 내재해 다양한 AI 서비스와 산업을 뒷받침할 것입니다."

유영상 SK텔레콤 대표는 4일 서울 강남 코엑스에서 열린 'SK AI 서밋 2024(SK AI Summit 2024)'에서 "국내 고유의 AI 인프라를 구축하기 위해 내년부터 총 1000억원을 투자하고자 한다"며 이렇게 설명했다.

SK텔레콤은 통신 인프라를 활용해 AI DC와 '온디바이스 AI' 사이의 간극을 메꿀 수 있는 '에지 AI(Edge AI)'를 도입한다. 에지 AI는 이동통신 네트워크와 AI 컴퓨팅을 결합한 인프라다. 온디바이스 AI 대비 대규모 AI 연산이 가능해 기존 AI 인프라와 상호 보완적인 기능이 가능할 것으로 주목 받는다.

유 대표는 "통신 인프라를 활용해 에지 AI를 전국 단위로 구현하려고 한다"며 "장기적으로 볼 때 통신과 AI가 결합된 통합 인프라로 전환하고자 하며 이를 위해 기술과 비즈니스 모델 두 가지 관점에서 실질적인 노력을 기울이고 있다"고 강조했다.

"정보통신 인프라의 AI 컴퓨팅 파워를 더하기 위해 통신 국자에 특화된 상면 설계와 맞춤형 AI 서버를 개발하고 있으며 비즈니스 모델을 발굴하기 위해 국내외 파트너들과 함께 6개 영역에서 실증 사업을 진행하고 있다"고 덧붙였다.

AI 데이터센터(AI DC)에 대한 청사진도 이날 공개됐다. 내달(12월) 경기 성남 판교에 AI 데이터센터 테스트베드를 오픈한다. 데이터센터는 AI 반도체와 GPU 성능을 높여주는 가상화 기술이 접목돼 있다. AI 기반 에너지 관리 솔루션과 차세대 냉각 기술 3종이 구현될 전망이다.

유 대표는 "AI 데이터센터는 막대한 파급력을 갖고 오고, 약 175조원의 경제적 효과를 불러올 것으로 예상된다"며 "이에 지역 거점에 대규모 AI 데이터센터를 구축하고 차별적으로 경쟁력을 확대해 나가겠다"고 말했다.

서울 가산 데이터센터를 AI DC로 전환한다. 국내 GPU 공급 부족을 빠르게 해소하기 위함이다. 클라우드 형태로 GPU를 제공하는 GPUaaS(GPU as a Service)도 출시된다. 람다와 협력을 통해 내달 H100 기반의 GPUaaS를 시작으로, 내년 3월에는 국내 최초로 최신 GPU H200을 도입한다.

유 대표는 "(SK텔레콤의) 서비스는 기존 클라우드 대비 저렴한 가격으로 제공되지만, 추론 성능은 3배 이상 더 빠르다"며 "여기에 통신사업자로서 역량을 살려 안정적인 서비스를 제공하겠다"고 말했다.

한국형 소버린 AI도 선보인다. 리벨리온의 NPU(신경망처리장치), SK하이닉스의 HBM, SK텔레콤과 파트너사들이 보유한 다양한 AI DC 솔루션을 결합한 한국형 소버린 AI를 구현할 방침이다.

유 대표는 "제조업, 금융 등 주요 산업에 AI를 도입하고, 여러 기업과 협력해 국내 AI 생태계를 글로벌 수준으로 성장시킬 것"이라고 포부를 밝혔다.