IT KT, AI 컴퓨팅 사업 ‘확대’···인프라 비용 절감 ‘강점’

KT, AI 컴퓨팅 사업 ‘확대’···인프라 비용 절감 ‘강점’

등록 2021.12.28 09:01

기자

KT ‘하이퍼스케일 AI 컴퓨팅’ 출시, AI 인프라 클라우드로 ‘임대’최대 70% 비용 절감, 내년 초 ‘GPU 팜’ 구축···2023년 AI칩 개발

사진=KT.

KT가 인공지능(AI) 연구 및 개발에 필수적인 GPU 인프라를 사용한만큼 돈을 내는 ‘하이퍼스케일 인공지능(AI) 컴퓨팅’을 선보였다. 단순 월 정액이 아닌 사용량에 따라 비용을 지불하는 만큼 최대 70%의 비용절감이 가능한 것이 이점이다.

KT는 내년 초대규모 GPU 팜을 구축, 거대 AI 연구 개발이 가능한 인프라를 제공하는 한편 2023년 전용 AI 칩까지 제작하며 GPU 기술력 국산화에도 나선다는 포부다.

KT는 27일 온라인을 통해 ‘디지코 스터디’를 열고 자사 하이퍼스케일 AI 컴퓨팅에 대한 소개와 비전을 밝혔다.

KT의 하이퍼스케일 AI 컴퓨팅은 고비용의 GPU 인프라를 동적으로 제공하는 실사용량 기반 종량제 서비스다.

AI 응용 서비스 개발을 위한 데이터분석 및 모델 개발에는 고성능의 컴퓨팅 자원이 필요하며 특히 높은 연산능력을 가진 GPU 인프라가 필수적이다. AI 서비스 개발과 운용이 필요한 기업들은 자체적으로 GPU 팜을 구축하거나 클라우드 서비스 업체로부터 고정할당 방식의 인프라 서비스를 이용해야 한다.

하지만 GPU 시장이 특정 벤더의 독과점 이슈 등으로 비용이 높게 형성돼 인프라를 활용하려는 기업들에 만만치 않은 부담이 되고 있다.

하이퍼스케일 AI 컴퓨팅은 전문기업이나 개발자들이 GPU 자원을 원하는 시점에 원하는 만큼 할당받아 사용한 뒤 이후 자동 반납하는 형태로 개발됐다. KT 측은 최대 70% 가량의 비용 절감 효과를 기대하고 있다.

김주성 KT 클라우드/IDC 사업추진실 클라우드 사업담당(상무)는 “기존 타사들이 제공하는 방식은 쓰던, 쓰지 않던 간에 할당 이후 돈을 받는 모델”이라며 “관련 연산을 실행한만큼, 사용한만큼만 비용을 낼 수 있는 체계를 구축했다”고 밝혔다.

김 상무는 “KT 융합기술원, 연구소 등등에서 인프라를 실제 구매할 시 (AI 관련 인프라를)약 25~40% 가량만 사용하고 있다. 단순 1:1로만 비교해도 50% 가량 저렴하게 이용할 수 있다”면서 “최종적으로 70% 가량 할인된 요금을 고려, 설계하고 있다”고 말했다.

또 하이퍼스케일 AI 컴퓨팅은 대규모 GPU 자원이 필요할 때 원활히 확장할 수 있다. AI 모델이 대형화되더라도 별도 수정 없이 대응할 수 있으며 특정 시점에 준비된 전체 GPU가 모두 활용, 일시적으로 자원이 부족할 때에도 요청들을 자동 대기시키고 순차 처리해 서비스 안정성 역시 뛰어나다.

아울러 개발 단계마다 필요한 자원을 연속적으로 확대하거나 축소할 수 있어 AI 개발 과정에서 할당된 자원을 변경할 시 발생하는 서비스 중단을 최소화하고 지속해서 개발과 서비스를 이어갈 수 있다는 이점도 있다.

김 상무는 “고객사가 원하는 만큼 GPU 인프라를 확장할 수 있다. 이론 상 수천장의 GPU까지 확대가 가능하다”면서 “기존 만들어둔 AI 프로그램들과 호환도 가능하다”고 밝혔다.

KT는 내년 하이퍼스케일 AI 컴퓨팅 서비스 고도화에 나선다는 방침이다. KT는 앞서 커먼컴퓨터와 협력해 ‘모두의 연구소’의 학습용 플랫폼에 하이퍼스케일 AI 컴퓨팅을 도입하기 위한 환경을 구축, 테스트를 진행해왔다. 내년 초 모두의 연구소에서 운영하는 AI개발 교육 클래스에 적용할 예정이다.

KT는 AI 인프라 솔루션 전문기업인 모레와 협력해 내년 초대규모 GPU 팜을 구축할 예정이다.

김 상무는 “현재 약 100여장의 GPU를 통해 하이퍼스케일 AI 컴퓨팅을 꾸며놓은 상황이며 내년 1분기 중 수천장을 활용하는 GPU 팜을 구축할 예정”이라며 “

나아가 2023년에는 전용 AI 칩을 제작해 GPU 기술의 국산화도 추진한다.

김주성 상무는 “(하이퍼스케일 AI 컴퓨팅을)만들때부터 전용 칩 개발을 궁극적인 목표로 삼았다. AI 자체 칩은 설계부분부터 소프트웨어 개발과 병렬적으로 진행해왔다”면서 “소프트웨어, 하드웨어 개발사들과 협력을 통해 개발을 진행 중이며 2023년에는 만들 수 있을 것”이라고 밝혔다.