KT ‘하이퍼스케일 AI’ 출시, R&D 인프라·컨설팅 통합 제공

GPU 대신 IPU 활용, 가격 낮추고 성능 높여

손찬혁 KT IDC사업팀장이 하이퍼스케일 AI 서비스와 KT의 IDC를 설명하고 있다. 사진=이어진 기자.

KT가 고가의 인공지능 연구개발 인프라를 저렴하게 빌려 쓸 수 있는 통합 솔루션을 선보인다. 고가의 그래픽처리장치(GPU)를 활용하지 않고 지능형처리장치(IPU)를 활용, 가격을 낮추고 성능을 높였다는게 회사 측의 설명이다. 메가존클라우드와 협력, 컨설팅도 제공한다.

KT는 인공지능 연구 및 상용화 인프라 환경과 운영 컨설팅을 지원하는 하이퍼스케일 인공지능 서비스를 출시했다고 9일 밝혔다.

KT의 하이퍼스케일 인공지능 서비스는 인공지능 컴퓨팅 파워와 개발자 툴킷, 전문가 그룹의 컨설팅과 데이터센터로 구성된다. 무엇보다 인공지능 모델 학습, 추론에 최적화된 지능형처리장치(IPU)를 기반으로 안전하고 빠르며 필요한만큼 추가할 수 있다는 점이 특징이다.

지능형처리장치는 기존 인프라 대비 저렴한 가격에 고성능의 인공지능 컴퓨팅 서비스를 제공한다. 그래픽 코어사의 IPU는 그래픽 처리를 위해 설계된 GPU와 달리 병렬처리에 최적화된 인공지능 전용 프로세스 칩이다.

미국 퍼듀대 연구에 따르면 기존 인공지능 인프라에 비해 IPU는 계산 효율성과 메모리 확장성이 2~16배 향상되는 결과를 보였고 GPU 기반 동일 구성에 비해 60% 이상 저렴한 것으로 나타났다.

손찬혁 KT IDC사업팀장은 “고객사들이 인공지능을 도입할 시 가장 고민되는 부분은 GPU다. N사의 GPU는 굉장히 고가인데다 추가 네트워크, 소프트웨어 등 비용이 지속 늘어나는 형태”라며 “IPU를 활용할 시 저렴한 가격에 제공할 수 있으며 오픈소스를 활용, 추가 과금 없이 서비스하는 형태가 목표”라고 밝혔다.

KT는 국내 1위 매니지드서비스 제공사인 메가존클라우드와 기존 보유한 인공지능 모델링을 IPU로 최적화하거나 더 빠르게 추론할 수 있는 인공지능 모델로 개선할 수 있는 컨설팅도 제공한다.

이와 더불어 고집적 및 대용량 인공지능 인프라에 최적화된 KT 데이터센터를 기반으로 인공지능 연구개발의 효율성을 높일 수 있다. 이를 위해 KT는 메가존클라우드와 협력해 자사 IDC에 하이퍼스케일 인공지능존을 구축했다.

KT 측은 하이퍼스케일 인공지능 서비스의 1차 타겟으로 연구기관 등을 꼽았다.

손 팀장은 “고용량의 학습과 추론이 가능한만큼 연구기관 등을 타겟으로 하고 있다. 현재 시장에서 AWS가 유명하지만 비용이 굉장히 고가”라며 관련 시장에서 경쟁력이 높다고 설명했다.