KT "모두의 AI, 안정적인 구현 강점"

'모두의AI' KT컨소시엄, 이음 인사이드 전략 공개"국민 서비스 경험 다수···이해도가 높은 점이 강점""GPU, 내부적으로 추가 확보···협력 기업 늘어날수도"

사진=KT

과학기술정보통신부(과기정통부)가 추진하는 '모두의 AI 프로젝트'에 참여하는 KT가 자사 인공지능(AI) 모델의 차별점에 대해 안정적인 구현과 경험에서 오는 높은 이해도를 꼽았다. KT는 컨소시엄 참여 기관도 추가적으로 늘릴 계획이다.

13일 업계에 따르면 KT는 지난 11일 '모두의 AI' 온라인 설명회를 열고 KT컨소시엄의 서비스 전략을 공개했다. KT를 비롯해 ▲업스테이지 ▲솔트룩스 ▲다음 ▲무신사 ▲직방 ▲EBS 등 국내 대표 AI·서비스 기업 다수가 참여한 컨소시엄의 핵심 전략은 '이음 인사이드(Inside)'를 통해 다양한 서비스와 산업 전반으로 빠르게 AI를 확산하는 것이다.

이음 인사이드는 국민이 이용하는 다양한 서비스에 AI를 내재화하고, 이를 하나의 범용 AI 에이전트로 연결하는 개방형 AI 생태계다. 이용자는 앱·웹·IPTV 등 접속 채널과 상관없이 하나의 AI 경험을 바탕으로 다양한 서비스를 통합적으로 이용할 수 있다.

KT는 이음 인사이드 전략을 활용해 종합 검색 포털 '다음'과 컨소시엄 참여 기업의 다양한 서비스 접점, KT의 지니TV 등에도 모두의 AI 기능을 적용할 계획이다. 이용자는 새로운 애플리케이션(앱)을 따로 쓰지 않아도 평소 이용하던 서비스 안에서 동일한 AI 경험을 자연스럽게 누릴 수 있게 된다. KT는 컨소시엄 참여 기업의 서비스 접점이 합산 6000만 이상 규모에 달한다고 설명했다.

범용 서비스 영역에서는 검색 기반 최신 정보 탐색 기능과 복수의 국산 AI 모델을 결합해 정확하고 신뢰도 높은 AI 경험을 제공한다. 특히, 메모리 기반 개인화로 개인의 기존 검색, 문의 내용에 따라 맞춤형 정보 제공이 가능하다.

공공 영역에서는 단순 질의응답을 넘어 선제적인 알림 제공, 맞춤형 혜택 추천 등 이용자 상황에 맞는 AI 에이전트 서비스를 구현할 예정이다. 공공 알람, 연령, 거주 지역 등 맞춤 공공 혜택, 대화형 절차 안내, 발급 신청 지원까지 이음 앱과 웹 내에서 구동된다.

이러한 서비스는 KT의 AI 운영 플랫폼 '토큰팩토리'를 기반으로 구현된다. 토큰팩토리는 사용자가 입력한 프롬프트(Prompt)의 처리와 응답 생성을 분리해 각 단계에 최적화된 자원을 할당함으로써 분당 토큰 처리량을 약 31% 향상시킨다. 또한 다양한 프롬프트 압축 기술을 통해 입력 토큰을 최대 80%까지 감소시켜 그래픽처리장치(GPU) 활용도를 높이는 장점이 있다.

이진형 KT AX사업본부장(상무)은 KT컨소시엄만의 서비스 차별점을 묻는 질문에 "(공공 영역은) 3개 컨소시엄 간 미세한 차이는 있지만 모두 비슷한 서비스를 구현할 것"이라며 "이 중 개인화에 맞춰진 탭과 공공탭을 나눠 서비스하는 것이 첫 번째 차별점"이라고 강조했다.

이어 "참여 기업들 중 국민비서 등 서비스 구현 경험이 있어 안정적으로 구현하고 타 컨소시엄보다 잘 이해할 수 있을 것"이라면서도 "(다른 컨소시엄과) 경쟁보다 같이 대국민 AI 서비스를 구현하는 것이 중요하다"고 말했다.

GPU의 양과 서비스 성능의 상관관계도 있다고 밝혔다. 이 상무는 "정부에서 많은 지원이 있지만 변동이 될 가능성 또한 있어 내부적으로 추가 GPU를 준비했다"며 "정부와는 이야기된 부분이나 정확한 수량은 공개하기 어렵다"고 설명했다.

이 상무는 AI 생태계 확대를 위해 다양한 파트너가 필요하다고 강조하며 KT컨소시엄 참여 기관을 추가할 수 있다고 시사했다. 그는 "현재까지 7곳에서 참여 신청이 들어와 있는 상태"라며 "살펴본 후 업무협약(MOU)을 진행하는 등 협력을 이어갈 예정"이라고 말했다.

수익화에 대해서는 아직 구체적인 계획이 없다고 밝혔다. 이 상무는 "기본적으로는 국민들에게 (수익을) 얻으려고 하는 프로젝트는 아니다"며 "향후 대국민 AI 프리미엄 서비스 등 유료 버전을 별도로 내놓을 수도 있겠으나 정부의 추후 로드맵에 따를 예정"이라고 말했다.