KT, AI 모델 통합·관리 플랫폼 '토큰팩토리' 출시

사진=KT 제공

KT가 AI 모델 선택, 비용 관리, AI 신뢰·안전 기능을 하나의 플랫폼에서 제공하는 AX 플랫폼을 선보였다.

KT는 27일 서울 종로구 광화문 West 빌딩에서 'KT 토큰팩토리(KT Token Factory, 이하 토큰팩토리)'를 공개했다. KT는 이를 AI 시대 고객의 AX(AI Transformation)를 지원하는 핵심 플랫폼이자 새로운 성장 사업으로 육성할 계획이다.

토큰팩토리는 국내외 500개 이상의 AI 모델을 통합 제공하며 가입부터 사용량 확인, 비용 관리, 결제까지 한 곳에서 처리할 수 있어 고객이 업무 목적, 비용, 보안 요구 사항에 맞는 최적의 모델을 손쉽게 활용할 수 있다.

토큰팩토리는 업무 성격에 따라 적합한 AI 모델을 자동으로 선택해 불필요한 비용 지출을 줄인다. 단순 업무에는 가벼운 모델을, 복잡한 분석 업무에는 고성능 모델을 적용해 효율성과 품질을 동시에 높인다.

KT가 자체 개발한 AI 모델 라우팅 기술인 '오토 모델 라우터(Auto Model Router)'는 질문의 업무 유형, 난이도, 품질, 비용 등을 종합해 AI 모델을 선택한다. 해당 기술은 글로벌 벤치마크인 'RouterArena'에서 종합 1위를 기록했다.

한국어 특성을 고려한 프롬프트 압축 기술도 적용했다. 질문의 의미와 응답 품질은 유사하게 유지하면서 입력 토큰 수를 줄여 비용 부담과 응답 시간을 낮춘다. 이러한 자체 기술을 통해 AI 이용에 필요한 토큰 사용을 최대 25%까지 절감하는 효과를 제공한다.

토큰팩토리는 해외 AI 서비스 의존에 따른 데이터 주권 우려를 줄이기 위해 한국 내 KT 데이터센터에서 직접 AI 추론 서비스를 제공한다. KT 자체 모델과 국내외 오픈웨이트 모델, 독자 AI 파운데이션 모델 등 다양한 AI를 안전하게 활용할 수 있도록 멀티 AI 기반을 구축했다.

또한 자체 가드레일(Guardrail) 기술을 적용해 고객이 입력하는 프롬프트의 개인정보 및 민감정보와 유해 표현을 점검하고 AI가 생성한 답변도 점검해 안전성을 높였다.

KT는 글로벌 AI 게이트웨이 플랫폼이자 AI 모델 마켓플레이스 1위 사업자인 '오픈라우터(OpenRouter)'와 국내 최초로 공식 파트너십을 체결했다. 이를 통해 글로벌 AI 모델 500개 이상을 확보했으며 향후 KT가 국내에서 제공하는 AI 모델의 글로벌 유통도 추진할 계획이다.

KT는 오는 30일 토큰팩토리를 출시하고 고객과 서비스 범위를 단계적으로 확대할 계획이다. 초기에는 여러 AI 모델을 활용하면서 비용을 효율적으로 관리하려는 기업 고객을 대상으로 서비스를 제공한다.

아울러 AI 코딩·에이전트 분야의 유라클과 CAST AI, 기업용 AI 워크스페이스 분야의 타임리, '모두의 AI' 컨소시엄 참여사인 업스테이지·다음 등과 협력을 강화해 파트너 생태계를 구축하고 글로벌 시장으로 사업 영역을 확대할 계획이다.

박상원 KT AX사업부문장 전무는 "AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다"며 "KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다"고 말했다.