SKT·KT, 자체 'AI 모델' 문호 개방···"韓 AI 발전에 기여"

A.X 4.0의 대규모 학습(Continual Pre-Training, CPT)을 진행한 SK텔레콤 자체 구축 슈퍼컴퓨터 '타이탄'. 사진=SK텔레콤 제공

SK텔레콤과 KT가 각각 자체 개발한 거대언어모델(LLM)을 오픈소스로 공개했다. 우리나라 문화·언어에 특화된 모델을 제공해 한국의 인공지능(AI) 경쟁력 강화에 기여한다는 구상이다.

SK텔레콤과 KT는 각 사가 개발한 LLM인 'A.X(에이닷 엑스) 4.0'과 '믿:음 2.0' 오픈소스로 공개했다고 3일 밝혔다.

SK텔레콤이 이번에 공개한 A.X 4.0은 현존 LLM 중에서도 최상급의 한국어 처리 효율성은 물론 데이터 보안을 고려한 설계, 그리고 로컬 환경에서의 운영 가능성 등이 강점이다. 오픈소스 모델인 Qwen2.5에 방대한 한국어 데이터를 추가로 학습시켜 국내 비즈니스 환경에 최적화된 성능을 발휘한다.

SK텔레콤은 A.X 4.0 내 문장의 구조를 분석해 토큰으로 분할하는 작업 도구인 토크나이저를 자체 설계, 적용해 높은 수준의 한국어 처리 역량을 구현했다. 자체 테스트 결과 같은 한국어 문장을 입력했을 때 GPT-4o보다 A.X 4.0이 약 33%가량 높은 토큰 효율을 기록하며, 다른 LLM 대비 높은 정보 처리용량에 비용 절감까지 가능한 경제성을 갖췄다.

또한 A.X 4.0은 대표적인 한국어 능력 평가 벤치마크인 KMMLU2(한국어 대규모 다중과제 언어 이해 평가)에서 78.3점을 기록하여, GPT-4o(72.5점)보다 높았으며, 한국어 및 한국 문화 벤치마크인 CLIcK에서도 83.5점을 획득해, GPT-4o(80.2점)보다 더 높은 한국 문화 이해도를 입증했다.

KT도 '한국적 AI'의 철학이 담긴 믿:음 2.0을 통해 국내 AI 생태계 활성화에 기여한다는 방침이다. 이번에 공개한 믿:음 모델은 115억 파라미터 규모의 '믿:음 2.0 Base', 23억 파라미터 규모의 '믿:음 2.0 Mini' 2종으로 모두 한국어와 영어를 지원한다. 믿:음 2.0 Base는 범용 서비스에 적합한 모델로 한국 특화 지식과 문서 기반의 질의 응답에서 뛰어난 성능을 나타낸다.

믿:음 2.0 Mini는 Base 모델에서 증류한 지식을 학습한 소형 모델이다. 110억 파라미터 이상의 한국어 범용 LLM을 누구나 상업적으로 활용할 수 있는 오픈소스로 공개한 것은 KT가 처음이다.

믿:음 모델은 한국어와 한국 문화 및 사회 등의 전문 분야에서 기존의 국내외 주요 모델을 상회하는 이해력과 생성 성능을 입증했다.

KT와 고려대학교가 공동 개발한 한국어 AI 역량 평가 지표인 'Ko-Sovereign(코-소버린)' 벤치마크에서 유사 규모의 국내 기성 모델을 비롯해 글로벌 최고 수준의 오픈소스 모델을 능가하는 점수를 기록했다.

Ko-Sovereign은 한국적 AI 성능을 종합적으로 평가할 수 있도록 언어, 문화, 사회, 역사 등의 한국적 맥락을 정밀하게 반영한 전문가 수준의 문항으로 구성됐다. 이와 함께 KMMLU와 한국어 언어모델 평가 지표인 'HAERAE'에서도 믿:음은 국내외 주요 오픈소스 모델보다 더 우수한 성능을 기록했다.

KT는 국내 교육용 도서와 문학 작품 등의 발간물, 법률 및 특허 문서, 각종 사전 등 다양한 산업·공공·문화 영역에서 방대한 한국 특화 데이터를 확보해 믿:음 2.0 학습에 활용했다. 또 저작권 이슈가 있는 데이터는 모두 제거하는 등 KT의 Responsible AI 원칙에 따라 고품질 데이터를 선별하여 가공했다.

이외에도 한국어의 구조와 언어학적 특성을 반영한 토크나이저(Tokenizer)를 자체 개발하고, 필터링으로 줄어든 데이터 규모는 데이터 합성 방법론을 적용해 보완했다.

또, KT는 믿:음 2.0은 AI의 윤리성 및 신뢰성을 높이기 위해 국내외 정책과 가이드라인을 기반으로 전문가들과 함께 만든 'AI 영향 평가 체계'를 적용해 보다 안전하고 투명한 기술을 구현하는 데 힘썼다.

양사는 오픈소스 공개를 시작으로 국내 AI 생태계에 '한국적 AI' 확산 선도에 나선다. SK텔레콤은 이달 중 수학 문제 해결과 코드 개발 능력이 강화된 추론(Reasoning)형 모델을 공개하고, 이미지와 텍스트를 동시에 이해하고 처리할 수 있는 수준까지 모델을 업데이트할 계획이다.

또한 소버린 AI 관점에서 A.X 3.0에 적용한 프롬 스크래치(From Scratch) 방식도 병행하여 개발을 진행하고 있으며, 후속 모델도 순차적으로 공개할 예정이다.

KT는 마이크로소프트와의 협업으로 GPT-4에 한국적 사고를 추가 학습시키는 방식의 모델 또한 순차 공개할 예정이다.

김지원 SK텔레콤 AI Model Lab장은 "SK텔레콤의 다양한 서비스를 고도화하고, 기업 시장에서 한국어 특화 LLM으로 국내 비즈니스 환경에 최적화된 모델이 될 수 있도록 지속적인 기술 개발을 추진할 계획"이라고 말했다.