구글의 제미나이 넘어섰다는 문샷의 '키미 K3'···메모리 부족에 서버 터졌다

GPU 한계 도달···컴퓨팅 자원 기존 회원 우선 제공

중국 문샷 키미 K3. 사진=연합뉴스

중국의 인공지능(AI) 스타트업 문샷 AI가 차세대 거대언어모델(LLM) '키미(Kimi) K3'의 폭발적인 수요를 감당하지 못하고 신규 구독 접수를 일시 중단했다.

19일(현지시간) 디지털자산 전문매체 비인크립토에 따르면 문샷 AI는 이날 공지를 통해 출시 이후 48시간 동안 키미 K3에 대한 수요가 예상치를 훨씬 상회하며 GPU 가용 자원이 수용 한계에 도달했다고 밝혔다.

문샷 AI 측은 "기존 구독자들의 원활한 이용 경험과 서비스 안정성을 보장하기 위한 불가피한 조치"라며 "확보된 컴퓨팅 자원을 기존 회원에게 우선 배정할 계획"이라고 설명했다. 기존 구독자들은 이번 중단 조치의 영향을 받지 않으며, 서비스를 정상적으로 이용할 수 있다.

문샷 AI는 이번 사태를 계기로 향후 멤버십 체계를 효율적으로 재편하겠다는 방침이다. 앞으로는 일반적인 웹·앱 사용자를 위한 '키미 멤버십'과 고부하 작업인 프로그래밍 워크플로우를 전담할 '키미 코드 멤버십'으로 이원화할 예정이다.

이는 단순 요약 요청과 에이전트가 수십 분간 파일을 수정하고 테스트를 수행하는 코딩 작업을 동일한 연산량으로 취급할 수 없다는 판단에 따른 것이다.

업계에서는 이번 사태를 두고 압도적인 성능을 자랑하는 AI 모델이라 하더라도 급증하는 추론 수요를 뒷받침할 인프라 확보가 얼마나 어려운지 보여주는 상징적인 사례로 평가하고 있다.

문샷 AI의 키미 K3는 글로벌 AI 시장에 큰 파장을 일으키고 있다. 키미 K3는 2조8000억개의 파라미터를 갖춘 초대형 모델이다. 파라미터가 많을수록 더 많은 정보를 학습하고 복잡한 추론을 수행할 가능성이 커 AI 모델의 규모와 잠재력을 보여주는 대표적인 지표로 활용된다. 100만 토큰의 컨텍스트 윈도우를 지원하며, 특히 장시간 코딩, 지식 작업, 멀티모달 작업에서 뛰어난 성능을 보인다.

하지만 키미 K3와 같은 모델은 방대한 데이터를 실시간으로 처리해야 하며, 이를 위해 GPU와 옆에서 데이터를 빠르게 공급하는 고대역 메모리(HBM)가 필수적이다.

모델이 고도화될수록 연산 능력뿐만 아니라, 연산 장치에 데이터를 빠르게 전달할 수 있는 메모리의 대역폭이 중요해진다. 키미 K3의 폭발적인 수요는 곧 수많은 사용자가 동시에 거대 모델을 구동한다는 의미이며, 이는 서버당 필요한 메모리 요구량을 기하급수적으로 증가시킨다.

한편, AI 성능 분석업체 아티피셜애널리시스에 따르면 키미 K3의 지능 지표는 57점으로 집계됐다. 앤트로픽의 최첨단 모델 클로드 페이블 5(60점)와 오픈AI의 GPT-5.6 솔 맥스(59점)의 뒤를 바짝 추격하면서 현존 AI 모델 중 3위에 올랐으며, xAI의 그록 4.5(54점), 메타의 뮤즈스파크 1.1(51점), 구글의 제미나이 3.5 플래시(50점) 등은 앞질렀다.