"왜 하필 지금?"···앞서 달리는 AI 빅4의 수상한 '속도조절론'

사진=AI(챗GPT) 생성

인공지능(AI) 패권을 놓고 치열하게 경쟁해온 글로벌 AI 기업 수장들이 최근 잇따라 개발 속도 조절 필요성을 꺼내 들었다. AI 성능이 빠르게 고도화되는 만큼 안전장치와 통제 기술을 먼저 갖춰야 한다는 주장이다. 다만 이미 선두에 선 업체들이 동시에 속도를 늦출 경우 기술 격차와 시장 지위를 지키는 데 유리할 수 있어 기득권 보호를 위한 것 아니냐는 의심도 나온다.

먼저 다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 12일 장문의 글을 통해 최첨단 AI 개발 속도를 조절해야 한다고 주장했다. 그는 AI가 차세대 AI 개발에 직접 활용되면서 기술 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 경고했다. 특히 AI 에이전트가 허가받지 않은 사이버 공격에 나선 사례 등을 거론하며 더 강력한 모델이 등장할 경우 대규모 사이버 위협으로 이어질 수 있다고 우려했다.

아모데이의 주장에는 다른 AI 기업 수장들도 잇따라 호응했다. 다음날 xAI 창업자이자 스페이스X CEO인 일론 머스크도 X를 통해 "다리오가 옳다"고 공개 지지했다. 샘 올트먼 오픈AI CEO도 "AI 최전선의 속도를 조절해야 한다는 데 동의한다"고 밝혔고, 데미스 허사비스 구글 딥마인드 공동창업자 겸 회장도 "방향은 옳다"며 힘을 보탰다.

악시오스는 경쟁 관계에 있는 주요 AI 기업 수장들이 동시에 감속 필요성에 뜻을 모은 점을 이례적으로 평가했다. 포춘도 올트먼이 아모데이·머스크·허사비스와 공동 안전대책을 마련할 가능성을 묻는 질문에 "그렇게 될 것이라고 생각한다"고 답했다고 전했다.

속도보다 안전 먼저···AI 수장들이 내세운 이유

AI 업계가 감속론을 꺼낸 배경에는 최근 잇따른 AI 에이전트의 예상 밖 행동 사례가 있다. 기존 챗봇이 질문에 답하는 수준이었다면 에이전트는 스스로 계획을 세우고 코드를 실행하거나 외부 도구를 활용한다. 자율성이 높아진 만큼 통제 범위를 벗어날 위험도 커졌다.

실제로 오픈AI의 사이버 보안 평가에서는 AI 에이전트가 격리된 시험환경을 벗어나 공개 인터넷에 접속한 뒤 허깅페이스와 모달랩스 등 외부 기업 시스템에 침입한 사례가 확인됐다. 앤트로픽도 클로드가 평가 과정에서 인터넷에 접속해 실제 외부 기관 시스템에 무단 접근한 사례를 공개했다. 모두 시험 환경에서 벌어진 일이지만 기존 안전장치만으로 모델의 행동을 완전히 통제하기 어렵다는 우려를 키웠다.

올트먼 역시 더 강력한 AI를 내놓기 전에 모델의 행동을 충분히 파악하고 인간의 의도를 따르도록 만드는 기술이 먼저 발전해야 한다는 입장이다. 통제·검증 체계를 갖춘 뒤 성능 경쟁을 이어가야 한다는 게 감속론의 핵심 명분이다.

"왜 하필 함께?"···후발주자 막는 새 장벽 되나

하지만 여러 업체가 동시에 속도를 늦추자는 순간 얘기는 달라진다. 한 업체만 감속하면 경쟁에서 밀릴 수 있지만 이미 앞서 있는 업체들이 함께 속도를 조절하면 지금의 시장 구도를 유지하는 데 유리하다.

미국 IT 전문매체 와이어드는 오픈AI가 미 의회에 AI 업계 전체가 최첨단 모델 개발 속도를 공동으로 늦추는 것이 반독점법상 허용되는지 명확한 지침을 요청했다고 보도했다. 경쟁사들의 공동 감속이 생산·공급 제한으로 해석될 경우 미국 반독점법과 충돌할 수 있기 때문이다.

'규제 포획' 우려도 나온다. 막대한 자본과 컴퓨팅 자원, 법무·안전 조직을 갖춘 대형 AI 기업은 강화된 규제를 감당할 수 있지만 스타트업과 오픈소스 진영에는 평가와 인증 비용 자체가 진입장벽이 될 수 있다.

비즈니스인사이더는 투자자 제이슨 칼라카니스와 AI 연구자 프랑수아 숄레 등이 이런 규제가 오픈소스 혁신을 위축시키고 대형 업체에 유리하게 작용할 수 있다고 비판했다고 전했다. 악시오스도 오픈AI와 앤트로픽 등 폐쇄형 모델 업체들이 오픈웨이트 AI 규제가 강화될 경우 수혜를 볼 수 있다고 짚었다.

데이비드 삭스 미국 대통령 과학기술자문위원회 공동의장 역시 이런 움직임이 대형 업체의 시장 지위를 굳히는 '규제 포획'으로 이어질 수 있다고 경고해왔다.

현재까지 주요 AI 기업들이 시장 지배력을 유지하기 위해 실제 담합했다는 증거는 없다. 다만 가장 앞서 달리는 업체들이 동시에 "속도를 늦추자"고 나선 만큼, 안전을 위한 공동 대응인지 경쟁 구도를 굳히기 위한 선택인지를 둘러싼 논란은 당분간 이어질 전망이다.