"AI, 잠깐 멈춰야 하나" 경쟁하던 빅테크까지 속도 조절론

오픈AI·앤트로픽·구글 딥마인드, AI 안전 논의 뜻모아

개발 속도 늦춰 검증 강화 의견···중국과 경쟁은 부담

그래픽=박혜수 기자

인공지능(AI) 개발 경쟁이 한창인 글로벌 빅테크들 사이에서 개발 속도를 늦춰야 한다는 목소리가 잇따르고 있다. AI 모델의 성능이 빠르게 높아지는 가운데 모델이 실제 시스템에 접근하거나 스스로 다음 단계의 AI 개발에 관여하는 사례까지 나타나면서다. AI를 통제할 안전장치가 기술 발전 속도를 따라가야 한다는 문제의식이 커지는 모습이다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일(현지시간) '프런티어 AI의 속도를 조절해야 한다'는 제목의 글을 공개하고 "AI 모델의 능력을 향상시키는 속도를 늦춰야 한다"며 최첨단 AI 개발 속도를 늦춰야 한다는 취지의 제안을 내놨다. AI 개발 자체를 중단하자는 것이 아니라 안전성 검증과 통제 체계가 기술 발전을 따라갈 수 있도록 '속도 조절'이 필요하다는 주장이다.

아모데이는 독립적인 안전 평가자를 AI 기업에 참여시키고, 프런티어 AI 기업들이 공동 안전 기준을 마련하는 한편 국제적인 협력 체계를 구축해야 한다고 제안했다. 최근 AI 모델의 자율성이 높아지면서 기업 내부 평가만으로는 위험을 충분히 검증하기 어렵다는 판단이 배경에 깔렸다.

실제 앤트로픽은 지난 9일 클로드 모델이 실제 외부 시스템에 무단으로 접근한 사이버보안 관련 사례 4건을 공개했다. 약 4억8100만건의 대화 기록까지 조사 범위를 확대하면서 모델의 행동을 감시하고 통제하는 체계가 중요하다고 강조했다.

샘 올트먼 오픈AI CEO도 아모데이의 문제의식에 공감을 나타냈다. 올트먼은 자신의 소셜미디어를 통해 "세계가 AI 개발 기업들이 책임감 있게 행동할 것이라는 확신을 가질 수 있어야 한다"며 "일관된 안전 기준을 설정하는 연방 정부 차원의 규제를 환영한다"고 말했다.

앞서 오픈AI는 앤트로픽·구글 딥마인드 등 경쟁사와 AI 안전 문제를 논의해왔으며, 제3자 평가를 활용하는 방안도 추진하고 있다. 앤트로픽 역시 최근 AI 개발 속도를 외부에서 확인할 수 있도록 AI가 연구개발 과정에서 얼마나 활용되는지와 감독 수준·컴퓨팅 자원 등을 측정해 공개했다. 오는 9월에는 여러 외부 기관의 독립 평가자를 참여시키겠다는 계획도 밝힌 상태다.

이밖에 데미스 허사비스 구글 딥마인드 최고경영자, 일론 머스크 스페이스엑스(X·옛 xAI) 최고경영자 등이 잇따라 동참 의사를 밝힌 상태다.

다만 AI 개발 속도를 둘러싼 업계의 입장이 모두 같은 것은 아니다. 메타의 마크 저커버그 CEO는 자신의 엑스(X·옛 트위터)에 "모든 AI 연구소는 모델을 안전하게 훈련시키는 데 필요한 속도로 개발을 진행할 책임과 동기가 있으며 이를 위해 자체적으로 조처할 수 있는 역량을 갖고 있다"고 강조했다. 기업별로 안전한 AI 개발에 책임을 져야 한다는 취지로 업계 차원의 개발 속도 조절론과 거리를 둔 것으로 해석된다.

속도 조절론이 업계 화두로 떠오른 가운데 미국과 중국간 벌어지는 AI 기술 경쟁이 변수로 작용할 것으로 예상된다. 에릭 쉬 화웨이 부회장 겸 순환회장은 기자간담회에서 "중국 AI 기업들이 미국의 오픈AI와 앤트로픽 등 선두 기업을 추격하기 위해 개발 속도를 높여야 한다"고 밝혔다. 미국과 중국의 AI 경쟁이 이어지는 상황에서 한쪽이 개발 속도를 늦추면 경쟁에서 불리해질 수 있다는 우려가 제기되는 이유다.