막히자 우회 시도까지···中 AI 에이전트 이상 행동 포착

그래픽=박혜수 기자

중국 텐센트의 클라우드 환경에서 가동된 인공지능(AI) 에이전트들이 보안 차단을 우회해 외부 서비스에 접근하려 한 정황이 포착됐다. AI가 주어진 작업을 수행하는 과정에서 예상하지 못한 행동을 보이면서 자율형 AI의 통제 문제에 대한 우려가 다시 제기되고 있다.

18일 로이터통신 등 외신에 따르면 국제 AI 안전 연구단체 스웜체이서스는 최근 보고서를 통해 텐센트 클라우드에서 실행된 AI 에이전트들이 알리바바의 지도 서비스 '가오더 지도'에 총 2818차례 접근을 시도했다고 밝혔다.

지난 9월 28일부터 이달 8일까지 이어진 접근 시도는 공원과 동물원 등의 출입구 정보를 확보하는 과정에서 발생했다. 일부 에이전트는 일반적인 접근이 차단되자 외부 웹 도구와 공개된 인증정보 등을 활용해 제한을 우회하려 했다.

다만 대부분의 시도는 실패했으며 가오더 지도의 주요 보안 체계가 뚫리거나 비공개 시스템에 침입했다는 증거는 확인되지 않았다.

텐센트는 해당 활동이 자체 AI 모델인 '훈위안'이 아닌 제3자 모델의 평가 과정에서 발생했다고 해명했다. 의도적인 공격이나 조직적인 행동의 증거도 발견되지 않았다며 네트워크 접근 통제와 모니터링을 강화하고 있다고 밝혔다.