2024년 06월 15일 토요일

  • 서울 21℃

  • 인천 21℃

  • 백령 18℃

  • 춘천 21℃

  • 강릉 22℃

  • 청주 21℃

  • 수원 21℃

  • 안동 21℃

  • 울릉도 22℃

  • 독도 22℃

  • 대전 22℃

  • 전주 22℃

  • 광주 21℃

  • 목포 22℃

  • 여수 22℃

  • 대구 24℃

  • 울산 22℃

  • 창원 23℃

  • 부산 22℃

  • 제주 22℃

이슈플러스 '음성 모방 논란' 오픈AI, 새 안전·보안위원회 구성

이슈플러스 일반

'음성 모방 논란' 오픈AI, 새 안전·보안위원회 구성

등록 2024.05.29 10:16

김선민

  기자

챗GPT 개발사 오픈AI가 생성형 AI 관련 기술 개발 과정에 안전 및 윤리 문제를 점검하기 위해 '새로운 안전·보안위원회'(safety and security)를 구성했다고 밝혔다.

연합뉴스에 따르면 28일(현지시간) 오픈AI는 블로그를 통해 이같이 전하고 브렛 테일러 이사회 의장과 샘 올트먼 최고경영자(CEO), 애덤 단젤로 이사 등이 위원회를 이끌 것이라고 설명했다. 또 새 위원회의 첫 번째 과제는 "오픈AI의 프로세스와 안전장치를 평가하고 더욱 발전시키는 것"이라고 강조했다.

오픈AI의 새로운 안전·보안위원회 구성은 기존 안전팀이 해체되고, 새 AI 모델 'GPT-4o'(포오)의 음성 모방 논란이 제기된 가운데 나왔다.

오픈AI는 앞서 AI의 장기적인 위험을 연구하는 슈퍼얼라이먼트(superalignment) 팀 일부를 다른 팀으로 재배치하는 등 안전팀을 해체한 것으로 알려졌다.

이 팀을 이끌었던 오픈AI 수석과학자 일리야 수츠케버와 또 다른 임원인 얀 레이케가 회사를 떠났다.

레이케는 "인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력"이라며 "오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만, 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다"고 비판하기도 했다.

오픈AI는 또 지난 12일 선보였던 새 AI 모델 GPT-4o의 음성이 미국 영화배우 스칼릿 조핸슨을 도용했다는 논란에 휩싸여있다.

'스카이'(Sky)라고 하는 이 모델의 음성이 영화 '그녀' 속 AI 목소리의 주인공인 스칼릿 조핸슨과 매우 유사하다는 지적이 제기된 것이다.

조핸슨이 자신의 목소리 사용을 허락하지 않았는데 오픈AI가 유사한 목소리를 사용했다며 법적 대응을 시사했고, 오픈AI는 이 음성 사용을 중단하기도 했다.

오픈AI는 이와 함께 AI 모델에 대한 훈련을 시작했다고 밝혔다.

오픈AI는 "다음 프런티어 모델을 훈련하기 시작했다"며 "그 결과물이 범용인공지능(AGI)으로 가는 다음 단계의 역량을 이끌 것으로 기대한다"고 밝혔다. AGI는 사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI를 말한다.
ad

댓글