"착한 AI 만들자"···韓기업, 윤리 기준 정비 '잰걸음'

환각, 탈옥···생성형 AI 윤리 문제 부담

LG·삼성 등 국제 표준 AI 경영시스템 인증 획득 나서

전 세계적으로 AI 규제가 시작되는 가운데 국내 기업이 AI 윤리 기준 마련에 힘쓰고 있다.

국내 기업이 인공지능(AI) 윤리 기준 수립에 신경을 기울이고 있다. AI가 산업 트렌드로 자리 잡으면서 새로운 서비스가 등장하고 있지만, 환각이나 탈옥과 같은 문제점이 여전히 해결되지 않고 있어서다. 전 세계적으로 AI 규제가 시작되는 가운데 국내 기업이 국제 표준 AI 경영시스템 인증 획득에 나선 배경이다.

LG전자 H&A사업본부는 지난 22일 AI 경영시스템 인증(ISO·IEC 42001)을 획득했다고 밝혔다. 이는 AI를 적용한 생활가전의 개발부터 폐기까지 전 과정에서 데이터 보안이나 윤리적 책임을 성실히 수행하고 있음을 인정받았다는 뜻이다.

AI 경영시스템은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동 제정한 AI 경영체계 전반에 관한 국제 표준이다. ▲AI 방침 ▲AI 리스크 평가 ▲AI 리스크 처리 ▲AI 영향 평가 ▲AI 윤리 준수와 규제 대응 ▲AI 관리 과정의 투명성 등을 세부적으로 평가해 인증을 부여한다.

LG전자는 이번 인증이 AI 기술을 적용한 자사 제품과 서비스에 대한 소비자 신뢰도를 높이는 데 도움이 될 것으로 기대한다. 또 AI 제품·서비스와 관련된 과정에 국제표준을 적용함으로써 글로벌 경쟁력 강화에도 도움이 될 것으로 예측했다.

LG전자가 AI 경영시스템 인증에 나선 건 그간 AI 적용 제품에 대한 소비자 불신이 쌓였기 때문이다. 생성형 AI는 '환각'과 '탈옥' 현상을 해결하지 못해 윤리적 리스크가 있다는 평을 받아왔다.

환각은 생성형 AI가 종종 허구를 진실처럼 답하는 현상을 뜻한다. 2023년 초 온라인 상에서 화제가 된 '세종대왕 맥북 던짐 사건'이 대표적이다. '세종대왕 맥북 던짐 사건'에 대해 알려달라는 황당한 질문에 챗GPT가 역사적 일화를 그럴듯하게 꾸며낸 일이다. '탈옥' 현상은 AI 안전장치를 해제해 비윤리적, 선정적 발언을 하도록 유도하는 행위를 일컫는다. 지난해 10월 16일 프린스턴대·버지니아 공대 등 연구진이 발표한 '정렬된 언어모델을 미세 조정하면 사용자가 의도하지 않더라도 안전성이 손상된다'라는 논문에 따르면, 안전 장치가 해제된 챗GPT가 폭탄 제조법을 알려주는 모습이 발견된 바 있다.

윤리 기준을 확립한 것은 LG전자가 처음은 아니다. 카카오는 2018년 1월 31일, 국내 업계 최초로 인공지능 알고리즘 윤리 헌장을 발표했다. 이후 자회사인 카카오뱅크 역시 동종업계 타 기업에 비해 발 빠르게 움직였다. 지난해 4월 금융위원회가 발표한 '금융분야 AI 가이드라인'을 준수하기 위해 자체 로드맵을 추진한 카카오뱅크는 지난해 10월 금융권 최초로 AI 경영시스템 인증을 취득했다.

삼성전자는 2018년 국내 기업 최초로 인공지능 국제 컨소시엄 PAI(Partners on AI)에 가입했다. 지난해 6월엔 국내 기업 최초로 AI 경영시스템 인증을 받았다. 한편 삼성전자는 최근 공개된 갤럭시 S24 시리즈부터 갤럭시 AI를 활용한 이미지에 '워터마크'를 표기해, 이미지를 확인하는 누구나 해당 이미지가 AI에 의해 생성 혹은 편집됐음을 쉽게 확인할 수 있도록 조치했다. 이는 최근 들어 우려가 증폭된, 생성형 AI와 딥페이크 기술을 이용한 가짜뉴스 문제에 대한 선제 대응으로 평가받았다.

김명주 서울여자대학교 정보보호학과 교수는 최근 국내 기업이 획득한 AI 경영시스템 인증이 "이 회사에서 만드는 AI 제품이나 서비스는 문제 없이 쓸 수 있다는 뜻은 아니다"라며, 기존에 기업이 만든 내부 가이드라인이나 윤리 준칙과 사실상 같은 내용이라고 설명했다. 다만 "AI 개발을 진행하거나 활용할 때 인증받지 않은 기업에 비해 회사의 윤리적 AI 경영 역량을 더 인정해 줬다는 뜻은 될 수 있다"고 말했다.

한국에는 AI 관련 인증 제도가 따로 존재하지 않으며, 국가기술표준원이 지난해 6월 제정한 'AI 윤리 점검 서식' 국가표준(KS)안을 기업에서 자체 점검 체크리스트로 활용하고 있다. 이를 인증 형태로 발전시키는 방향에 관해 묻자, 김 교수는 "각 나라가 제시하고 있는 규제를 국제 인증이라는 테두리 안에 집어넣어서 그런 인증을 우리나라에서 받게 하면 다른 나라 인증을 받지 않아도 되도록, 인증의 상호 호환성이 보장되도록 하는 방향이 바람직하다"고 동의했다.