“금융사, AI 서비스 만들 때 ‘윤리 원칙’ 준수해야”(종합)

금융위 ‘금융분야 AI 가이드라인’ 발표

자체적 서비스 평가·관리정책 마련하고

큰 영향 미칠 분야엔 별도 책임자 지정

데이터 출처·품질·편향성 지속 점검해야

“준비기간 거쳐 연내 가이드라인 시행”

사진=KB국민은행 제공

앞으로 금융회사는 인공지능(AI) 기반 서비스를 개발할 때 안전성과 공정성, 소비자 정보보호 측면에서 더욱 신중을 기해야 할 전망이다. 자체적으로 서비스에 대한 원칙과 기준을 수립하는 것은 물론, 사전에 발생 가능한 위험을 명확히 인지하고 이를 통제해야 한다.

8일 금융위원회는 이날 도규상 부위원장이 주재한 제1차 ‘디지털금융협의회 데이터 분과회의’에서 이 같은 내용의 ‘금융분야 AI 가이드라인’을 발표했다고 밝혔다.

이는 디지털 분야의 핵심 기술인 AI가 금융권에 온전히 자리 잡도록 도움으로써 업계의 혁신을 유도한다는 취지다. 최근 각 금융사가 여신 심사나 보험금 산출, 카드발급 등 사람의 직관·경험에 의존했던 업무를 차츰 AI와 공유 중이며 ‘AI 은행원’까지 등장했지만, 그 안전성에 대해선 사회적 신뢰가 충분하지 않은 실정이다.

이에 금융위는 AI 서비스의 책임 있는 운영을 독려하고자 가이드라인 제정 과정에서 ▲AI 윤리 원칙 마련 ▲AI 조직 구성 ▲위험관리정책 수립 등 3중 내부 통제장치를 마련하는 데 주력했다.

먼저 가이드라인엔 금융회사가 AI 서비스 개발·운영 시 준수할 원칙과 기준을 마련해야 한다는 내용이 담겼다. 또 시스템 위험 평가·관리를 위한 구성원의 역할·책임·권한을 서비스의 모든 단계(기획·설계·운영·모니터링)에 걸쳐 구체적으로 정의하도록 했다.

또 금융사는 자체적인 AI 서비스 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스엔 강화된 위험관리 체계를 적용해야 한다.

특히 신용평가나 대출심사, 보험심사, 카드발급 등 AI 시스템의 의사결정이 개인의 금융거래계약 체결·유지에 중대한 영향을 가져온다면 별도의 책임자를 지정할 필요가 있다. AI에 업무를 맡기더라도 사람이 통제할 수 있도록 시스템을 설계해야 한다는 얘기다. 가령 이자율 산정 등과 같이 AI가 중요한 의사결정을 했음에도 결과에 대한 사후검증을 할 수 없다면 서비스의 투명성과 신뢰성이 내려갈 수밖에 없어서다. 그 책임은 최고위험관리책임자(CRO), 신용정보보호관리인, 최고정보보호책임자(CISO) 등이 맡을 수 있다.

사진=금융위원회 제공

이와 함께 금융사는 AI 개발 단계에서 양질의 데이터가 사용되도록 해야 한다. 무엇보다 AI 학습에 쓰이는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하는 노력이 요구된다. 데이터에 오류·불균형·편향성이 존재하면 잘못된 학습을 통해 시스템이 이를 확대 재생산 할 수 있기 때문이다. AI 챗봇 ‘이루다’의 문제가 대표적인 사례다. 개발과정에서 편향된 데이터와 혐오발언 등이 정제되지 않고 학습에 활용되면서, 여성·장애인·동성애 등에 대한 다양한 차별·혐오발언을 생산했다.

개인신용정보 오·남용도 각별히 주의해야 한다. 사생활 등 민감한 정보를 활용하고자 할 땐 비식별 조치 등을 거치는 것은 기본이며, 시스템에 미칠 영향까지도 면밀히 들여다볼 필요가 있다.

동시에 금융사는 AI 시스템 운영과정에서 나타날 다양한 위험요인을 서비스 특성에 맞춰 합리적으로 통제해야 한다. 실제 은행이 대출부적격자를 걸러내기 위해 여신심사를 강화하는 경우 대출적격자임에도 여신이 거절되는 경우가 늘어나는 것으로 파악되고 있어서다.

이 가운데 집단간 차별 등 기본권 침해행위가 발생해서도 안 된다. 서비스 특성별 공정성 기준을 설정하고 수시로 평가하는 게 중요하다. 일례로 금융소외계층 접근성 제고를 목적으로 한 정책금융상품 등 결과적 평등이 요구되는 금융상품의 경우 집단간 대출 승인율 등 인구통계적 동등성 지표를 기준으로 공정성을 따져볼 수 있다.

AI 서비스 개발을 외부에 위탁한 경우도 마찬가지다. 금융사가 직접 개발·운영할 때와 똑같은 환경을 갖춰야 한다. 외부기관에 대한 위험관리 지침을 마련하고 주기적으로 보고·점검하는 것은 물론, 소비자 피해 발생 시 조속한 구제를 위한 손해배상 처리 절차 등도 요구된다.

이밖에 개정안엔 금융소비자의 권리를 보장하도록 하는 내용도 담겼다. 금융사는 사람에 의한 금융서비스를 제공받을 때처럼 금융소비자가 서비스를 이해하고 자신의 권리를 행사하도록 지원해야 한다.

금융당국은 준비기간을 거쳐 ‘금융분야 AI 가이드라인’이 연내 시행되도록 할 계획이다. 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영해 3분기 내 실무지침을 마련하기로 했다.

도규상 부위원장은 “최근 우리 금융산업은 규제 혁신과 새로운 플레이어에 의해 금융의 외연이 확장되는 양적 변화를 경험하고 있다”면서 “앞으로는 AI 등 기술혁신이 금융의 질적변화를 주도할 것”이라고 내다봤다.

이어 “AI를 통해 비정형·비금융 데이터 활용이 활성화되면서 금융데이터가 부족한 금융소외계층을 포용할 수 있게 될 것”이라며 “데이터 처리 속도와 정확성이 향상되면서 금융거래비용은 낮아지고 금융 중개기능의 효율성은 높아질 것”이라고 기대했다.