금융위, ‘금융분야 AI 가이드라인’ 마련···“3중 내부통제장치 구축”

AI 서비스 평가·관리정책 마련하고

데이터 출처·품질·편향성 점검해야

“준비 거쳐 연내 가이드라인 시행”

사진=금융위원회 제공

앞으로 금융회사는 인공지능(AI) 기반 서비스 구축을 위한 원칙과 기준을 수립하고, 이를 책임질 별도의 조직을 꾸려야 한다.

8일 금융위원회는 이날 도규상 부위원장이 주재한 제1차 ‘디지털금융협의회 데이터 분과회의’에서 이 같은 내용의 ‘금융분야 AI 가이드라인’을 확정했다고 밝혔다.

금융위는 가이드라인 제정 과정에서 AI 서비스의 책임 있는 운영을 위해 ▲AI 윤리 원칙 마련 ▲AI 조직 구성 ▲위험관리정책 수립의 3중 내부 통제장치를 마련하는 데 주력했다.

먼저 가이드라인은 금융회사가 회사별 가치와 서비스 내용 등에 따라 AI 서비스 개발·운영 시 준수해야 할 원칙과 기준을 수립하도록 규정했다. 이어 AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스의 모든 단계(기획·설계·운영·모니터링)에 걸쳐 구체적으로 정의해야 한다는 점도 명시했다.

또 금융사는 AI 서비스 자체 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스엔 강화된 위험관리 체계를 적용해야 한다.

특히 신용평가나 대출심사, 보험심사 등 AI 시스템의 의사결정이 개인의 금융거래계약 체결·유지에 중대한 영향을 가져온다면, 내부통제·승인절차 등을 마련하고 별도의 책임자를 지정할 필요가 있다.

AI 개발·학습단계에서 발생할 수 있는 개인신용정보 오·남용에도 주의해야 한다. AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 꾸준히 검증하고 개선하는 한편, 불필요한 개인신용정보 처리를 최소화하는 시스템도 확보해야 한다고 개정안은 제시하고 있다.

아울러 개정안엔 AI 활용으로 소비자 차별 등이 생기지 않게 위험요인을 통제하고 서비스 공정성을 높여야 한다는 내용도 담겼다. 소비자가 AI 서비스에 대해 충분히 설명을 듣고 자신의 권리를 행사할 수 있어야 한다는 조항 또한 포함됐다.

AI 서비스 개발을 외부에 위탁한 경우도 마찬가지다. 금융회사가 직접 개발·운영할 때와 똑같은 환경을 갖춰야 한다. 외부기관에 대한 위험관리 지침을 마련하고 주기적으로 보고·점검하는 것은 물론, 소비자 피해 발생 시 조속한 구제를 위한 손해배상 처리 절차 등도 요구된다.

향후 금융당국은 충분한 준비기간을 거쳐 ‘금융분야 AI 가이드라인’이 연내 시행되도록 할 계획이다. 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영해 3분기 내 실무지침을 마련하기로 했다.

도규상 부위원장은 “최근 우리 금융산업은 규제 혁신과 새로운 플레이어에 의해 금융의 외연이 확장되는 양적 변화를 경험하고 있다”면서 “앞으로는 AI 등 기술혁신이 금융의 질적변화를 주도할 것”이라고 내다봤다.

이어 “AI를 통해 비정형·비금융 데이터 활용이 활성화되면서 금융데이터가 부족한 금융소외계층을 포용할 수 있게 될 것”이라며 “데이터 처리 속도와 정확성이 향상되면서 금융거래비용은 낮아지고 금융 중개기능의 효율성은 높아질 것”이라고 진단했다.

다만 그는 “AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼 이번 가이드라인을 통해 지속가능한 금융혁신 환경을 조성하겠다”고 약속했다.