AI 대전환 시대, AI 시민의 품격을 묻다

인공지능의 활용이 일상과 산업 전반으로 빠르게 확산되고 있다. 질의 응답과 문서 작성을 넘어 제조, 금융, 의료, 행정, 국방, 연구개발에 이르기까지 인공지능은 인간의 판단과 업무 방식을 바꾸고 있다. 이제 인공지능은 특정 전문가만 사용하는 기술이 아니라, 누구나 접하고 활용하는 사회적 공공재에 가까워지고 있다.

그러나 인공지능을 많이 사용할수록 함께 커지는 문제가 있다. 인공지능이 내놓은 결과를 어디까지 믿어야 하는가. 오류와 편향이 발생했을 때 누가 책임져야 하는가. 개인정보와 창작자의 권리는 어떻게 보호해야 하는가. 인공지능의 편리함이 인간의 판단력과 자율성을 약화시키지는 않는가.

이러한 질문에 답하기 위해서는 기술의 성능만이 아니라, 기술을 개발하고 제공하고 사용하는 사람들의 윤리적 기준이 필요하다. 인공지능 시대의 경쟁력은 더 강력한 모델을 만드는 능력에만 있지 않다. 그 기술을 얼마나 신뢰할 수 있고 안전하게, 그리고 인간 중심적으로 활용하느냐에 달려 있다. 결국 인공지능 시대에 요구되는 것은 새로운 기술 문해력뿐 아니라 AI 시민으로서의 품격과 윤리 의식이다.

대한민국 인공지능 윤리원칙이 제시한 공통의 기준

지난달 과학기술정보통신부와 정보통신정책연구원은 '대한민국 인공지능 윤리원칙'을 발표했다. 이 원칙은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 제27조에 따라 마련된 것으로, 인공지능의 개발과 활용 과정에서 인간과 사회가 지켜야 할 공통의 윤리적 가치와 원칙을 제시한다.

법적 강제력을 가진 규정은 아니지만, 법과 제도가 다루기 어려운 다양한 상황에서 사회 구성원이 책임 있는 판단을 내릴 수 있도록 돕는 자율적 기준이다. 특히, 특정 산업이나 기술에 한정되지 않고 범정부·범사회적으로 적용되는 공통의 기준이라는 점에서는 그 의미가 크다.

또한 인공지능의 기획·설계부터 데이터 수집·처리, 모델 개발·검증, 배포·운영, 모니터링과 폐기에 이르는 전 생애주기에서 윤리를 고려해야 한다는 점을 강조한다. 이는 윤리를 사고 발생 이후의 대응이나 사후적 규제로 보는 관점에서 벗어나, 초기 설계 단계부터 위험과 책임을 고려하는 '윤리 내재화'로의 전환을 의미한다.

세 가지 핵심 가치 : 인간, 사회, 미래

대한민국 인공지능 윤리원칙은 세 가지 핵심 가치를 제시한다. 첫째는 인간의 존엄성이다. 인공지능은 인간을 목적 그 자체로 존중하고, 인간의 자율적 판단과 선택, 창의성을 보장해야 한다. 둘째는 사회의 공공선이다. 인공지능의 편익이 개인과 특정 집단에 국한되지 않고, 사회적 신뢰와 공동의 이익 증진으로 이어져야 한다. 셋째는 인류의 지속가능성이다. 현재 세대와 미래 세대가 인공지능의 혜택을 함께 누릴 수 있도록 환경적·사회적 영향을 고려해야 한다.

이 세 가지 가치는 서로 분리되어 있지 않다. 인간의 존엄성을 지키는 일은 사회의 공공선을 강화하고, 공공선의 실현은 인류의 지속가능성을 뒷받침한다. 따라서 인공지능 윤리는 개별 기업의 준법 활동을 넘어, 우리 사회가 어떤 방향으로 기술을 발전시킬 것인지에 관한 공동의 약속이라고 할 수 있다.

일곱 가지 원칙, 일곱 가지 실천 과제

윤리원칙은 세 가지 핵심 가치를 구체화하기 위해 일곱 가지 실천 원칙을 제시한다.

첫째는 인간중심성이다. 인공지능은 인간의 판단과 선택을 지원해야 하며, 인간의 자율성과 창의성을 약화시키는 과도한 의존을 방지해야 한다. 둘째는 프라이버시 보호다. 개인정보는 명확한 목적과 필요한 범위 내에서 처리하고, 개인의 사생활과 정보주체의 권리를 보호해야 한다. 셋째는 공정성과 포용성이다. 인공지능의 편향과 차별을 줄이고, 모든 사람이 기술의 혜택과 기회에 공평하게 접근할 수 있도록 해야 한다.

넷째는 책임성이다. 개발·제공·이용 주체별 역할과 책임을 명확히 하고, 문제 발생 시 원인 규명과 실질적인 피해 구제가 가능해야 한다. 다섯째는 안전성이다. 인공지능의 위험을 사전에 식별하고, 위험 수준에 비례하는 안전조치와 오남용·외부 공격 대응체계를 마련해야 한다.

여섯째는 신뢰성이다. 인공지능이 정해진 목적과 범위 안에서 안정적으로 작동하도록 성능과 이상 징후를 지속적으로 점검해야 한다. 마지막은 투명성이다. 인공지능의 활용 사실과 목적, 역할, 한계 및 주요 판단 기준을 이용자가 이해하기 쉽게 제공해야 한다.

AI 윤리의 주체는 개발자만이 아니다

이번 윤리원칙의 또 다른 특징은 AI 공급자뿐 아니라 이용자, 정부와 공공기관, 시민사회 등 다양한 주체의 역할을 함께 제시했다는 점이다.

먼저 AI 공급자는 안전하고 신뢰할 수 있는 AI를 개발·제공하고, 사용 목적·권한·위험과 한계를 명확히 관리해야 한다. AI 이용자는 AI 결과를 비판적으로 검토하고, 과도한 의존이나 개인정보·권리 침해 및 오남용을 방지해야 한다. 마지막으로 정부와 공공기관, 그리고 사회는 AI 기준·평가·피해구제 체계를 마련하고, AI 리터러시와 사회적 공론·협력을 강화해야 한다.

결국 인공지능 윤리는 개발자에게만 부과되는 의무가 아니라, 인공지능을 사용하는 모든 사람이 각자의 위치에서 책임을 나누어 갖는 사회적 실천이다.

현장에서 확인한 윤리의 현실 : '중요하지만 보이지 않는 일'

필자가 속한 회사 역시 인공지능의 신뢰성, 안전성, 윤리적 기준을 확보하기 위해 지난 몇 년간 다양한 노력을 기울여 왔다. GS 인증과 혁신제품 인증, 소프트웨어 품질성능평가 등을 통해 AI 기술의 기본적인 품질과 성능을 확보하는 한편, 인공지능 신뢰성 확보를 위한 모델 개발 가이드라인 컨설팅에도 참여했다.

또한 인공지능 윤리영향평가 지표 개발을 위한 전문가 자문에 참여하고, '윤리 기준 자율 점검'을 사내 표준 소프트웨어 품질관리체계로 등록했다. 이를 통해 계획과 설계, 데이터 수집과 처리, 인공지능 모델 개발, 시스템 구현, 운영과 모니터링 등 개발 전 과정에서 윤리적 기준에 대한 사내 규정을 수립하고 준수 여부를 점검하도록 했다.

개인정보 보호를 위해서는 개인정보보호위원회의 온라인 개인정보 처리 가이드라인에 따라 필요 최소한의 수집, 필요한 시점의 수집, 제3자 제공, 개인정보 파기, 수탁자 교육과 감독 등의 원칙을 업무에 반영했다. 인공지능 학습용 데이터 품질관리 가이드라인 관련 컨설팅에도 참여하고, 데이터 품질을 사전에 관리하기 위한 절차를 사내 업무 프로세스에 마련했다.

조직 차원에서는 각 개발부서에 자체 검증 전담자를 두는 동시에, 전문적이고 체계적인 관리 전담 조직을 운영했다. 외부 전문기관과 협업하여 학습 데이터의 품질과 모델 결과를 객관적으로 검증하고, 모델의 신뢰성과 품질을 보장하기 위한 별도의 소프트웨어도 자체 개발했다. 아울러 정부가 시행하는 생성형 AI 레드팀 챌린지에 자사 모델을 제공하여 외부 공격에 대한 강건성도 확보했다.

이러한 일련의 과정을 통해 국내 최초로 공공과 민간 분야에서 각각 생성형 AI 기반 대형언어모델의 신뢰성 1호 인증을 받기도 했다.

그러나 이 과정에서 분명하게 깨달은 사실이 있다. 인공지능 안전은 생산 현장의 안전관리와 닮아 있다. 안전수칙이나 일회성 교육만으로 사고를 예방할 수 없듯, AI 역시 윤리원칙과 안전정책을 마련하는 것만으로는 부족하다. 단순히 인증을 획득하고, 규정을 만들고, 점검표를 마련하는 것만으로는 충분하지 않다는 점이다. 지속적으로 관리하지 않으면 조직은 다시 과거의 방식으로 돌아간다. 신뢰성·안전성·윤리성 확보를 위한 활동은 대체로 즉각적인 매출이나 눈에 보이는 성과로 연결되지 않는다. 그래서 사업 일정이 촉박해지거나 단기 성과가 강조될 때 우선순위에서 밀려나기 쉽다.

선언을 넘어 거버넌스로

이러한 고민을 바탕으로 필자는 사내 AI 안전 거버넌스 확립을 위해 인공지능 안전위원회를 발족시켰다. 동시에 기존의 인공지능 안전 정책서, 인공지능 안전 업무 정의서, LLM 모델 서비스 수준 협약서, 인공지능 데이터 관리 기준 등을 고도화했다.

이는 안전성과 신뢰성, 윤리성을 특정 부서의 부가 업무가 아니라 조직 전체의 공식적인 관리 체계로 편입시키기 위한 조치였다. 안전 조직은 위험을 식별하고 관리 기준을 제시하며, 안전위원회는 주요 이슈와 개선 과제를 논의하고 의사결정하는 역할을 맡는다. 개발부서와 품질관리 조직, 보안 및 개인정보 보호 조직이 각자의 역할을 수행하되, 서로 단절되지 않도록 연결하는 것이 핵심이다.

또한 디지털 혐오 표현, 디지털 성범죄, 언어폭력, 허위·조작정보 등의 디지털 역기능과 인공지능 윤리에 관한 전 직원 교육도 시행했다. 외부 전문가를 초빙해 기술적 위험뿐 아니라 사회적 영향과 이용자 관점의 문제를 함께 다루었다.

그 결과 인공지능 신뢰성·품질 대상과 좋은 인공지능 대상 수상의 영예도 얻을 수 있었다. 하지만 수상 자체보다 더 중요한 성과는 조직 구성원들이 신뢰성과 안전성, 윤리를 '개발이 끝난 뒤 확인하는 항목'이 아니라 '개발 전 과정에서 함께 고려해야 하는 기준'으로 인식하기 시작했다는 점이다.

AI 시민의 품격은 이용에서 시작된다

AI 윤리는 기업과 개발자만의 책임이 아니다. 이용자 역시 AI의 결과를 비판적으로 검토하고, 개인정보와 타인의 권리를 존중하며, 허위정보나 오남용을 경계해야 한다. AI의 편리함에 의존하기보다 최종적인 판단과 책임은 인간에게 있다는 원칙을 지켜야 한다.

기업과 공공기관 역시 성능만을 기준으로 AI를 도입하기보다 이용자에게 미칠 영향을 함께 살피고, 교육과 피해 구제체계를 갖춰야 한다. AI 시민의 품격은 기술을 얼마나 잘 활용하느냐보다 얼마나 책임 있게 활용하느냐에서 드러난다.

대한민국을 'AI 품격 국가'로

'대한민국 인공지능 윤리원칙'이 제시한 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성은 선언에 머물러서는 안 된다. 현장에서 작동하는 점검체계와 거버넌스로 연결될 때 비로소 의미를 갖는다.

AI의 신뢰성과 안전성은 평소에는 그 소중한 가치가 잘 드러나지 않는 눈에 잘 보이지 않는 투자다. 그러나 단 한 번의 사고로도 회복하기 어려운 치명적 리스크를 초래한다. 따라서 이를 비용이나 규제 대응의 관점이 아니라 AI 경쟁력을 구성하는 핵심 인프라로 바라볼 필요가 있다.

인공지능의 미래는 기술만으로 결정되지 않는다. 개발자와 기업, 정부와 공공기관, 그리고 시민 모두가 책임 있는 AI 문화를 만들어갈 때 대한민국은 AI 기술 강국을 넘어 신뢰할 수 있는 AI를 만들고 안전하게 활용하는 'AI 품격 국가'로 나아갈 수 있을 것이다.

김동환 포티투마루 대표이사