맥머레이 GMTCK 대표, "AI 좋아질수록 인간이 통제권 놓지 말아야"

GMTCK 대표 "기계에 최종 판단 맡겨선 안 돼"

AI 환각 현상 대비 필요성···인간 판단 배제 불가

브라이언 맥머레이 GMTCK 대표가 21일 대구 엑스코에서 열린 미래혁신기술박람회에서 발표하고 있다. 사진=한국자동차기자협회

인공지능(AI)이 자동차 설계부터 주행 판단까지 관여하는 시대가 다가오면서 기술의 성능만큼이나 인간의 통제와 책임이 중요해질 것이라는 지적이 나왔다. AI가 정교한 판단을 내놓더라도 결과를 검증하고 최종 결정을 내리는 역할까지 기계에 맡겨서는 안 된다는 주장이다.

21일 대구 엑스코에서 열린 미래혁신기술박람회에 참석한 브라이언 맥머레이 GM테크니컬센터코리아 대표는 기조강연에서 AI 시대 핵심 과제로 신뢰와 책임, 통제권을 꼽았다. AI가 판단과 설계, 의사결정은 물론 혁신까지 수행하는 상황에서 인간이 여전히 주도권을 쥐고 있는지 돌아봐야 한다는 설명이다.

맥머레이 대표는 AI가 사실과 다른 정보를 생성하는 '환각(hallucination)' 현상을 언급하며 오류를 찾아내고 바로잡는 인간의 역할을 강조했다. 그는 "AI가 사람보다 훨씬 빠르게 결과를 내놓는 상황에서 잘못된 판단을 어떻게 발견할 것인지가 중요하다"라며 "AI를 활용하더라도 의사결정 과정에서 인간이 빠져서는 안 된다"고 강조했다.

이러한 문제는 자동차 산업에서 더욱 중요하다. 차량 설계와 개발에 AI를 활용하면 작업 효율을 높일 수 있지만, 기술이 제시한 설계나 판단을 그대로 수용한다고 해서 반드시 안전이나 품질을 보장하지는 않는다. 특히 자율주행 기술이 고도화될수록 다양한 주행 상황에서 AI의 판단이 적절한지 검증하고, 예기치 못한 상황에 대응할 수 있는 체계를 갖추는 일이 중요해진다. 기술의 성능뿐 아니라 오류를 걸러내는 절차와 책임 소재까지 함께 고려해야 한다는 의미다.

아울러 미래 자동차가 운전자 취향과 상황을 이해하는 동반자로 진화하고, 레벨 4 자율주행을 통해 이동 부담을 줄일 수 있다고 전망했다. 다만 기술 발전에 따른 편의성만큼 중요한 사실은 인간이 통제권을 유지하는 일이라고 강조했다. 맥머레이 대표는 "AI 시대에 던져야 할 핵심 질문은 기계가 얼마나 똑똑해지는지가 아니라 인간이 여전히 통제권을 쥐고 있는지 여부"라고 말했다.

AI는 업무 효율을 높이고 더 나은 선택을 돕는 수단이 될 수 있다. 다만 인간이 승인과 감독을 자동화해버리면 책임을 다하기 어려워진다. 전문지식뿐 아니라 결과가 어딘가 이상하다고 느끼는 직관 역시 오류를 발견하는 데 필요한 요소라는 게 그의 설명이다. 기술을 활용하면서도 판단의 고리를 유지해야 한다는 주장이 나온다.

관련기사

• 포드 안방 파고든 현대차그룹···美서 'RV·하이브리드' 질주

  2026.09.29

• 미국식 프리미엄 통할까···뷰익, 한국서 4300만원대 PHEV 승부수

  2026.09.30

• 트럼프 "현대차, 美 조지아 공장에 7500억원 투자할 것"

  2026.10.17

• 현대차·기아, 자동화 넘어 자율운영으로···정의선의 스마트팩토리 청사진

  2026.10.20