'모델' 다음은 '데이터 통제권'···오픈AI·앤트로픽, 기업용 AI 보안 승부

그래픽=박혜수 기자

오픈AI·앤트로픽 등 인공지능(AI)서비스 기업들이 데이터 통제권을 기업에 넘기는 기능을 추가하며 기업용 AI 시장 공략을 강화하고 있다. 기업들이 AI를 업무에 활용하는 과정에서 사업 기밀 등 민감한 데이터의 외부 유출 우려가 커지는 점을 겨냥한 것으로 풀이된다.

5일 정보기술(IT)업계에 따르면 앤트로픽은 지난 2일(현지시간) 기업용 보안 기능 '엔터프라이즈 프론티어 세이프가드(Enterprise Frontier Safeguards)'를 공개했다. 해당 기능은 기업이 데이터를 앤트로픽 내부가 아닌 자체 클라우드 인프라에 데이터를 저장하는 '데이터 비보관' 방식을 적용한 것이 핵심이다. 금융·의료·제조·통신·공공 등 100곳 이상의 기업과 함께 개발했으며, 데이터 비보관과 함께 AI 오남용을 탐지할 수 있는 기능도 제공한다.

오픈AI도 기업 고객을 대상으로 데이터 보관을 줄이는 정책을 확대하고 있다. 지난달 프런티어 모델에 '제로 데이터 리텐션(Zero Data Retention)'을 적용해 조건을 충족하는 고객의 프롬프트와 응답을 요청 처리 이후 보관하지 않기로 했다. 고객이 별도로 동의하지 않는 한 데이터를 모델 학습에 사용하지 않는다는 원칙도 제시했다.

아울러 데이터 접근 없이 AI 안전성을 확대하는 기능도 선보였다. 여러 상호작용에서 나타나는 위험 패턴을 파악하되 원본 콘텐츠에는 접근하지 않는 '프라이빗 세이프티 프로세싱(Private Safety Processing)'을 적용해 데이터 보호와 안전성 확보를 동시에 추진한다는 게 오픈AI의 설명이다.

구글과 마이크로소프트 역시 기업용 AI에서 고객 데이터 보호를 강조하고 있다. 구글은 제미나이 엔터프라이즈에서 고객 데이터를 구글 모델이나 다른 고객을 위한 모델 학습에 사용하지 않는다고 밝히고 있다. 마이크로소프트도 코파일럿의 프롬프트와 응답, 업무 데이터가 기초 모델 학습에 쓰이지 않는다고 안내하는 중이다.

AI 서비스 기업들이 기업용 기능 강화에 나선 것은 내부 기밀 보안에 대한 우려가 커지는 영향으로 보인다. 보안에 민감한 기업 입장에서는 AI 에이전트가 기업 내부 문서와 시스템에 접근해 장시간 업무를 수행할수록 데이터 유출에 대한 부담이 커질 수 있다. AI 에이전트가 사내 문서를 검색하고 업무 시스템에 접근하는 등 활용 범위가 넓어질수록 민감한 정보가 AI를 거치는 경우도 많아지기 때문이다.

이에 따라 AI 업체들도 모델 성능 못지않게 데이터 보호와 접근 통제, 오남용 방지 기능을 강화하는 경쟁에 나설 것으로 전망된다.

관련기사

• SK텔레콤, AI 성장축 구체화···증권가 "재평가 기대"

  2026.09.01

• "퇴근한 뒤에도 AI가 일한다"···오픈AI가 만드는 '잠들지 않는 AI'

  2026.08.28

• 앤트로픽, 1조5000억달러 IPO 추진···신주·구주 매각 검토

  2026.08.28

• 앤트로픽, AI 데이터센터 확보에 62조원 규모 임차계약

  2026.08.27