정부, AI 에이전트 개인정보 기준 만든다

이달 '모두의 AI' 베타 서비스
데이터 수요 확인후 법적 검토
기업 간 개인정보 범위 구체화

인공지능(AI)이 이용자를 대신해 상품을 구매하고 병원을 예약하는 'AI 에이전트' 시대를 앞두고 정부가 개인정보 규칙 정비에 나선다. 이용자가 AI에 업무를 맡겼을 때 이름·주소·연락처 등 개인정보를 쇼핑몰이나 병원, 결제업체 등에 어디까지 전달할 수 있는지 기준을 구체화하는 것이 핵심이다. 정부는 10월 시작하는 '모두의 AI' 비공개 베타 서비스에서 실제 데이터 연계 수요를 확인하고 관계 부처와 법적 검토를 병행할 방침이다.

30일 정부와 업계에 따르면 과학기술정보통신부는 모두의 AI 참여 기업들이 법적 기준을 요구하는 사례를 파악한 뒤 개인정보보호위원회 등 관계 부처와 협의할 계획이다.

'모두의 AI'는 국산 AI 기반의 생활형 챗봇과 AI 에이전트를 만드는 사업이다. 카카오·SK텔레콤·KT 등 3개 컨소시엄은 10월부터 순차적으로 비공개 베타 서비스를 시작하고, 12월 정식 출시를 목표로 하고 있다.

기업 간 데이터 이동이 중요한 이유는 AI가 정보 안내를 넘어 실제 업무를 처리하기 때문이다. 상품 추천에는 가격과 성능 정보만 있어도 되지만, 주문에는 구매자의 이름과 배송지가 필요하다. 병원 예약에도 이름과 연락처, 희망 시간 등을 전달해야 한다. 지금은 이용자가 앱에 직접 정보를 입력하지만 앞으로는 AI 에이전트가 대신할 수 있다. 하나의 대화창에서 요청해도 실제 업무는 AI 기업과 쇼핑몰, 예약·결제 사업자 등을 거쳐 처리돼 필요한 정보도 함께 이동해야 한다.

문제는 이용자가 AI에 예약이나 구매를 맡겼다고 해서 개인정보를 다른 기업에 넘기는 것까지 동의했다고 볼 수 있느냐다. "이 상품을 사줘"라는 요청에도 정보를 받을 판매자와 제공 항목, 보관 기간, 이용 목적 등을 정해야 한다.

현행 개인정보보호법도 동의를 받아 제3자에게 정보를 제공할 때 이런 사항을 알리도록 규정한다. 정부는 이를 AI 서비스에 어떻게 적용할지 구체화해야 한다.

과기정통부 관계자는 "저희가 판단할 수 없는 부분은 개인정보보호위원회나 관계 부처와 협의가 필요하다"며 "지금은 기업들이 어떤 사항을 명확히 해줬으면 하는지 의견을 듣는 단계"라고 말했다.

해외 AI 기업들도 에이전트가 이용자를 대신해 행동하는 과정에서 개인정보가 과도하게 전달되지 않도록 별도의 통제 장치를 두고 있다. 오픈AI는 '에이전틱 커머스 프로토콜(ACP)'을 통해 구매에 필요한 정보만 이용자 허락 아래 판매자에게 전달하도록 설계했다. 메타의 '뮤즈(Muse)'도 앱별 접근 범위를 설정하고 구매 등 민감한 행동을 하기 전 이용자의 승인을 받도록 했다.

하지만 이용자가 AI에 부여한 권한의 범위를 어디까지로 볼 것인지는 여전히 쟁점이다. 최근 뮤즈에 중고거래를 맡긴 이용자의 집 주소가 구매자에게 전달된 사례가 대표적이다. 해당 이용자는 '항상 허용'을 선택했지만, 실제 개인정보를 외부에 전달할 때는 거래마다 별도의 승인을 받을 것으로 생각했다고 밝혔다.

과기정통부는 비공개 베타 서비스에서 기업 간 데이터 연계 수요를 확인하고, 관계 부처와 현행법상 허용 범위를 검토할 예정이다.

[email protected] 윤홍집 기자