익시오 통화내용 노출, AI신뢰성 대책 급하다

[파이낸셜뉴스] LG유플러스의 인공지능(AI)통화비서 '익시오'가 이용자 36명의 통화내용 요약 정보와 상대방 전화번호를 다른 이용자 101명에게 일시적으로 노출하는 사고가 발생했다. 사고 규모는 작다. 원인도 서비스 점검 과정에서 직원의 일시적 실수였고, 노출된 정보도 민감하지 않아 대수롭지 않은 사고로 넘길 수 있다.

그런데 대수롭지 않게 넘기서는 안될 일이지 싶다.

통화내용은 개인의 가장 내밀한 사생활이다. 통화내용의 비밀은 헌법으로 보장된다. 수사기관 마저도 법원의 허가를 받아 통화 여부와 상대방 의 전화번호 같은 통신내역을 확인할 수 있을 뿐, 통신회사를 통해 통화내용까지 들여다볼 수는 없도록 통신비밀보호법이 별도로 존재한다.

그런데 AI비서가 이 헌법적 비밀보장의 신뢰 기반을 흔들어 놨다.

SK텔레콤, LG유플러스 같은 통신회사들이 스마트폰 안에 AI비서를 준비해 뒀다며 AI서비스를 내놨다. 대부분의 이용자들은 AI통화비서의 서비스를 통화내용 녹음하고, 요약본을 만들어주는 정도로 생각하고 편리함을 즐기고 있을 수 있다. 이번 사고는 AI통화비서를 단순히 편리한 서비스로 넘기기 전에 복잡하고 어려운 판단이 선행돼야 한다는 점을 짚어냈다. AI 통화비서가 생기면서 나의 통화내용은 누구도 엿듣지 않고, 내가 스스로 통제할 수 있다는 통신비밀의 신뢰 기반을 바꿔 놓은 것이다.

사실 AI통화비서의 통신비밀 훼손 논란은 지난 2023년 SK텔레콤의 에이닷 서비스 시작 무렵 제기됐었다. 통신회사가 통화내용 요약을 서버에 보관하고, 통화내용이 자동 녹음되는 것이 통신비밀보호법과 개인정보보호법에 저촉되는지 먼저 판단해야 한다는 논란이 있었다. 당시 개인정보보호위원회는 통화내용 요약본의 저장 과정에서 시스템 접속 기록을 남기도록 요구했고, 개인정보보호법에는 저촉되지 않는다고 결론을 냈다. 과학기술정보통신부는 아직 통신비밀보호법 저촉 여부에 대한 결론을 내지 않았다.

정부가 AI통화비서의 역할을 과거 녹음 서비스 수준으로 판단하고 있는 것 아닌가 따져봤으면 한다. AI 통화요약은 데이터를 단순 저장하는 것이 아니라 '처리’하고 ‘분석’하며 ‘행동하는’ 기술이다. 통화내용 녹음에 대해 이용자 본인의 동의만 받으면 된다는 수준에서 AI서비스를 얕잡아보고 있는 것 아닌가 싶다. 통화내용이 스마트폰 안에 모두 녹음되면 AI를 이용해 언제든 가공될 수 있다. 통화 상대방은 통화내용 녹음과 가공본 제작 가능성을 일일이 확인하지 못한다. 통화내용 요약은 AI비서가 통화 내용을 실시간으로 분석하고, 핵심 의미를 정리해 대화 중 특정 키워드를 요약 가공한다. 문서가 된 요약본은 다른 내용으로 가공될 수 있다. 또 통신회사는 통화내용 요약 정보를 6개월간 서버에 보관한다고 한다. 해커의 공격 대상이 될 수 있다.

AI 비서들은 전화 상담, 금융·투자 조언, 의료 안내 등 우리 일상의 민감한 영역까지 속속 들어오고 있다. 나의 병원상담 내역이나 재무상담이 직원의 실수로 타인에게 노출되거나 나의 의도와 다르게 가공되는 사고는 절대 일어나지 않는다는 신뢰가 있어야 AI서비스가 활성화된다.

그래서 이번 익시오 사고는 정부와 통신사 모두 무겁게 들여다 볼 문제다. 통신회사가 통화내용 요약본을 6개월이나 보관해야 하는지 부터 따져봐야 한다. 통화요약본은 수사기관이 요청할 수 있는 수사자료에 포함할 것인지 기준을 정해야 한다. AI가 요약한 통화 요약본은 통화내용과 일치하지 않을 수 있다는 표시를 어떻게 할 것인지도 정해야 한다. 대형사고 발생 전에는 반드시 비슷한 원인의 사소한 사고들이 있다는 하인리히 법칙을 생각하면, 이번 익시오 사고는 사소하지만 AI 신뢰성을 점검하고 기준을 세우라는 예방의 신호 아닐까 싶다.

AI 시대의 기반은 신뢰다. 느리더라도 제대로 따져 신뢰를 설계해야 한다. 이것이 AI 에이전트 시대에 AI시장을 확대하는 가장 빠른 길이다.

[e-mail] 이구순 기자