"기술 발전만큼 책임체계도 진화… 보험의 질적 성장 이뤄야" [인터뷰]
루오 지아 제네바협회 중국 담당 대표
문서처리 등 보험 업무속도의 개선
자율적 의사결정 실현과 구분해야
AI의 가치,자동화에 그치지 않아
AI거버넌스 통합까지 고려해야
내달 5일 보험심포지엄서 기조연설
인공지능(AI)이 보험 인수심사와 보험금 청구 처리 등 보험산업의 핵심 업무를 바꾸고 있지만, 기술 발전이 보험 서비스의 질적 향상으로 이어지는 것은 아니라는 지적이 나왔다. 업무 효율성을 높이는 동시에 의사결정의 책임 소재를 명확히 하고 소비자 보호를 위한 통제 체계를 갖춰야 한다는 것이다.
■보험사, AI 결정 책임져야
루오 지아 제네바협회 중국 담당 대표(사진)는 28일 파이낸셜뉴스와의 서면 인터뷰를 통해 "기술 발전과 함께 책임 체계와 업무 프로세스에 대한 통제 장치도 함께 발전해야 한다"고 강조했다. 그는 "문서 처리나 고객 안내 업무의 속도가 빨라지는 것은 분명 가치가 있지만, 이러한 개선을 보험 인수심사 역량의 향상이나 보험금 지급 여부에 대한 자율적 의사결정이 실현된 것으로 혼동해서는 안 된다"고 말했다.
오는 11월 5일 서울 콘래드호텔에서 열리는 제19회 국제보험산업심포지엄에서 기조연설을 맡은 지아 대표는 베이징대학교 보험학과 부교수로도 활동하고 있다. 그가 중국 담당 대표로 있는 제네바협회는 세계 주요 보험·재보험사 최고경영자들이 참여하는 비영리 국제 연구기관으로, 보험산업의 주요 현안과 사회·경제적 위험을 연구하고 정책적 시사점을 제시한다.
지아 대표는 AI가 보험사의 업무 효율성 개선을 넘어 의사결정 방식과 리스크 관리 체계에도 변화를 가져올 것으로 전망했다. 특히 목표와 권한이 주어진 범위에서 스스로 계획을 세우고 작업을 수행하는 '에이전틱(Agentic) AI'가 보험산업의 업무 흐름을 재편할 핵심 기술로 부상하고 있다고 진단했다.
그러나 AI의 활용 범위가 넓어질수록 사람의 감독과 책임 체계를 명확히 하는 일이 중요해진다. 보험 가입 심사를 거절하거나 보험금 지급 여부를 판단하는 등 소비자의 권리에 직접적인 영향을 미치는 사안에서는 AI의 결과를 그대로 수용해서는 안 된다는 지적이다.
지아 대표는 "보험사는 자사의 이름으로 내려진 결정에 대해 고객에게 책임을 져야 한다"고 강조했다. 그러면서 "AI 개발사는 공급한 시스템에, 운영자는 시스템의 구현과 모니터링에 각각 책임을 져야 하지만, 고객이 문제를 해결하기 위해 여러 당사자 사이에서 책임 소재를 따져야 하는 상황은 없어야 한다"고 덧붙였다.
■AI 오류 막을 실시간 감시 필수
에이전틱 AI의 활용이 확대되면서 기존의 AI 관리 방식에도 변화가 필요하다는 지적이 나온다. AI 에이전트가 배포 이후에도 행동을 조정하고 다른 에이전트와 상호작용하면 의사결정 과정을 추적하기 어려워지고, 오류가 여러 단계에 걸쳐 확산될 가능성도 커지기 때문이다.
지아 대표는 사람의 감독을 실효성 있게 유지하려면 "실시간 모니터링과 오류 감지, 자동 경보 및 담당자 보고 체계를 마련해야 한다"고 강조했다. AI가 수행한 작업과 승인 과정, 활용한 정보 및 시스템 버전을 기록하고, 문제가 발생하면 작업을 중단하거나 안전한 절차로 전환할 수 있어야 한다는 설명이다.
AI 거버넌스를 보험사의 기존 리스크 관리 체계에 통합하는 것도 주요 과제다. 각 AI 활용 사례의 책임자를 지정하고 개인정보 보호와 보안, 데이터의 적법한 이용, 독립적인 성능 검증과 불공정한 결과에 대한 점검을 강화해야 한다는 것이다. AI가 행사할 수 있는 권한과 지급 한도를 제한하고 외부 AI 모델이나 클라우드 서비스에 대한 의존성도 관리해야 한다고 덧붙였다.
지아 대표는 "보험산업에서 AI의 가치는 업무를 얼마나 빠르게 자동화하느냐만으로 결정되지 않는다"며 "신뢰할 수 있는 서비스와 명확한 책임 체계를 바탕으로 AI의 성과를 검증하면서 활용 범위를 확대해야 한다"고 밝혔다.
[email protected] 홍예지 김태일 기자
