네이버 'AI 탭' 국제표준 인증…에이전틱 AI 신뢰성 확보
[파이낸셜뉴스] 네이버가 에이전틱 인공지능(AI) 검색 서비스 'AI 탭'의 국제표준 인증을 받았다. AI 모델 개발부터 서비스 운영까지 전 과정의 위험을 관리하는 체계를 인정받은 것으로, 에이전틱 AI 서비스 안전성과 신뢰성 확보에 속도를 내는 모양새다.
3일 업계에 따르면 네이버의 AI 기반 검색·에이전틱 AI 서비스 AI 탭이 AI 경영시스템 국제표준인 ISO/IEC 42001:2023 인증을 획득했다. 대규모 사용자가 이용하는 검색 기반 에이전틱 AI 서비스가 해당 인증을 받은 것은 국내 기업 중 처음이다.
ISO/IEC 42001은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동 제정한 AI 분야 첫 국제 경영시스템 표준이다. AI 시스템의 개발과 제공, 운영 과정에서 거버넌스와 위험관리, 보안, 윤리 등을 체계적으로 관리하는지를 평가한다.
AI 탭은 이용자와 여러 차례 대화를 주고받으며 맥락을 파악하고 개인화된 답변을 제공하는 서비스다. 검색 결과 안내를 넘어 예약과 구매 등 이용자가 원하는 다음 행동까지 연결한다.
특히 이용자의 질문에 답하는 단계를 넘어 실제 행동을 수행하는 에이전틱 AI 서비스의 위험 요소를 관리하는 체계를 독립된 제3자 검증을 통해 인정받게 됐다. 네이버는 AI 모델 개발자이자 서비스 공급자로서 두 영역 모두 심사를 받았다.
네이버는 AI 안전 전담 조직인 AI 세이프티 센터를 중심으로 AI 위험의 식별과 평가, 처리 과정을 문서화해 관리하고 있다. 전사 공통 위험 기준인 AI 위험 분류·식별 체계 'N-ARTI'와 안전성 평가 도구 'N-ASET'도 경영시스템의 구성 요소로 운영한다.
이 같은 관리 체계는 네이버 AI 안전 프레임워크 'ASF 2.0'과 체크리스트 'CHEC 2.0'을 기반으로 한다. 특히 CHEC 2.0은 이번 인증 심사에서 우수 사례로 평가받았다.
네이버는 이번에 검증받은 안전 관리 체계를 팀네이버의 다른 에이전틱 AI 서비스로 확대할 계획이다.
유봉석 네이버 최고위험관리책임자(CRO)는 "AI가 사용자를 대신해 검색하고 행동하는 시대에는 서비스의 편리함만큼 안전과 신뢰가 중요하다"며 "AI 탭에서 검증한 안전 관리 체계를 팀네이버의 다른 에이전틱 AI 서비스로 확장해 나가겠다"고 말했다.
[email protected] 장민권 기자
