"안전한 AI 생태계 마련" KT클라우드, 카카오와 맞손
AI 파운드리에 카카오 AI 안정성 도구 연동
[파이낸셜뉴스] 생성형 인공지능(AI)이 공공·금융 등 핵심 분야로 확산되면서 '안전성'이 AI 도입의 핵심 경쟁력으로 떠오르고 있다. KT클라우드가 카카오와 손잡고 유해 콘텐츠와 프롬프트 공격 등을 차단하는 안전 기술을 공공·민간 고객 환경에 적용하며 신뢰할 수 있는 AI 서비스 기반 마련에 나선다.
26일 업계에 따르면 KT클라우드는 카카오와 함께 AI 안전성 협력 체계를 구축하고 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경 조성에 나선다. KT클라우드 공용준 클라우드 본부장과 카카오 김세웅 AI 시너지 성과리더는 지난 25일 카카오 판교 아지트에서 협약식을 진행했다.
KT클라우드는 지난 4월 공개한 공공 고객 대상의 검색증강생성(RAG) 기반 생성형 AI 서비스 플랫폼 'RAG 스위트 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 연동한다. 카나나 세이프가드는 한국어와 문화적·법적 맥락에 특화된 AI 안정성 모델이다. 유해 콘텐츠 생성, 부적절한 응답, 프롬프트 공격 등을 탐지하고 차단한다.
양사는 가드레일뿐 아니라 모델 안정성 평가 시스템, 공격 시나리오를 바탕으로 취약한 부분을 진단하는 AI 레드티밍 시스템 등 여러 안정성 도구를 KT클라우드 고객에 제공할 계획이다.
또 고객 피드백과 운영 데이터를 바탕으로 도구를 통합·관리하는 운영 플랫폼 분야로도 협력을 확대한다. KT클라우드는 고객이 생성형 AI 서비스 개발부터 배포, 운영, 모니터링까지 전 과정에서 체계적인 AI 운영 환경을 구축할 수 있을 것이라고 기대하고 있다.
KT클라우드 김봉균 대표는 "공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다.kaya@fnnews.com 최혜림 기자
