"AI오류, 비즈니스에 치명적…'AI 거버넌스'로 신뢰성 확보"

IBM '왓슨x.거버넌스’ 솔루션

"기업 고객사를 만나보면 단 '한 번'이라도 인공지능(AI)이 잘못된 말을 해선 안 된다고 한다. 할루시네이션(환각) 문제 등이 비즈니스에 치명적이기 때문이다."

이지은 한국IBM 최고기술책임자(CTO·전무)는 14일 서울 영등포구 본사에서 열린 'IBM 왓슨x. 거버넌스' 출시 기자간담회에서 "기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원할 것"이라며 이 같이 강조했다.

많은 기업들이 거대언어모델(LLM)을 넘어 다양한 생성형 AI와 파운데이션 모델을 비즈니스에 적용하는 것을 검토 중이다. 그러나 환각, 편향성, 오류, 지적재산권 침해, 민감정보 유출 등 위험 요소로 인해 기업의 AI의 활용은 여전히 쉽지 않은 것으로 알려졌다.

이날 연사로 참여한 김현정 한국IBM 컨설팅 대표도 기업이 신뢰할 수 있는 AI를 구축하는 것이 더욱 중요해졌다고 강조했다. 김 대표는 "생성형 AI 기술은 급속도로 발전하고 있으나 AI 위험 요소들도 점점 커지고 있다"며 "기업들이 이를 극복하고 성공적으로 AI를 비즈니스에서 활용하기 위해 AI를 위한 데이터, AI 모델 그리고, AI 도입 및 확장 과정에서 신뢰성을 확보하는 'AI 거버넌스'에 대한 고려가 AI 도입 검토 시 처음부터 고려돼야 한다"고 말했다.

IBM은 기업의 고민을 덜어줄 수 있는 솔루션을 출시하고 있다. 대표적으로 이달 6일 글로벌 출시된 '왓슨x.거버넌스'는 조직이 AI 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션 툴킷이다.

△오픈 소스 커뮤니티 등의 AI 모델을 모니터링 및 통제하는 'AI 생애주기 거버넌스' △AI의 위험 요소를 사전에 감지하고 완화하는 툴 △AI가 내부 정책이나 업계 표준에 맞는지 관리하는 '규제 준수' 등 세 가지 부문에 대한 기술을 통해 기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원한다.

이 전무는 "슈퍼마켓에 가서 식품을 살 때 보면 칼로리 등이 포함된 영양성분표가 붙어있다. 이처럼 IBM 왓슨x.거버넌스는 AI에도 팩트시트를 붙여줄 수 있다"고 설명했다.

[e-mail] 임수빈 기자