성공적인 생성형 AI 활용을 위해 가장 우선돼야 하는 것은 데이터 거버넌스 구축이다. 그동안 대다수의 기업은 보유한 데이터의 10% 정도 밖에 활용하지 못했으며 그마저도 정형 데이터에 국한돼 있었다. 그러나 대형언어모델(LLM)의 등장으로 비정형 데이터를 포함한 모든 데이터에서 인사이트를 추출할 수 있게 됐다. 특히 구글의 멀티모달 모델 '제미나이'와 같이 사전 학습된 LLM이 늘어남에 따라, 모델 개발에 대한 기업의 부담 또한 줄어들었다.
그럼에도 모델에 비즈니스 현실성을 충분히 학습시키고 환각 현상을 줄이는 것은 여전히 기업의 몫이다. 기업은 클라우드 전반의 데이터 사일로를 해소하고, 데이터에 대한 통합적 시각을 확보해 데이터 품질을 보장함으로써, LLM의 미세 조정 및 고객 데이터에 기반한 답변인 그라운딩에 필요한 자체 데이터의 접근성을 강화해야 한다.
데이터 문제를 해결했다면 다음은 의미와 맥락을 이해하는 챗봇을 통해 LLM을 활성화할 차례다. 성공적인 인사이트 도출을 위해 챗봇은 비즈니스 용어가 지닌 의미와 뉘앙스를 정확하게 해석할 수 있어야 한다. 이 능력은 시맨틱 데이터와 검색증강생성(RAG) 기술을 바탕으로 과거 대화의 맥락과 메타데이터를 활용해 어떻게 챗봇을 개선하느냐에 달려 있다.
생성형 AI를 내재화하기 위한 마지막 단계는 생성형 AI를 비즈니스 프로세스에 통합하는 것이다. 특히 생성형 AI에 자동화 기술을 결합하면 혁신을 전사적으로 확장하고 효율성을 향상시킬 수 있다. 생성형 AI가 단조롭고 반복적인 업무를 대신 처리하는 동안 사람은 창의력과 혁신에 더욱 집중할 수 있다. 과거의 생산성은 더 많은 작업을 수행하는 것을 의미했지만, 생성형 AI 시대에는 더 크고 유의미한 성과와 진정한 혁신이 생산성의 기준이 된다.
AI 기술이 빠르게 진화함에 따라 올해는 모든 산업에서 한층 더 치열한 생성형 AI 전쟁이 예상된다.
기업이 비즈니스 기회를 포착하고 경쟁력을 확보하기 위해서는 적시에 활용할 수 있는 체계적인 데이터 기반을 조성하는 것이 관건이다. 또 생성형 AI 안팎의 방대한 데이터 흐름을 효과적으로 관리하고, 이를 새로운 모델과 기술로 발전시킬 수 있는 기업이 생성형 AI 시대의 리더가 될 수 있을 것이다. 수많은 국내 기업들이 생성형 AI로 데이터 잠재력을 깨워 다양한 비즈니스 기회를 모색하고 실현하는 한 해가 되길 기대해 본다.
엄경순 구글 클라우드 코리아 커스터머 엔지니어링 총괄
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지