BC카드는 향후 더욱 복잡해질 AI서비스 운영 환경에 대비하기 위해 '레드 핫 오픈시프트(Red Hat OpenShift'와 Red Hat OpenShift AI를 도입했다.
오픈시프트는 애플리케이션 배포와 관리를 더욱 쉽게 하고, 다양한 개발 및 운영 도구를 통합해 제공하는 플랫폼이다. 또 '오픈시프트AI'는 다수의 그래픽처리장치(GPU) 서버를 효율적으로 자동 관리할 수 있어 거대 언어모델(LLM)이나 고성능 AI 추론 환경 구축에 특화됐다.
'오픈시프트' 도입을 통해 BC카드는 AI 프로젝트 실험과 검증 속도를 높이고, 서비스 안정성과 확장성을 크게 강화할 수 기반을 마련할 수 있게 됐다. 이를 기반으로 내부 LLM 프로젝트 배포 주기를 단축하고 업무 효율화, 리스크 분석, 내부 지식 검색 등 주요 업무에서 AI 서비스 실용화도 가속화할 수 있게 됐다.
아울러 BC카드가 국내 최초로 도입한 '오픈시프트AI'는 기존 컨테이너 플랫폼에 AI 개발 및 운영에 특화된 기능과 환경을 추가한 전용 솔루션으로, AI 프로젝트를 보다 효율적이고 체계적으로 수행할 수 있도록 지원한다.
coddy@fnnews.com 예병정 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지