BC카드, AI 인프라 효율 극대화 위해 플랫폼 도입

[파이낸셜뉴스] BC카드는 인공지능(AI) 서비스 개발 생산성 향상과 인프라 운영 효율성 증대를 위해 '엔터프라이즈 급 컨테이너 플랫폼'을 도입했다고 13일 밝혔다.'엔터프라이즈 급 컨테이너 플랫폼'은 다양한 애플리케이션을 효율적으로 개발하고, 안정적으로 운영할 수 있도록 지원하는 통합 관리 시스템이다.

BC카드는 향후 더욱 복잡해질 AI서비스 운영 환경에 대비하기 위해 '레드 핫 오픈시프트(Red Hat OpenShift'와 Red Hat OpenShift AI를 도입했다.

오픈시프트는 애플리케이션 배포와 관리를 더욱 쉽게 하고, 다양한 개발 및 운영 도구를 통합해 제공하는 플랫폼이다. 또 '오픈시프트AI'는 다수의 그래픽처리장치(GPU) 서버를 효율적으로 자동 관리할 수 있어 거대 언어모델(LLM)이나 고성능 AI 추론 환경 구축에 특화됐다.

'오픈시프트' 도입을 통해 BC카드는 AI 프로젝트 실험과 검증 속도를 높이고, 서비스 안정성과 확장성을 크게 강화할 수 기반을 마련할 수 있게 됐다. 이를 기반으로 내부 LLM 프로젝트 배포 주기를 단축하고 업무 효율화, 리스크 분석, 내부 지식 검색 등 주요 업무에서 AI 서비스 실용화도 가속화할 수 있게 됐다.

아울러 BC카드가 국내 최초로 도입한 '오픈시프트AI'는 기존 컨테이너 플랫폼에 AI 개발 및 운영에 특화된 기능과 환경을 추가한 전용 솔루션으로, AI 프로젝트를 보다 효율적이고 체계적으로 수행할 수 있도록 지원한다.

[e-mail] 예병정 기자