비씨카드 사옥 전경. (사진=비씨카드)

비씨카드가 인공지능(AI) 서비스 개발 생산성 향상을 위한 엔터프라이즈급 컨테이너 플랫폼을 도입했다고 14일 밝혔다. 엔터프라이즈급 컨테이너 플랫폼은 다양한 애플리케이션을 효율적으로 개발하고, 안정적으로 운영할 수 있도록 지원하는 통합 관리 시스템이다.

비씨카드는 향후 더욱 복잡해질 AI 서비스 운영 환경에 대비하기 위해 레드햇 오픈시프트와 오픈시프트 AI를 도입했다.

오픈시프트 도입을 통해 비씨카드는 AI 프로젝트 실험과 검증 속도를 높이고, 서비스 안정성과 확장성을 크게 강화할 수 있는 기반을 마련할 수 있게 됐다고 밝혔다.

비씨카드는 이를 기반으로 내부 거대언어모델(LLM) 프로젝트 배포 주기를 단축하고 업무 효율화, 리스크 분석, 내부 지식 검색 등 주요 업무에서 AI 서비스 실용화도 가속화할 계획이다. 기존 컨테이너 플랫폼에 AI 개발 및 운영에 특화된 기능과 환경을 추가한 전용 솔루션인 오픈시프트 AI도 도입해 AI 프로젝트를 보다 효율적이고 체계적으로 수행할 예정이다.

최원석 BC카드 사장은 “오픈시프트 AI 도입을 통해 GPU 자원 활용을 최적화하고 LLM 학습 및 추론 환경을 개선함으로써 AI 인프라 운영의 안정성과 효율성을 크게 향상시켰다”며 “향후 핵심 업무 영역 전반에서 AI 기술 적용을 확대해 디지털 경쟁력을 지속적으로 강화해 나갈 계획”이라고 말했다.