IT IT일반

델, 엔비디아 AI팩토리 고도화…토큰 소비량 최대 76% 절감

윤홍집 기자
파이낸셜뉴스

데이터 관리부터 인프라 운영까지 기능 강화
AI 에이전트 활용 지원…기업 AI 도입 문턱 낮춘다

델 테크놀로지스 로고. 델 테크놀로지스 제공
델 테크놀로지스 로고. 델 테크놀로지스 제공

[파이낸셜뉴스] 델 테크놀로지스가 엔비디아와 협력해 기업의 인공지능(AI) 구축·운영을 지원하는 솔루션을 강화한다. 기업들이 AI 도입 과정에서 데이터 관리와 인프라 구축, 투자수익률(ROI) 확보 등에 어려움을 겪는 가운데 AI 도입부터 실제 업무 적용까지 지원하는 역량을 확대한다는 전략이다.

AI 에이전트 데이터 활용 효율 높인다
델 테크놀로지스는 '엔비디아 기반 델 AI 팩토리'의 포트폴리오와 기능을 대폭 강화한다고 17일 밝혔다.

델은 AI 팩토리 출범 이후 데이터, 컴퓨팅, 네트워킹 등 분야에서 420개 이상의 솔루션 및 장비를 선보였으며 현재 6500개 이상의 기업·기관이 이를 활용하고 있다.

델은 AI 에이전트가 기업 내 분산된 데이터를 효율적으로 활용할 수 있도록 '델 AI 데이터 플랫폼'의 기능을 강화했다.

새롭게 선보인 '에이전틱 데이터 게이트웨이'는 여러 AI 에이전트가 기업 데이터에 접근할 수 있는 통합 경로를 제공한다. 델의 자체 테스트 결과 기존에 확보한 맥락 정보를 재사용해 토큰 소비량을 최대 76% 줄이고 답변 정확도를 60%에서 94%로 높인 것으로 나타났다.

기업 내부 서버와 클라우드 등 서로 다른 환경에 저장된 데이터를 별도로 옮기지 않고 활용할 수 있는 기능도 추가했다. 이미지와 영상, 문서 등 다양한 형태의 데이터를 하나의 처리 과정에서 관리할 수 있도록 했으며 데이터 인덱싱 속도도 최대 12배 높였다.

랭체인, 오픈AI 코덱스 등 외부 개발 도구와의 연동도 지원한다. 개발자는 기존에 사용하던 도구를 유지하면서 기업 내부 데이터를 외부로 반출하지 않고 AI 개발에 활용할 수 있다.

대규모 AI 인프라 구축·관리 지원
AI 인프라 관련 포트폴리오도 확대했다. 델은 소프트웨어 기반 스토리지 '델 엑사스케일'에 직접 액체 냉각 방식을 적용한 수랭식 모델과 공간 효율성을 높인 고밀도 모델을 추가했다.

차세대 인프라 관리 플랫폼 '델 오픈매니지 랙 스케일'도 선보였다. 이전 세대보다 최대 12배 확대된 10만대의 장치를 관리할 수 있으며 자연어를 활용해 시스템 상태와 전력, 성능 관련 문제를 파악하고 해결할 수 있다.
이와 함께 오픈AI, 데이터로봇 등 글로벌 기업과 협력해 AI 보안, 에이전틱 AI, 영상 분석, 코드 생성 등 분야의 솔루션을 확대했다. AI 인프라 구축부터 보안·데이터 관리까지 통합적으로 지원하는 전문 엔지니어링 서비스도 제공한다.

유상모 한국 델 테크놀로지스 사장은 "기업용 AI를 구현하려면 AI 모델뿐 아니라 신뢰할 수 있는 데이터와 확장 가능한 인프라, 서로 원활하게 연동될 수 있는 검증된 솔루션이 뒷받침돼야 한다"며 "10개 중 6개에 가까운 기업들이 불분명한 투자수익률을 AI 확장의 가장 큰 걸림돌로 꼽는다"고 말했다.

[email protected] 윤홍집 기자


※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지

기자 정보