Cloudera & NVIDIA: 대규모 엔터프라이즈 AI 지원
개요
더 쉽고 빠른 AI를 구현하는 Cloudera와 NVIDIA
오늘날 기업은 점점 더 복잡해지는 데이터 환경 속에서 AI와 머신 러닝의 잠재력을 최대한 활용하기 위해 노력하고 있습니다. Cloudera와 NVIDIA의 협업은 특히 생성형 AI처럼 방대한 데이터와 민감한 데이터가 혼재하는 환경에서 AI의 개발, 배포, 운영을 더 빠르고 더 간단하게 구현하도록 설계되었습니다.
Cloudera와 NVIDIA를 선택해야 하는 이유
Cloudera와 NVIDIA의 협업은 NVIDIA의 가속 컴퓨팅과 AI 소프트웨어를 Cloudera AI 플랫폼에 통합해 엔터프라이즈 AI 도입 속도를 높이는 데 집중하고 있습니다. Cloudera의 AI 플랫폼과 NVIDIA의 가속 컴퓨팅 및 AI 소프트웨어는 기업이 데이터를 실행 가능한 인사이트로 전환하고, 생성형 AI와 에이전틱 AI 활용 사례를 구현하며, 빠르게 혁신을 추진해 급변하는 시장에서 경쟁력을 확보할 수 있도록 지원합니다.
NVIDIA 소개
NVIDIA는 누구도 해결할 수 없는 과제에 도전합니다. NVIDIA의 기술은 오늘날의 AI 시대를 본격적으로 이끌었고, 다양한 산업 분야의 디지털 전환을 촉진하고 있습니다.
주요 특징
카테고리
독립 하드웨어 공급업체(IHV)
웹사이트
참조 아키텍처
파트너십 주요 내용
- 2021년 4월 12일: Cloudera Data Platform에 NVIDIA RAPIDS Accelerator for Apache Spark 3.0을 통합해 대규모 데이터 분석과 AI 가속화를 위한 협업을 시작했습니다.
- 2024년 3월 19일: Cloudera는 NVIDIA와의 협업 범위를 확대하고, 생성형 AI 역량 강화를 위해 NVIDIA NIM 마이크로서비스를 Cloudera Machine Learning(현 Cloudera AI)에 통합한다고 발표했습니다.
- 2024년 10월 8일: Cloudera는 NVIDIA NIM 마이크로서비스 기반의 AI 추론 서비스를 정식 출시하며, 엔터프라이즈용 생성형 AI 배포를 가속화한다고 발표했습니다.
- 2024년 11월 25일: Cloudera는 Mercy Corps가 Amazon Web Services(AWS)에서 진행하는 Tech to the Rescue 'AI for Changemakers' 프로그램에 NNVIDIA NIM 마이크로서비스 기반 AI Inference 서비스를 활용하고 있다고 발표했습니다.
- 2025년 8월 7일: Cloudera Data Services 1.5.5 정식 출시와 함께 온프레미스용 Cloudera AI Inference 서비스가 기술 프리뷰 버전으로 공개되었습니다.
솔루션
Cloudera와 NVIDIA가 고객에게 프라이빗 AI를 제공하는 방식
Cloudera는 프라이빗 AI를 선도하며, 기업이 자체 데이터를 활용해 보안 경계 안에서 AI 모델과 애플리케이션을 구축하고 운영할 수 있도록 지원합니다. 이러한 접근 방식을 통해 데이터 주권을 보장하고, 엄격한 규제 요건도 충족할 수 있습니다.
Cloudera는 데이터를 AI로 이동시키는 것이 아니라, AI 연산을 데이터가 있는 곳에 적용해야 한다고 믿습니다. Cloudera는 이러한 철학을 바탕으로 민감한 데이터를 직접 관리해야 하는 기업을 위해 안전하고 효율적인 솔루션을 제공합니다. NVIDIA NIM 마이크로서비스 기반의 Cloudera AI Inference 서비스는 고객이 클라우드와 온프레미스 어디서나 프라이빗 AI를 손쉽게 배포할 수 있도록 지원합니다.
모든 환경에서 고속 연산 지원
어디서든 GPU에 액세스하고, 더 낮은 TCO로 AI 워크로드 확장
프라이빗 AI
온프레미스와 퍼블릭 클라우드 환경에 애플리케이션과 모델을 안전하게 배포
모든 모델 지원
다양한 범용 모델, LLM, 트랜스포머 라이브러리에 맞춘 엔터프라이즈 컨텍스트 제공
애플리케이션과 에이전트
Cloudera AI Workbench와 AI 에코시스템을 활용해 에이전트 기반 애플리케이션 구축
신뢰할 수 있는 데이터: 데이터를 모델 위치로 옮기지 않고 모델을 데이터가 있는 위치에서 배포
NVIDIA NIM 마이크로서비스 기반 Cloudera AI Inference 서비스
모델 서빙을 가속화하여 탁월한 속도, 보안, 효율성을 바탕으로 프라이빗 AI 애플리케이션, 에이전트, 어시스턴트를 배포하고 확장합니다. NVIDIA NIM 마이크로서비스 기반 Cloudera AI Inference 서비스는 업계 최고 수준의 성능을 제공하며, NVIDIA GPU에서 최대 36배 빠른 추론 속도와 CPU에서 약 4배 높은 처리량을 달성합니다.
AI in a Box: 온프레미스 환경에서 프라이빗 AI 구현
Cloudera, Dell Technologies, NVIDIA가 공동으로 추진하는 AI in a Box는 엔터프라이즈급 프라이빗 AI를 온프레미스 환경에서 신속하고 안전하게 도입할 수 있도록 설계된 솔루션입니다. 이 솔루션은 Dell의 견고한 인프라와 NVIDIA의 고성능 가속 컴퓨팅 및 AI 소프트웨어, 그리고 Cloudera의 데이터 플랫폼을 결합해 사전 검증된 엔드투엔드 AI 환경을 제공합니다. 이를 통해 기업은 AI 이니셔티브를 효율적으로 확장하면서, 비용을 대폭 절감하고 ROI를 더 빠르게 달성하며 보안 수준까지 강화할 수 있습니다.
