Cloudera AI Inference Service

인증, 권한 관리*, 데이터 암호화 등 강력한 보안 조치를 구현하여 데이터와 모델을 전송 중이거나 저장 상태일 때도 안전하게 보호합니다.

낮은 지연 시간으로 실시간 예측을 제공하고 대규모 데이터세트를 위한 배치 처리를 지원하여 다양한 성능 지표에 맞는 AI 모델을 유연하게 운영합니다.

고가용성 구성과 동적 확장 기능을 통해 다양한 로드를 효율적으로 처리하는 동시에 지속적인 서비스 운영을 보장합니다.

기존 워크로드 및 애플리케이션을 Open Inference Protocol API(기존 ML 모델용) 및 OpenAI 호환 API(LLM용)와 손쉽게 통합합니다.

TensorFlow, PyTorch, Scikit-learn, Hugging Face Transformers 등 인기 있는 ML 프레임워크와의 통합을 통해 다양한 유형의 모델을 손쉽게 배포합니다.

카나리아 배포, 블루-그린 배포* 혹은 A/B 테스트*와 같은 정교한 배포 전략을 활용하여 새로운 버전의 모델을 안전하게 점진적으로 배포합니다.