Cloudera Agent Studio 3.0으로 엔터프라이즈 AI 거버넌스 병목 해소

기업들은 가치가 높고 차별화된 AI 에이전트를 프로덕션 환경에 배포하기 위해 적극적으로 움직이고 있습니다. 하지만 가장 가치 있는 에이전트는 조직이 통제권을 잃어서는 안 되는 데이터, 즉 민감한 독점 데이터에 의존합니다.

바로 여기서 거버넌스 문제가 발생합니다. 기존 아키텍처 중 상당수는 에이전트가 데이터를 활용하려면 먼저 관리형 스토리지에서 데이터를 꺼내 외부 SaaS 플랫폼으로 이동해야 하는 구조입니다. 데이터가 외부로 이동하는 순간, 조직은 원천에서 데이터 거버넌스를 온전히 적용할 수 없게 되고, 다음 세 가지 위험이 겹치면서 부담이 더욱 커집니다.

• 보안: 데이터를 내보낼 때마다 민감한 데이터의 외부 사본이 생성됩니다. 이로 인해 공격 표면이 확대되고, 팀은 신뢰할 수 있는 기준 데이터와 별도로 외부 사본에도 거버넌스를 적용하고, 패치와 감사를 수행해야 합니다.
  

• 성능: 데이터를 외부 플랫폼으로 주고받는 과정에서 지연 시간이 발생하고, 관리형 스토리지에 내장된 쿼리 최적화 이점이 사라집니다. 그 결과 에이전트는 기반 인프라에서 가능한 속도보다 훨씬 느리게 작동합니다.

• 비용: 클라우드 경계를 넘어 대규모로 데이터를 추출하면 데이터 외부 전송 비용이 증가합니다. 특히 에이전트 워크로드는 데이터를 한 번만 쿼리하는 것이 아니라 반복적으로 쿼리하기 때문에 비용이 예측하기 어려운 방식으로 늘어나는 경우가 많습니다.
  

진정으로 차별화된 가치를 창출하는 데 필요한 데이터와 AI는 통제 범위를 벗어날 경우 가장 큰 위험을 수반하는 경우가 많습니다. 그 결과 이러한 위험을 검토하는 규정 준수 및 보안 팀은 개념 증명 단계를 막 통과한 유망한 이니셔티브를 중단시키기 위해 개입해야 하는 경우가 많습니다.

프로덕션 AI를 가로막는 다섯 가지 구조적 장벽

에이전트 기반 워크플로우는 추론 LLM, 도구 인터페이스, 구조화된 작업 계획, 지속적인 실행 루프를 결합합니다. 이러한 워크플로우는 본질적으로 고립된 인프라에서는 안전하게 실행될 수 없으며, 관리형 데이터 기반이 있는 곳에서 컴퓨팅 리소스를 직접 사용할 수 있어야 합니다. 그러나 데이터 이동이 필요한 단절된 환경에서는 조직이 다음과 같은 다섯 가지 장벽에 부딪히게 됩니다.

1. 블랙박스 자율성과 감사 책임: 자율적으로 이루어지는 다단계 의사결정은 규제 위험을 초래합니다. 일반적인 시스템 로깅은 엔드포인트 호출은 기록하지만, 내부 하위 에이전트의 작업 계획, 도구 호출의 구체적인 입력·출력 페이로드, 각 단계를 수행한 인증된 사용자의 신원은 기록하지 못합니다.
   

2. 사일로화된 팀 간의 거버넌스 드리프트: 비즈니스 팀이 모니터링되지 않는 SaaS 도구에서 시각적 프로토타입을 만들고, 엔지니어는 별도의 환경에서 맞춤형 Python 오케스트레이션 스크립트를 작성하면 기술 아키텍처가 분리됩니다. 이러한 이중 구조는 중앙 액세스 제어를 우회하고 거버넌스 드리프트를 유발합니다.
   

3. 불안정한 프롬프트 지시 방식과 실행 재시도: 기존 에이전트 프레임워크는 비정형 텍스트 프롬프트를 통해 모델에 지시합니다. LLM이 구조화된 페이로드 스키마가 아니라 자유 형식 텍스트를 출력하면 실행 체인이 끊어집니다. 시스템 재시도는 추가 API 토큰을 소비하고 쿼리 지연 시간을 늘리며, 다단계 실행 경로 전반에서 오류를 유발합니다.
   

4. 클라우드 데이터 외부 전송 비용과 토큰 사용량 증가: 운영 데이터 세트를 클라우드 경계 밖의 외부 호스트로 추출하면 데이터 외부 전송 비용이 반복적으로 발생합니다. 또한 정제되지 않은 비정형 컨텍스트를 외부 LLM 컨텍스트 윈도우로 전달하면 쿼리마다 토큰 사용량이 증가해 추론 정확도 향상 없이 쿼리당 추론 비용만 높아집니다.
   

5. API 종속과 고정 컴퓨팅 비용: 오케스트레이션 로직을 독점 모델 API에 하드코딩하면 기업은 고정된 컴퓨팅 비용 구조에 종속됩니다. 인프라 팀은 일상적인 함수 호출을 비용이 더 낮은 로컬 모델로 라우팅하고, 복잡한 추론에만 타사 프런티어 API를 사용하는 유연성을 잃게 됩니다.

Cloudera Agent Studio의 거버넌스 기반 실행 방식

Cloudera Agent Studio 3.0은 데이터가 있는 곳에서 자율 AI 워크플로우를 직접 실행하여 이러한 구조적 과제를 해결합니다. 기존 Cloudera 데이터 서비스를 토대로 거버넌스가 적용된 실행 엔진을 제공하여 다섯 가지 구조적 장벽을 하나씩 체계적으로 해소합니다.

1. 변경 불가능한 감사 로그와 가드레일

블랙박스 자율성과 감사 책임 문제 해결

규제 위험을 완화하고 실행 과정의 불투명성을 없애기 위해 시스템 활동을 구조화된 추가 전용 감사 로그에 기록합니다. 규정 준수 팀은 인증된 사용자 신원, 마이크로초 단위 타임스탬프, 작업 유형, 리소스 식별자, 프롬프트 입력, 구체적인 도구 출력을 포함해 실행 과정 전반을 파악할 수 있습니다.

동영상 보기: 실시간 가드레일 작동 방식

다음과 같은 실시간 메커니즘을 통해 실행 중 안전성을 지속적으로 확보합니다.

• PII 마스킹: 모델 컨텍스트 창으로 전송되기 전에 민감한 데이터를 익명화합니다.

• 콘텐츠 필터: 프롬프트 인젝션을 방지하거나 키워드에 따라 실행을 차단하는 텍스트 기반의 결정론적 규칙입니다.

• 인라인 LLM Judge: 도구 호출의 입력·출력 페이로드가 기업의 규정 준수 규칙에 부합하는지 검증합니다.

• 맞춤형 가드레일: 비즈니스 요구 사항에 맞춰 조정된 가드레일을 프로그래밍 방식으로 적용합니다.

자세한 내용은 Cloudera 가드레일 문서에서 확인할 수 있습니다.

2. 통합 듀얼 트랙 워크플로우

사일로화된 팀 전반에서 발생하는 거버넌스 드리프트 해소
Agent Studio 3.0은 비기술 인력과 기술 인력의 개발 작업을 단일 오케스트레이션 엔진으로 통합해 비즈니스 팀과 엔지니어링 팀 사이의 아키텍처 단절을 해소합니다.

• 비즈니스 분석가: 사전 구축된 도구 템플릿과 MCP 커넥터 카탈로그를 사용해 워크플로우를 시각적으로 구축할 수 있습니다.
  

• AI 엔지니어: Cloudera AI Workbench에서 맞춤형 Python 로직을 작성할 수 있습니다.

두 개발 경로 모두 동일한 실행 런타임으로 컴파일되어 같은 플랫폼 보안 제어가 적용되므로, 섀도 AI로 인한 거버넌스 드리프트를 없앨 수 있습니다.

3. 제어 가능한 함수 호출 및 샌드박싱

불안정한 프롬프트 처리와 실행 재시도 문제 해결

플랫폼은 텍스트 프롬프트에 의존하는 불안정한 실행 체인을 없애기 위해 LLM의 기본 함수 호출 프로토콜을 활용합니다. 정형화된 JSON 스키마를 모델에 전달하여 엄격한 타입이 적용된 도구 호출 오브젝트를 생성하도록 합니다.

• 컨테이너 샌드박싱: 모든 에이전트 프로세스는 기본적으로 어떠한 시스템 권한도 부여되지 않은 격리된 컨테이너 샌드박스 안에서 실행되며, 권한 상승을 위해서는 플랫폼 수준의 명시적인 정책 승인이 필요합니다.
  

• 구조화된 계획: 에이전트는 실행 전에 구조화된 작업 계획을 수립하므로 운영자는 단계별 진행 상황을 예측 가능한 방식으로 모니터링할 수 있습니다.

4. MCP를 통해 관리되는 데이터를 직접 처리하는 로컬 컴퓨팅 

클라우드 데이터 외부 전송 비용과 토큰 사용량 급증 문제 해결

에이전트는 데이터를 추출하거나 복제하지 않고 엔터프라이즈 스토리지에 있는 데이터를 직접 처리합니다. Cloudera Data Warehouse에서 정형 분석 데이터를 쿼리하고, Cloudera DataFlow를 통해 스트리밍 입력을 처리하며, 결과를 Cloudera Data Visualization으로 전달합니다.

Model Context Protocol(MCP) *을 사용하는 커넥터는 에이전트를 개방형 테이블 형식에 직접 연결하며, Cloudera Shared Data Experience(SDX) 거버넌스 정책은 역할 기반 액세스 제어를 적용하고 모든 상호작용 전반에서 메타데이터를 추적합니다. 이를 통해 실제 데이터에 기반한 처리를 유지하면서 데이터 외부 전송 비용을 없앨 수 있습니다.

5. 모델 중립성과 FinOps 제어

API 종속과 고정 컴퓨팅 비용 문제 해결

Agent Studio 3.0은 오케스트레이션을 기반 언어 모델과 완전히 분리합니다. 팀은 OpenAI, Anthropic, Amazon Bedrock과 같은 타사 API를 사용할 수도 있고, Cloudera AI Inference 서비스를 통해 오픈 소스 모델을 로컬에 배포할 수도 있습니다.

사용할 모델을 바꿀 때도 에이전트 코드나 도구 스키마를 수정할 필요가 없습니다. 오케스트레이션 계층의 엔드포인트 구성만 업데이트하면 됩니다. 시스템 아키텍트는 반복적이고 대량으로 발생하는 함수 호출을 매개 변수 수가 적고 로컬에서 호스팅되는 모델로 라우팅하고, 비용이 많이 드는 타사 API의 토큰은 복잡한 다단계 추론에만 사용하도록 설계함으로써 총소유비용(TCO)을 낮출 수 있습니다.

수치화된 비즈니스 성과

Cloudera Agent Studio 3.0으로 실현할 수 있는 비즈니스 성과의 예시입니다.

거버넌스가 적용된 에이전트 기반 AI의 미래

자율 워크플로우를 고립된 프로토타입에서 프로덕션 시스템으로 전환하려면 빠른 혁신과 엔터프라이즈 제어 사이의 마찰을 해결해야 합니다. 오랫동안 팀은 개념 증명과 배포 사이의 간극으로 인해 자율 AI의 민첩성과 중앙 집중식 거버넌스의 보안 중 하나를 선택해야 했습니다.

Cloudera Agent Studio 3.0은 이 간극을 해소합니다.

데이터가 있는 곳에서 직접 컴퓨팅을 수행함으로써 Agent Studio 3.0은 프로덕션 AI를 가로막는 다섯 가지 주요 장벽인 클라우드 데이터 외부 전송 비용, 실행 불안정성, 거버넌스 드리프트, 감사 과정의 불명확성, 컴퓨팅 종속을 체계적으로 해소합니다. 이제 엔터프라이즈 에이전트 기반 AI를 배포하기 위해 아키텍처 측면에서 어느 한쪽을 포기할 필요가 없습니다.

AI 에이전트를 프로덕션 환경에 배포할 준비가 되셨습니까? 7부로 구성된 Enterprise & Agentic AI 웨비나 시리즈에서 개발 단계에서 프로덕션 단계로 나아가기 위한 전략과 실무 역량을 익혀 보세요.

시리즈 시청하기