에이전트 기반 AI는 과거 어떤 엔터프라이즈 기술보다 빠르게 시연 단계에서 프로덕션으로 전환되고 있습니다. 자율 시스템은 이미 독점 데이터를 바탕으로 추론하고 내부 도구를 호출하며, 핵심 비즈니스 워크플로우에서 중요한 결과를 초래하는 조치를 실행하고 있습니다. 이러한 변화 속에서 우리는 한 가지 질문에 답을 찾아야 합니다. 에이전트가 직접 행동할 수 있다면, 누가 이를 점검하고 검증하며 보호할 수 있을까요?
Cloudera의 답은 명확합니다. 인프라를 보호하는 방어 체계는 개방적인 방식으로 구축해야 합니다. 이것이 Cloudera가 새롭게 출범한 Open Secure AI Alliance에 초기 파트너로 합류한 이유입니다. NVIDIA를 비롯해 클라우드, 사이버 보안, 엔터프라이즈 소프트웨어, 오픈 소스, AI 연구 분야의 주요 기업 및 기관과 함께하게 되어 뜻깊게 생각합니다. 이 연합은 AI 시대의 소프트웨어와 에이전트를 보호하기 위해 개방형 기술과 기법, 도구를 개발하고 공유하는 활동을 추진합니다.
이번 연합 참여가 Cloudera의 전략과 맞닿아 있는 세 가지 이유
1. 개방형 인프라는 선택 기능이 아닌 기본 토대
Cloudera는 오픈 소스를 바탕으로 성장해 왔습니다. 개방형 데이터 레이크하우스 형식이 경제를 뒷받침하는 핵심 축이라는 점도 일찍부터 이해하고 있었습니다. 이러한 형식은 사실상 클라우드 컴퓨팅, 금융 서비스, 통신, 정부 인프라를 뒷받침하는 공공 기반 시설과 같은 역할을 하기 때문입니다.
AI 시대에는 오픈 소스 소프트웨어와 가중치가 공개된 모델이 기술 리더십과 사이버 보안의 토대가 됩니다. 업계 추산 *에 따르면 상용 소프트웨어 코드베이스의 76~99%가 이미 오픈 소스 소프트웨어에 의존하고 있습니다.
개방형 모델은 사용자가 직접 개발에 참여할 수 있도록 하여 혁신을 가속화하고, 기술 발전이 소수의 중앙집중적인 조직에 국한되지 않도록 합니다. 더 중요한 점은 개방형 에코시스템이 독립적인 과학 연구와 폭넓은 검증을 가능하게 한다는 것입니다. 이를 통해 보안 담당자는 AI 시스템의 동작을 이해하고 평가하며 개선할 수 있습니다.
2. 모든 모델과 환경을 포용하는 중립성
Cloudera는 완전한 중립성을 지향합니다. AI 혁명에서 주도권을 유지하려면 경제를 뒷받침하는 인프라가 개방형 모델뿐 아니라 비공개 모델과 독점 모델에도 안전하게 액세스할 수 있어야 한다고 봅니다.
기업 고객에게는 자사의 산업, 독점 데이터, 고객, 운영 요건에 맞춰 AI를 조정할 수 있는 유연성이 필요합니다. 데이터를 보호하고 벤더 종속을 피하면서 이러한 작업을 수행할 수 있어야 합니다.
Cloudera는 엄격한 중립성을 유지함으로써 조직이 각자의 우선순위를 반영한 하이브리드 시스템을 구축하도록 지원합니다.
이는 금융, 공공 부문, 핵심 인프라처럼 규제 강도가 높은 분야에서 특히 중요합니다. 이들 분야의 기업은 규정 준수와 데이터 주권을 확보하고 지정학적 변화에도 안정적으로 대응할 수 있어야 하며, 해외에서 호스팅되는 API에 의존하지 않는 방식을 선택하는 경우가 많습니다. AI의 안전성과 방어 역량을 확보하려면 단일 통제 지점보다 다양하고 개방적인 에코시스템이 필요합니다.
3. 보안과 거버넌스에서 AI 하네스의 핵심 역할
지금까지 업계의 관심은 파운데이션 모델에 쏠려 있었습니다. 하지만 보안을 확보하려면 에이전트 전체를 봐야 합니다. AI 에이전트는 모델 하나로 이루어지지 않습니다. 모델, 하네스, 그리고 에이전트의 액세스 범위를 정하는 가드레일이 결합된 복합 시스템입니다.
하네스는 AI 에이전트가 맥락을 파악하고 문제를 추론하며 필요한 조치를 실행하도록 지원하는 핵심 실행 기반입니다. 에이전트는 엔터프라이즈 시스템 전반에서 자율적으로 작동하므로 하네스의 보안을 확보하는 일이 무엇보다 중요합니다. 폐쇄형 시스템에서는 보안 담당자가 핵심 정보를 확인하지 못할 위험이 있습니다. 반면 개방형 하네스와 도구는 방어 역량을 크게 넓히고 투명성을 높입니다.
NVIDIA는 Open Secure AI Alliance를 통해 이러한 사이버 보안 도구의 발전을 앞당길 핵심 연구 성과를 제공하고 있습니다. 예를 들어 오픈 소스 NVIDIA Labs Object-Oriented Agent(NOOA) 프레임워크는 하네스와 모델을 더 쉽게 통합하도록 지원합니다. 그 결과 에이전트의 동작을 테스트하고 추적하며 감사하고 거버넌스를 적용하기가 훨씬 수월해집니다. 이러한 기능은 기업 워크플로우에 배포된 에이전트가 규정을 준수하면서 행동하고, 그 활동을 파악할 수 있도록 합니다.
Cloudera의 에이전트 기반 솔루션 포트폴리오는 바로 이러한 요구를 충족하도록 설계되었습니다. 고객이 선택한 모델을 자체 환경 안에서 실행하고 오케스트레이션하며 전체 과정에 데이터 계보, 정책 및 통합 가시성을 적용합니다. 개방형 추론 및 게이트웨이 제어, 거버넌스가 적용된 컨텍스트 및 도구 계층, 완전한 감사 가능성을 통해 에이전트의 행동이 규정을 준수하고 설명과 점검이 가능한 상태로 유지되도록 합니다.
개방형 방어 체계가 실효성을 가지려면 이 체계를 거버넌스의 통제 아래 프로덕션 환경에 배포하고 기업이 이동에 따른 부담을 감수할 수 없는 데이터에 적용할 수 있어야 합니다. Cloudera는 이러한 실제 배포 환경을 연합에 제공합니다.
정책 입안자와 개발자를 위한 AI 안전 및 보안 관련 제언
규제기관이 AI 안전 문제를 다루는 과정에서 개방형 모델, 하네스, 보안 도구를 위험 요인이 아닌 방어 자산으로 인식하는 것이 중요합니다. 개방형 프런티어 시스템에 일괄적인 제한을 가하면 방어 역량이 약해지고 소수의 폐쇄형 제공업체에 대한 의존도가 높아집니다. 이는 회복탄력성을 높이려는 방향과 정반대입니다.
더 안전한 방향은 더 많은 보안 담당자가 사회를 뒷받침하는 시스템을 테스트하고 검증하며 강화할 수 있도록 하는 것입니다. 여기에 강력한 보호 조치, 악용을 금지하는 명확한 규칙, 신속한 시정 조치가 함께 뒷받침되어야 합니다.
개방성만으로 신뢰가 보장되지는 않습니다. 엄격한 테스트, 안전한 인프라, 명확한 거버넌스, 사람의 감독은 여전히 필요합니다. 다만 개방형 에코시스템은 이러한 일을 수행할 수 있는 보안 주체의 범위를 넓혀 줍니다.
Cloudera는 NVIDIA 및 다른 파트너들과 함께 강력하고 개방적이며, 거버넌스가 적용되고 설계 단계부터 보안을 갖춘 AI의 미래를 만들어 가기 위해 최선을 다하고 있습니다. 기업, 정부, 연구자 여러분의 동참을 부탁드립니다.
