엔터프라이즈 거버넌스는 오랫동안 규정 준수 요건을 충족하는 일로 여겨져 왔습니다. 조직 정책을 준수하기 위해 해야 할 일을 나열한 체크리스트로 인식되어 온 것입니다. 하지만 오늘날 AI 워크로드의 규모가 커지면서 논의의 양상이 달라졌습니다.
AI로 인해 조직들은 데이터 아키텍처를 설계하고 운영하는 방식을 전면적으로 재검토하고 있습니다. Cloudera의 최신 설문조사 보고서에서는 이를 ‘AI 아키텍처의 대전환(Great AI Re-Architecture)’이라고 표현합니다.
이제 거버넌스는 단순한 점검 항목을 넘어 AI 활용을 가능하게 하는 핵심 요소로 자리 잡았습니다. 실제로 Cloudera가 실시한 AI 아키텍처의 대전환* 에 관한 설문조사에 따르면 응답자의 95%가 지난 12개월 동안 전적으로 데이터 거버넌스, 규정 준수 또는 규제 문제 때문에 계획된 AI 프로젝트가 하나 이상 지연되거나 취소된 경험이 있다고 답했습니다.
이러한 현실에 직면한 조직들은 AI가 빠르게 발전하면서 기존의 데이터 거버넌스 방식이 더 이상 시대에 맞지 않는다는 점을 받아들이고 있습니다. 같은 Cloudera 설문조사에서도 응답자의 75%가 AI 통합으로 인해 조직의 데이터 저장과 아키텍처 운영 방식이 이미 어느 정도 또는 상당히 달라졌다고 답했습니다.
AI가 조직의 워크로드에 깊숙이 통합될수록 거버넌스도 더욱 복잡해집니다. 이러한 변화는 거버넌스의 현재와 미래에 어떤 의미가 있을까요? 자세히 살펴보겠습니다.
AI 배포 초기부터 영향을 미치는 거버넌스
거버넌스는 보안과 규정 준수 차원에서만 고려할 사안이 아닙니다. 어떤 데이터를 사용할 수 있는지, 어디에서 사용할 수 있는지, 어떻게 저장할지, 궁극적으로 AI 모델이 어떤 데이터에 액세스할 수 있는지를 결정하는 핵심 요소입니다. 또한 AI 워크로드로 인해 조직이 환경 간에 데이터를 더 자주 이동하게 되면서 AI의 기반이 되는 데이터가 처음부터 높은 품질과 신뢰성을 갖추도록 하려면 올바른 거버넌스 관행이 필수적입니다.
상당수의 엔터프라이즈 리더들이 거버넌스를 대규모 AI 도입을 가능하게 하는 요인으로 인식하기 시작한 것도 이 때문입니다. 구체적으로 엔터프라이즈 리더의 42%는 데이터 보안, 거버넌스, 규정 준수 요건을 AI 도입을 이끄는 핵심 요인으로 꼽았습니다. 즉 거버넌스는 단순한 제어 계층이 아니라 설계 단계에서부터 반영해야 할 요소입니다.
거버넌스를 나중에 처리할 절차로 남겨 두면 이미 작업이 진행된 뒤에 아키텍처, 액세스, 배포 방식을 다시 검토해야 할 수 있습니다.
AI 성숙도가 높아질수록 복잡해지는 거버넌스
거버넌스가 중요하다는 점은 분명하지만, 이를 효과적으로 관리하는 일은 훨씬 더 복잡해졌습니다. 조직의 약 4분의 3(73%)은 AI 통합으로 인해 거버넌스를 유지하기가 더 어려워졌다고 답했습니다.
이러한 어려움은 데이터가 환경 간에 점점 더 많이 이동하면서 더 커지고 있습니다. 조사 대상 조직의 97%는 월 1회 이상 환경 간에 데이터를 이동하고 있으며, 31%는 매일 데이터를 이동한다고 답했습니다. 데이터가 이동할 때마다 조직은 모든 단계에서 액세스를 일관되게 관리하고, 민감한 데이터를 보호하며, 보안 정책을 적용하고, 규정 준수를 유지해야 합니다.
규제, 특히 개인정보 보호와 데이터 주권 관련 규제는 AI 확장을 가로막는 또 다른 주요 장벽입니다. 응답자의 54%는 이를 조직의 AI 확장을 가로막는 가장 큰 세 가지 장애물 중 하나로 꼽았습니다. AI는 이 문제를 더욱 복잡하게 만듭니다. 배포 과정에서 엔터프라이즈 데이터가 여러 환경을 오가고 지리적 경계를 넘는 경우가 많기 때문입니다. 조직은 관련된 모든 관할권의 요건을 준수하면서 데이터의 위치, 이동, 액세스를 추적해야 합니다.
하이브리드 유연성의 기반이 되는 일관된 거버넌스
조직의 66%는 지난 1년 동안 일부 AI 워크로드를 퍼블릭 클라우드에서 온프레미스 또는 프라이빗 클라우드 환경으로 이동했습니다. 응답자의 약 3분의 1(34%)은 이러한 변화가 제한적인 수준에 그치지 않았다고 답했으며, 지난 1년 동안 상당수의 AI 워크로드를 퍼블릭 클라우드에서 온프레미스 또는 프라이빗 클라우드 환경으로 다시 옮겼다고 밝혔습니다.
이러한 움직임은 퍼블릭 클라우드 환경에 대한 부정적 평가라기보다 하이브리드 전략으로 전환하는 더 큰 흐름을 반영합니다. 특히 기업들이 각자의 요구에 가장 적합한 환경에 AI 워크로드를 배치하려는 상황에서 이러한 흐름이 두드러집니다.
이러한 워크로드와 이를 뒷받침하는 데이터는 퍼블릭 클라우드, 프라이빗 클라우드, 온프레미스, 주권 환경 전반에 분산되어 있을 수 있습니다. 따라서 거버넌스도 아키텍처 전체에 적용되어야 합니다. 데이터와 워크로드가 어디로 이동하든 동일한 규칙이 유지될 때 비로소 하이브리드 전략이 제 역할을 할 수 있습니다.
엔터프라이즈 AI의 미래를 좌우하는 거버넌스
AI 아키텍처의 대전환은 AI 워크로드의 실행 위치뿐 아니라 기업의 데이터 활용 방식 전반을 바꾸고 있습니다. 이는 엔터프라이즈 아키텍처에서 거버넌스가 담당하는 역할 자체를 새롭게 정의하고 있습니다. 이미 많은 조직이 변화의 필요성을 느끼고 있습니다. 응답자의 72%는 미래 AI 요건을 충족하기 위해 현재 데이터 아키텍처를 대대적으로 개편해야 한다고 답했습니다.
거버넌스는 앞으로도 보안과 규정 준수를 위해 필수적인 요소일 것입니다. 하지만 이제 보안과 규정 준수는 거버넌스 역할의 일부일 뿐입니다. AI가 엔터프라이즈 전반에 내재화될수록 거버넌스는 조직이 데이터에 안전하게 액세스하고, 워크로드를 환경 간에 이동하며, AI 활용을 프로덕션 환경까지 확대할 수 있는지를 결정짓는 요소가 됩니다.
앞으로 몇 년간 AI 확장에 가장 유리한 조직은 어느 환경에서든 데이터 관리와 이동, 액세스 과정에 거버넌스를 통합하는 조직일 것입니다.
AI 아키텍처의 대전환 *을 다운로드하여 전체 조사 결과를 확인하고, 기업 리더들이 대규모 AI 활용을 뒷받침하기 위해 데이터 아키텍처를 어떻게 바꾸고 있는지 알아보세요.
