기업의 AI 활용이 새로운 성숙 단계에 접어들고 있습니다. 이제는 눈에 띄는 파일럿 프로젝트나 제한적인 실험을 넘어 기업 전반의 핵심 비즈니스 운영에 AI가 빠르게 통합되는 단계입니다. 하지만 이러한 확장이 계속되면서 기업 리더들은 기존 데이터 아키텍처를 AI에 맞게 재정비해야 할 시점이 이미 지났다는 냉엄한 현실에 점점 더 자주 직면하고 있습니다. 이러한 인식을 계기로 AI 아키텍처의 대전환(Great AI Re-Architecture)이 시작되고 있습니다. 기업 IT 리더들은 AI가 주도할 미래에 맞춰 데이터 아키텍처를 재편하고 있습니다.
조직들이 이 새로운 국면을 어떻게 헤쳐 나가고 있는지 파악하기 위해 Cloudera는 최신 보고서인 AI 아키텍처의 대전환을 발표했습니다. 이 보고서는 전 세계 엔터프라이즈 아키텍트, 클라우드 인프라 리더, 데이터 아키텍트 1,500명을 대상으로 한 설문조사를 기반으로 합니다. 결과는 분명합니다. AI는 조직이 데이터 아키텍처를 구성하는 방식을 완전히 재정의하고 있습니다. 실제로 조사 대상자의 72%는 AI 목표를 달성하려면 현재 데이터 아키텍처를 대대적으로 개편해야 한다고 답했습니다.
그렇다면 엔터프라이즈 리더들이 AI를 더욱 긴밀하게 통합하고 더 큰 비즈니스 성과를 추구하는 가운데 데이터 아키텍처는 이러한 요구에 맞춰 어떻게 진화하고 있을까요? 주요 조사 결과를 살펴보겠습니다.
AI 아키텍처 대전환의 시작
응답자의 약 4분의 3(72%)이 향후 AI 목표를 달성하려면 현재 아키텍처를 대대적으로 개편해야 한다고 답한 만큼, 기업들은 무엇이 필요한지 이미 잘 알고 있습니다. 또한 응답자의 75%는 데이터 저장과 아키텍처 운영 방식을 이미 어느 정도 또는 상당 수준 바꾸었다고 답했습니다.
AI 워크로드는 여러 환경에 흩어져 있는 데이터에 끊김 없이 액세스할 수 있어야 합니다. 데이터는 온프레미스에 있을 수도 있고, 퍼블릭 클라우드, 프라이빗 및 주권 클라우드, 엣지 시스템 전반에 분산되어 있을 수도 있습니다. 이러한 모든 데이터를 적절히 관리하고 AI가 활용할 수 있는 상태로 준비하려면 상당한 비용이 듭니다. 실제로 응답자의 84%는 AI 워크로드로 인해 인프라 비용이 증가했다고 답했습니다.
기업들은 대체로 데이터 아키텍처를 개편하고 AI를 활용해 성과를 내야 한다는 압박을 느끼고 있지만, 이러한 노력을 추진하는 이유에는 다소 차이가 있습니다. 응답자의 42%는 데이터 저장과 아키텍처 운영 방식을 바꾸는 이유로 데이터 보안, 거버넌스, 규정 준수 요건을 꼽았습니다. 이어 성능 개선과 지연 시간 단축이 35%, 실시간 또는 엣지 기반 AI 기능이 35%, 기업 전반의 AI 이니셔티브 확장이 33%를 차지했습니다.
구체적인 이유는 다르지만, 많은 조직이 AI를 활용할 준비는 되어 있어도 정작 인프라가 이를 뒷받침하지 못한다는 현실에 직면하고 있습니다.
거버넌스와 신뢰할 수 있는 데이터의 중요성
AI를 대규모로 확장하려는 흐름은 거버넌스와 보안의 중요성을 다시 부각시키고 있습니다. 거버넌스와 보안은 이제 단순한 규정 준수 점검 항목을 넘어 AI 활용을 가능하게 하는 핵심 요소로 자리 잡고 있습니다. 응답자들이 잘 알고 있듯이 거버넌스 문제는 성공적인 AI 이니셔티브에 큰 걸림돌이 될 수 있습니다. 실제로 조사 대상 조직의 대부분에 해당하는 95%가 지난 1년 동안 거버넌스 또는 규정 준수 문제로 AI 프로젝트를 지연하거나 취소한 경험이 있다고 답했습니다.
핵심 비즈니스 프로세스에 AI를 활용하려면 신뢰할 수 있는 데이터가 뒷받침되어야 합니다. 이를 위해 엔터프라이즈 리더는 데이터가 어디에 저장되어 있는지, 누가 액세스할 수 있는지, 복잡한 환경에서 책임 있게 사용할 수 있는지를 파악해야 합니다. 이러한 가시성과 통제력이 없다면 AI 도입이 지연되거나 AI 추진 과정에서 불필요한 위험이 발생할 수 있습니다.
조사 결과는 AI 활용을 뒷받침하는 방향으로 거버넌스의 역할이 달라지고 있음을 분명히 보여 줍니다. 하지만 AI가 가져오는 근본적인 변화의 속도를 따라가려면 데이터가 어디에 있든 조직 데이터 전체에 대한 통제를 보장하는 통합 데이터 기반을 확보해야 합니다.
AI가 이끄는 미래의 원동력, 유연성
Cloudera 보고서에서 주목할 만한 흐름 중 하나는 조직들이 AI 워크로드의 실행 위치를 더욱 신중하게 선택하고 있다는 점입니다. 많은 조직은 퍼블릭 클라우드에 배치했던 워크로드를 자체 환경으로 다시 옮기고 있기도 합니다. 응답자의 66%는 지난 12개월 동안 AI 워크로드를 퍼블릭 클라우드에서 온프레미스 또는 프라이빗 클라우드 환경으로 이동했다고 답했습니다.
이 수치가 퍼블릭 클라우드의 실패를 의미하는 것은 아닙니다. 오히려 클라우드 우선 접근 방식보다 하이브리드 접근 방식을 선호하는 흐름을 보여 줍니다. 실제로 응답자의 거의 3분의 1(31%)은 AI 추론 워크로드를 하이브리드 환경에서 실행하고 있다고 답했습니다. 퍼블릭 클라우드가 30%, 프라이빗 클라우드가 22%로 그 뒤를 이었습니다. 결국 이는 AI 워크로드를 가장 좋은 결과를 낼 수 있는 환경에 배치하려는 흐름을 보여 줍니다.
그렇다면 하이브리드 중심의 미래는 IT 리더들의 계획에 어떤 영향을 미칠까요? 응답자의 약 3분의 1(29%)은 향후 2년 동안에도 계속해서 클라우드 지출을 늘릴 계획이라고 답했습니다. 동시에 4분의 1(25%)은 하이브리드 접근 방식에 더 중점을 둘 계획이라고 답했습니다.
AI가 어떤 방향으로 발전하든 앞으로는 다양한 환경을 함께 활용하는 방식이 더욱 보편화될 것입니다. 조직들은 가장 큰 비즈니스 효과를 낼 수 있는 데이터 아키텍처를 찾고 있기 때문입니다. 하지만 이러한 변화에는 전체 데이터 환경 전반에서 가시성, 거버넌스, 성능, 비용 통제를 유지하면서 워크로드를 적절한 위치에서 실행할 수 있는 유연성이 필요합니다.
엔터프라이즈 AI를 위한 새로운 기반
AI는 데이터 아키텍처의 다음 단계를 열었습니다. 이러한 AI 아키텍처의 대전환은 모든 기업이 데이터와 AI 워크로드를 다루는 방식을 근본적으로 바꿀 것입니다. AI가 기업의 핵심 시스템에 더욱 깊이 통합되고 대규모로 확산되는 가운데, 실질적이고 지속적인 가치를 창출하려면 반드시 주요 미비점을 보완해야 합니다.
신속히 행동에 나서고 대규모 AI 운영에 필요한 유연성, 가시성, 통제력을 갖춘 데이터 아키텍처를 도입하는 기업은 앞으로 확실한 경쟁 우위를 확보할 것입니다.
설문조사 보고서 전문 *을 확인하고, 조직들이 새로운 AI 시대에 대비해 데이터 아키텍처를 어떻게 재설계하고 있는지 알아보세요.
