필자는 최근 Cloudera의 최고 AI 아키텍트인 Manasi Vartak, 그리고 Forrester Research의 부사장이자 수석 애널리스트인 Mike Gualtieri와 함께 Cloudera의 2026 데이터 및 AI 트렌드 웨비나에 참여해 에이전트 기반 AI를 대규모로 배포하는 방법을 논의했습니다.
이번 대화는 전반적으로 미래 지향적인 관점을 중심으로 진행되었지만 필자는 “2025년에 사라진 AI에 대한 믿음은 무엇인가?”라는 과거를 돌아보는 질문으로 웨비나를 시작했습니다.
이야기를 나누는 과정에서 세 사람은 2025년에 그동안 오랫동안 유지되어 온 AI에 대한 여러 가지 통념이 마침내 무너졌다는 점을 확인할 수 있었습니다. AI 개발이 새로운 단계로 접어드는 상황에서 필자는 이제는 힘을 잃게 된 기존의 인식들과 관련해 Manasi와 Mike가 제시한 통찰을 여러분과 공유하고자 합니다.
사라진 믿음: 에이전트 기반 AI를 둘러싼 지적 진입 장벽
2025년 초까지만 해도, 에이전트 기반 AI는 소수의 전문가만이 활용할 수 있을 것이라는 인식이 존재했습니다. 새로운 기술이 등장하면 박사나 엔지니어처럼 이미 전문성이 검증된 사람들에게 판단을 맡기려는 것은 자연스러운 반응입니다.
그러나 이제는 일반 비즈니스 사용자들도 직접 기능적인 AI 파이프라인을 구축하는 사례가 나타나고 있습니다. Manasi는 이러한 깨달음을 안겨 준 '결정적 순간'을 회상했습니다. 그것은 Agent Studio 해커톤에서 전략 부서의 한 직원이 연간 300만 달러를 절감할 수 있는 완전한 파이프라인을 구축한 사례였습니다. 이는 에이전트 기반 AI 전략에 대한 전문 교육을 받지 않은 사람이 이뤄낸 놀라운 성과였습니다.
Manasi는 이 사례가 에이전트 기반 AI가 조직 전반에서 본격적으로 민주화되고 있음을 보여주는 신호라고 보았습니다.
사라진 믿음: AI 환각은 피할 수 없다는 인식
지난 한 해 동안 Mike는 AI 환각 현상이 눈에 띄게 감소했음을 관찰했습니다. 그는 환각 현상이 여전히 발생한다고 인정하면서도 과거에는 AI 활용 논의에서 환각을 AI 신뢰성을 해치는 요인으로 지나치게 강조하는 경향이 있었다고 지적했습니다. 현재는 이러한 우려가 이전보다 훨씬 줄어든 상황입니다.
Mike는 이제 사용자들이 프롬프트 설계, RAG 기법 등 다양한 방법을 통해 LLM의 작동 범위를 제어하는 방식을 더 잘 이해하게 되었다고 설명했습니다. 이제는 많은 사용자가 이러한 문제가 어떤 조건에서 발생하는지 그리고 이를 완화하거나 줄이기 위한 기법이 무엇인지 충분히 이해하고 있습니다.
거시적인 흐름
AI는 이제 신뢰성과 확장성을 갖추게 되면서, 실제 업무에 적용 가능한 수준에 이르렀습니다. 에이전트 기반 AI의 민주화가 진전되면서 자율 시스템은 더 이상 일부 고급 기술 인력에만 국한되지 않고, 조직 전반에 배포되어 정의된 작업을 처음부터 끝까지 수행할 수 있게 되었습니다. 정확도가 높아지고 환각이 줄어들면서, 이러한 시스템은 최소한의 인간 감독만으로도 운영될 수 있게 되었고, AI의 역할도 자문 중심에서 운영 중심으로 전환되고 있습니다.
운영 단계의 AI는 반복적 수작업을 효과적으로 줄이는 동시에 처리 주기 단축, 비용 절감, 의사결정 개선과 같은 가시적인 성과를 안정적으로 창출한다는 점에서 특히 인상적입니다. 이처럼 자동화가 단편적인 테스트를 넘어 실제 운영 환경에서 가치를 창출하고, 업무를 보다 지능적이고 효율적으로 변화시키고 있다는 점은 매우 주목할 만합니다.
2026년에 이러한 인식 변화가 갖는 중요성
AI에 대한 신뢰가 막연한 기대가 아니라 이해에 기반하게 되면서 이제 핵심 질문은 AI가 행동할 수 있는지가 아니라 어디까지 행동하도록 허용할 것인가로 바뀌게 되었습니다. 데이터 무결성에 대한 신뢰가 높아지고 출력의 신뢰성이 개선되면서, AI는 더 이상 개별 시스템에 고립된 형태에 머무르지 않고 핵심 비즈니스 프로세스와 의사결정 흐름 전반으로 확장될 수 있게 되었습니다.
이제 진정한 과제는 조직이 이러한 민주화를 뒷받침할 수 있는 구조를 갖추고 있는지 여부입니다. AI를 전사적으로 확산한다는 것은 실험적 사용이 일부 기술 팀에만 집중되는 병목 구조에서 벗어나는 것을 의미합니다. 운영 책임자들이 서로 다른 환경에 걸친 데이터에 안전하게 액세스할 수 있을 때, 비즈니스 요구에 실제로 부합하는 AI 기반 도구를 직접 구축하고 검증하며 배포할 수 있는 역량을 갖추게 됩니다. 반대로, 데이터에 대한 접근이 충분히 확대되고 체계적으로 관리되지 않으면 AI는 중앙에 머물며 일상적인 운영과 단절된 상태에 머물게 됩니다.
기존 인식에 머무르거나 새로운 변화에 적응하지 못하는 조직은 정체되고 기술 발전의 흐름에서 뒤처질 위험이 있습니다. Cloudera의 플랫폼은 이러한 상황을 방지하고, 끊임없이 변화하는 AI 환경 속에서도 안정적으로 대응할 수 있도록 설계되었습니다. 클라우드, 데이터 센터, 엣지 등 데이터의 위치에 관계없이 Cloudera는 전사 차원의 통제된 인텔리전스를 기반으로 기업 전반에서 AI 활용을 위한 데이터 액세스를 일관되게 제공합니다.
이러한 주제와 그 밖의 내용은 필자와 Manasi, Mike가 웨비나에서 보다 자세히 다루었습니다. 2026 데이터 및 AI 트렌드 웨비나를 통해 이러한 변화를 더 깊이 살펴보시기 바랍니다. 또한 이러한 인사이트가 실제 현장에서 어떤 의미를 갖는지, 그리고 각 조직이 자사 환경에서 AI 민주화를 어떻게 효과적으로 활용할 수 있는지에 대한 보다 구체적인 내용은 Cloudera의 최신 자료를 통해 확인하실 수 있습니다.
