2025년은 엔터프라이즈 AI 분야에서 획기적인 전환점이 될 것입니다. 생성형 AI(GenAI)와 대규모 언어 모델(LLM)의 발전으로, 에이전틱 AI의 혁신적인 잠재력이 IT 리더의 주목을 받고 있습니다. AI 에이전트는 종종 단순한 챗봇으로 오해받지만 실제로는 훨씬 더 발전된 도구로서, 복잡하고 목표 지향적인 작업을 자율적으로 수행할 수 있습니다. 금융 분야의 실시간 사기 탐지에서부터 제조업의 워크플로 최적화와 의료 분야의 정밀 진단에 이르기까지, 다양한 분야에서 이미 그 영향력을 발휘하고 있습니다.
AI 에이전트에 대한 투자와 도입이 급증하는 가운데, 기업 리더들은 조직에서 기술의 우선순위를 어떻게 정하고 있을까요? 이 새로운 AI 물결을 기업들이 어떻게 수용하고 있는지 살펴보기 위해, Cloudera는 14개국 엔터프라이즈 IT 리더 1,484명을 대상으로 설문조사 를 진행하였습니다. 이번 조사 결과는 AI 에이전트에 대한 강한 의지뿐만 아니라, 기업이 AI 에이전트를 계획, 배포, 평가하는 방식에도 혁신적인 변화가 일어나고 있음을 보여줍니다.
에이전틱 AI 투자를 확대하는 기업들
AI 에이전트의 도입은 더 이상 실험적인 시도가 아니라 전략적인 필수 과제가 되었습니다. 무려 87%의 응답자가 경쟁력을 유지하기 위해서는 AI 에이전트에 대한 투자가 필수적이라고 답했습니다. 더욱 주목할 점은, 96%의 응답자가 향후 12개월 내에 AI 에이전트 활용을 확대할 계획이며, 그중 절반은 전사적 차원의 광범위한 도입을 목표로 하고 있다는 것입니다.
에이전틱 AI에 대한 투자는 증가 추세지만, 많은 기업들은 사실상 최근에야 이를 도입하기 시작했습니다. 실제로 응답자의 과반수(57%)는 도입한 지 2년이 채 되지 않았으며, 그중 21%는 지난 1년 이내에 도입을 시작했다고 답했습니다. 이처럼 에이전틱 AI를 빠르게 수용하는 흐름은 조직이 투자 우선순위를 어떻게 설정하고 있는지에서도 드러납니다.
주요 투자 분야에는 이러한 인식이 고스란히 반영되어 있습니다. 기업들은 성능 최적화 봇(66%), 보안 모니터링 에이전트(63%), 개발 지원 도구(62%)에 우선순위를 두고 있으며, 이는 생산성과 회복 탄력성이라는 두 가지 목표를 모두 달성할 수 있는 수단이 됩니다. 그렇다면 기업은 이러한 AI 에이전트를 어떻게 활용하고 있을까요? 설문조사 응답자 중 66%가 엔터프라이즈 AI 인프라 플랫폼을 사용하여 AI 에이전트를 개발 및 배포한다고 답했습니다. 또한 60%는 기존 핵심 애플리케이션에 내장된 에이전트 기능을 활용하고 있습니다.
도입이 가속화됨에 따라, 이러한 추세는 기업이 안정적이고 확장 가능한 데이터 인프라를 구축할 필요성이 커지고 있음을 시사합니다. 이와 같은 도입에 대한 전반적인 투자 의지를 고려할 때, 기업은 에이전틱 AI로 향하는 길에서 뒤처지지 않으려면 신속하게 인프라를 구축해야 합니다.
AI 에이전트가 가치를 제공하는 분야와 이를 방해하는 요인
AI 에이전트를 성공적으로 구현하면 조직에 엄청난 가치를 제공할 수 있습니다. 기업이 실제로 경험하는 가시적인 장점으로는 기존 생성형 AI 모델 개선(81%)을 비롯해 고객 지원(78%), 프로세스 자동화(71%), 예측 분석(57%) 등을 포함하는 애플리케이션이 있습니다.
대부분의 기업에서 이러한 AI 에이전트는 IT 운영(61%)에 가장 활발히 활용되고 있습니다. 그다음으로는 고객 지원(18%)과 마케팅(6%) 부문에서 구현되고 있습니다. 에이전트를 IT 기능에 도입한 기업은 고객 지원 및 마케팅 사용 사례로 확장할 가능성이 높기 때문에, IT가 에이전틱 AI 통합을 위한 자연스러운 출발점임을 알 수 있습니다.
그 효과는 분명하며, AI 에이전트와 관련된 사용 사례는 기업의 운영 방식을 혁신할 수 있는 강력한 잠재력을 지니고 있습니다. 하지만 앞으로 나아가는 길에는 여전히 우려가 따릅니다. 특히 IT 리더의 과반수가 에이전트 AI 도입 시 우려되는 사항으로 데이터 개인정보 보호(53%)를 꼽았으며, 레거시 시스템과의 통합(40%), 도입 비용(39%)이 근소한 차이로 이를 뒤따랐습니다.
조직은 민감한 데이터를 보호하는 동시에 이를 AI 라이프사이클에서 활용할 수 있도록 그 균형을 섬세하게 관리해야 합니다. 민감한 데이터가 의도치 않게 노출될 경우, AI 결과물의 품질이 저하되고 DORA와 같은 주요 규정을 위반하게 될 수도 있습니다.
책임감을 바탕으로 구축된 AI
많은 조직이 갖는 우려는 신뢰와 편향이라는 몇 가지 핵심 요소로 귀결됩니다. AI 에이전트가 점점 더 많은 책임을 지고 미션 크리티컬한 작업을 제어하게 되면서, 책임감, 공정성, 투명성 등에 대한 문제가 최우선 과제로 떠오르고 있습니다. 기업 리더의 과반수(51%)가 AI 시스템의 편향에 대해 심각한 우려를 표했습니다.
편향에 대한 이해도가 높아지면서, 기업은 책임감을 갖고 AI를 적절히 관리하기 위해 추가적인 조치를 취하고 있습니다. 응답자의 상당수(38%)는 인적 검토, 다양화된 학습 데이터, 공식적인 공정성 감사 등 다양한 프로세스를 시행하고 있습니다. 이러한 조치 외에도, 36%는 정기적인 인적 검토나 편향 감지 도구와 같은 편향 점검 수단을 도입했다고 답했습니다.
그러나 현재 진행 중인 모든 완화 노력에도 불구하고, 일부 기업에는 여전히 격차가 존재합니다. Cloudera는 응답자의 14%가 지금까지 편향 문제에 대응하기 위해 최소한의 조치나 임시 조치만 취해왔다고 밝혔습니다. AI 에이전트는 책임감과 공정성 없이는 제대로 작동할 수 없습니다. 이 기술을 도입하는 기업은 편향이 실제 결과물에 미칠 수 있는 영향을 줄이기 위해 필요한 조치를 반드시 취해야 합니다.
AI 에이전트 도입의 가속화
2025년은 AI 에이전트 도입이 가속화되면서 모든 비즈니스에 새로운 사용 사례가 창출되는 중요한 한 해가 될 것입니다. 기술에 대한 투자가 가속화됨에 따라, AI 에이전트 도입을 우선순위에 두는 일은 장기적인 성공을 위한 필수 요소로 빠르게 자리 잡고 있습니다.
Cloudera의 설문조사 에 대한 더 많은 내용을 확인하고, 2025년 AI 에이전트의 현황에 대해 자세히 알아보세요.
