에이전트 신뢰·통제·프로세스 통합이 관건…“개별 자동화 아닌 전사적 워크플로 관리가 성패 좌우”
오케스트레이션은 AI 확장의 핵심 요소다.
인공지능(AI) 에이전트가 복잡한 지식 기반 업무까지 자동화를 확장할 수 있다는 가능성은 기업 경영진이 외면하기에는 너무나 매력적이다. 모든 산업 분야에서 기업들은 복잡한 작업을 자동화하기 위해 인공지능을 실험하고 있으며, 이전에는 전적으로 인간의 판단에 의존했던 업무에서 실질적인 가치를 발견하고 있다. 하지만 많은 경우, 이러한 가능성은 아직 완전히 실현되지 않았다.
광범위한 실험에도 불구하고, 카문다(Camunda)의 '2026년 에이전트 오케스트레이션 및 자동화 현황 보고서'에 따르면 조직의 거의 4분의 3(73%) 이 에이전트 기반 AI에 대한 비전과 현재 현실 사이에 상당한 격차가 있음을 인정했다. 많은 조직이 AI 에이전트를 사용하고 있다고 보고했지만, 작년에 실제로 상용화된 프로젝트는 10개 중 1개에 불과했다.
그 결과 좌절감이 커지고 있다. 수많은 시범 사업과 실험이 진행되지만, 그 영향력과 결과는 미미하다. 조직이 비전과 현실 사이의 격차를 해소하지 못한다면, 인공지능이 지닌 잠재적 가치의 극히 일부만을 실현하게 될 것이다.
에이전트형 AI에서 신뢰의 과제
조직들은 AI가 인간의 업무를 보완함으로써 상당한 가치를 창출할 수 있다는 것을 알고 있지만, 기술을 대규모로 도입하기 전에 에이전트의 결과물에 대한 신뢰가 필수적이다. 많은 경우, 이러한 신뢰가 아직 구축되지 않았기 때문에 에이전트를 시범 운영 단계에서 실제 운영 단계로 옮기는 데 가장 큰 걸림돌이 되고 있다.
많은 조직은 IT 팀의 적절한 통제 시스템 부족으로 인해 일상적인 운영에서 AI 시스템이 초래할 수 있는 비즈니스 위험을 우려한다. 또한, AI가 비즈니스 프로세스 내에서 어떻게 사용되는지에 대한 투명성 부족, 규정 준수 문제, 또는 AI를 효과적으로 관리할 내부 역량 부족을 문제점으로 지적하는 경우도 있다. 이러한 문제들은 투명성, 감사 가능성 및 추적성이 필수적인 은행, 의료 또는 보험과 같은 고도로 규제된 산업에서 AI 도입에 상당한 장벽이 된다.
AI 도입, 시범 운영 단계에 머물러
이러한 불안감이 오늘날 AI 도입의 방향을 결정짓고 있다. 조직들은 위험도가 낮은 작업이나 내부 보조 역할을 하는 데에는 에이전트를 사용하는 데 거리낌이 없으며, 응답자의 80%는 대부분의 AI 에이전트가 질문을 요약하거나 답변하는 챗봇이나 어시스턴트라고 답했다.
그러나 조직들은 엔드투엔드, 핵심 업무 또는 엄격한 규제가 적용되는 프로세스에 에이전트형 AI를 도입하는 데에는 여전히 신중한 태도를 보이고 있다. 실제로 리더의 50%는 통제되지 않은 에이전트형 AI가 제대로 구현되지 않은 프로세스와 자동화의 문제점을 더욱 악화시킬 위험이 있다고 경고한다.
이러한 신중한 접근 방식은 이해할 만하지만, 그 나름의 위험이 따른다. AI 에이전트가 시범 단계에 머물러 있다면, 조직은 효율성 향상이라는 이점을 제대로 활용하지 못하고 AI 투자 확대를 정당화하는 데 어려움을 겪을 것이다. 에이전트를 조직화된 프로세스에 통합하면 팀은 훨씬 더 일관성 있고, 효과적으로 제어하며, 영향력을 극대화하여 고객 여정을 재설계하고 내부 운영을 최적화할 수 있다.
이러한 이점을 얻기 위해 기업은 AI 에이전트를 핵심 업무 프로세스에 신뢰할 수 있는 참여자로 만드는 방법을 마련해야 한다.
오케스트레이션, AI 확장을 위한 핵심 요소
조직들이 AI에 대한 비전과 현실 사이의 격차를 해소하기 위해 노력하는 가운데, 대다수의 IT 리더(88%)는 AI 투자로부터 최대의 효과를 얻기 위해서는 AI가 비즈니스 프로세스 전반에 걸쳐 통합적으로 운영되어야 한다는 점을 인식하고 있다.
또한 90%는 규정 준수를 보장하기 위해 자동화된 프로세스 내의 다른 엔드포인트처럼 AI를 통합적으로 운영해야 한다는 데 동의한다. 그러나 이러한 의지에도 불구하고, 대부분의 조직은 에이전트 기반 통합을 구현하는 데 필요한 프로세스 성숙도에 도달하지 못했다.
수년간 결정론적 프로세스 모델은 조직이 점점 더 복잡해지는 자동화 환경에 질서를 부여하는 데 도움을 주었다. 결정론적 프로세스를 통해 팀은 책임을 명확히 하고, 시스템을 통합하고, 예외를 관리하고, 발생 원인에 대한 명확한 감사 추적을 유지할 수 있다.
에이전트 기반 오케스트레이션은 결정론적 가이드라인과 동적 추론을 결합하여 AI에 동일한 원칙을 적용한다. 이는 에이전트가 프로세스 내에서 어떻게, 어디서 행동할 수 있는지를 제어하는 계층을 제공한다. 어떤 결정에 인간의 개입이 필요한지, 언제 상위 관리자에게 보고해야 하는지, 그리고 결과를 어떻게 기록하여 검토할 수 있는지 등을 지정할 수 있다. 모든 행동은 고립된 실험이 아닌 투명하고 추적 가능한 워크플로의 일부가 된다.
동시에, 에이전트 기반 오케스트레이션은 AI 에이전트가 명확하게 정의된 가이드라인을 준수하면서 실시간으로 새로운 정보에 적응할 수 있도록 한다. 결정론적 제어와 동적 논리를 결합함으로써 조직은 민첩성과 감독의 균형을 유지하고 AI를 안정적으로 확장할 수 있다.
이러한 기반을 바탕으로 AI 에이전트는 마침내 비즈니스의 핵심으로 진입할 수 있다. 규정 준수를 저해하지 않으면서 클레임 처리 속도를 높일 수 있고, 감사 가능성을 유지하면서 실시간 신호에 맞춰 사기 조사를 진행할 수 있다. 또한 운영 위험을 초래하지 않고 고객 온보딩을 더욱 빠르고 개인화된 방식으로 개선할 수 있다.
신뢰를 구축하고 가치를 창출한다
AI 비전과 현실 간의 격차를 해소하는 핵심은 개별 에이전트가 아닌 에이전트 기반의 오케스트레이션이다. 적절한 프레임워크가 구축되면 조직은 AI 에이전트를 관리되고 투명하며 핵심적인 프로세스에 통합할 수 있다. 그래야만 AI 에이전트가 개별적인 시범 운영 단계를 넘어 효율성을 높이고 고객 경험을 개선하며 측정 가능한 비즈니스 성과를 창출할 수 있다.
헬로티 김진희 기자 |
