에이전틱 AI는 자동화와 의사결정을 위한 차세대 키워드로 주목받으며 큰 기대를 모으고 있습니다. 하지만 이러한 열기 이면에는 다소 조심스러운 전망이 자리 잡고 있습니다. 가트너(Gartner)는 비용 급증, 불분명한 비즈니스 가치, 부적절한 리스크 관리 등의 이유로 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 중단될 것이라고 경고합니다.
*이 글은 SAS 글로벌 공공 부문 전략 고문인 제니퍼 로빈슨(Jennifer Robinson)의 글을 번역한 것입니다. (영어 원문 링크)
한정된 예산과 국민들의 높은 기대치로 인해, 정부는 충분한 정보 없이 유행을 쫓아 에이전틱 AI 프로젝트에 뛰어들 수 없는 상황입니다. 혁신에 대한 압박은 현실이지만, 에이전틱 AI를 추진하기에 앞서 반드시 자문해야 합니다. '이 기술이 당면한 문제를 해결하기 위한 적합한 도구인가?'
여기서 우리는 난관에 봉착하게 됩니다. 바로 'AI 에이전트' 또는 '에이전틱 AI'의 정의가 무엇인지에 대한 불확실성이 지속되고 있다는 점입니다. 이 용어들은 현재 매우 광범위하고 때로는 혼용되어 사용되고 있습니다. 생산성 향상을 꾀하는 정부에게 명확한 개념 정립은 단순히 도움이 되는 수준을 넘어, 목표 달성을 위한 올바른 솔루션을 이해하고 선택하기 위한 필수 조건입니다.
| 구분 | 정의 |
| AI Agents | 인간의 개입이 거의 없거나 전혀 없이 워크플로우를 실행하는 AI 모델, 규칙 및 분석 알고리즘의 시퀀스 |
| Agentic AI | 복잡한 목표를 자율적으로 추구하고 달성하기 위해 여러 AI 에이전트를 조율하는 더 광범위한 프레임워크 |
AI 에이전트는 인간의 개입을 최소화하거나 개입 없이 워크플로우를 실행하는 AI 모델, 규칙 및 분석 알고리즘의 연속체입니다. 이러한 AI 에이전트는 사전 정의된 규칙과 목표를 바탕으로 프로세스를 자동화하고, 데이터를 분석하며, 의사결정을 내릴 수 있습니다.
특히 AI 에이전트는 '주체성(Agency)'을 가진 것으로 정의되며, 이는 다음과 같은 역량을 의미합니다:
- 독립적 행동: 외부의 상시 지시 없이 스스로 작동합니다.
- 의사결정: 주어진 상황에서 판단을 내립니다.
- 자율적 목표 추구: 일정 수준의 자율성을 바탕으로 설정된 목표를 완수합니다.
- 환경과의 상호작용: 주변 환경, 시스템, 사람 및 프로세스와 소통하며 자신의 결정과 행동을 구체화합니다.
AI 에이전트는 그 정교함의 정도가 매우 다양합니다. 거대언어모델(LLM)이나 의사결정 지능(Decision Intelligence)을 활용하기도 하지만, 그렇지 않은 경우도 존재합니다. 여기서 중요한 점은 진정한 AI 에이전트를 단순한 챗봇이나 LLM과 구분하는 것입니다. AI 에이전트는 데이터와 고급 분석 도구를 통합함으로써 단순 모델을 넘어선 적응력과 복잡한 추론 능력을 갖추고 있습니다. 가트너의 아누슈리 베르마(Anushree Verma) 수석 디렉터 애널리스트는 “현재 에이전틱 기술로 포장된 많은 적용사례들이 실제로는 에이전틱 구현까지는 필요로 하지 않는다”라고 지적합니다.
나아가, 이러한 열풍으로 인해 'AI 에이전트'와 '에이전틱 AI'라는 용어가 혼용되는 경우가 많습니다. 사용자를 대신해 반복적인 특정 업무를 수행하도록 설계된 'AI 에이전트'가 개별적이고 작업 지향적인 구성 요소라면, '에이전틱 AI'는 여러 AI 에이전트를 조율하여 복잡한 목표를 자율적으로 추구하고 달성하는 더 광범위한 프레임워크를 의미합니다.
AI 에이전트가 '도구'라면, 에이전틱 AI는 그 도구들을 활용해 독립적으로 사고하고 판단하며 행동하는 '시스템'입니다.
양식 처리, 센서 모니터링, 일상적인 트리거 대응 등 반복적인 단계로 이루어진 수많은 정부 업무들을 떠올려 보십시오. 실시간 의사결정을 위해 대기 중인 방대한 데이터부터, 자원 소모가 큰 '단순 반복 업무'에 이르기까지, 이 모든 영역이 바로 AI 에이전트나 에이전틱 AI 시스템이 개입하여 실질적인 가치를 창출할 수 있는 최적의 영역입니다.
그렇다면 AI 에이전트는 실제로 어떻게 작동할까요? 이제 AI 에이전트가 제공할 수 있는 가치의 본질을 파악했으니, 이 기술이 정부기관이나 조직에 정말 적합한지 판단하기 위해 작동 원리를 이해하는 것이 필수적입니다. 강력한 AI 에이전트를 구성하는 5가지 핵심 요소인 인식(Perception), 인지(Cognition), 의사결정(Decisioning), 실행(Action), 그리고 학습(Learning)을 자세히 살펴보겠습니다.
1. 인식(Perception): 데이터 수집
AI 에이전트의 토대는 센서, 입력 장치 및 데이터베이스로부터 데이터를 수집하여 세상을 인식하는 능력에 있습니다. 이때 데이터의 품질과 범위가 매우 중요합니다. 정확하고 관련성 높은 정보는 더 나은 의사결정을 가능하게 하지만, 불완전한 데이터는 오류로 이어질 수 있습니다. 즉, 인식 단계는 이후 모든 행동의 기초를 닦는 과정입니다.
2. 인지(Cognition): 정보 분석
데이터 수집이 완료되면 인지 단계에서 이를 처리하고 해석합니다. 이 과정에서 에이전트는 분석(Analytics), 머신러닝, 언어적 규칙, 추론 및 LLM을 활용하여 패턴을 식별하고 트렌드를 감지하며 통찰(Insight)을 도출합니다.
3. 의사결정(Decisioning): 최적의 행동 결정
의사결정 단계에서 AI 에이전트는 분석 결과와 자신에게 부여된 조건들을 바탕으로 최선의 행동 방침을 결정합니다. 여기에는 필요에 따라 인간이 개입하여 확인할 수 있는 맞춤형 절차를 포함할 수 있습니다. 에이전트는 우리가 가용한 정보를 바탕으로 선택을 내리는 것과 마찬가지로 가장 효과적인 대응책을 선택합니다. 잘못된 결정은 재무적, 운영적, 혹은 평판의 손실을 초래할 수 있으므로 잘 정의된 의사결정 프레임워크가 필수적입니다.
4. 실행(Action): 결정의 수행
의사결정이 내려지면 AI 에이전트는 해당 선택을 실제 행동으로 옮깁니다. 이는 과업을 완수하거나, 솔루션을 제안하거나, 다른 시스템에서 반응을 트리거하는 것을 의미할 수 있습니다. 이 단계에서 에이전트는 '처리'를 넘어 '수행'으로 나아가며, 인사이트를 실질적인 결과로 전환합니다.
5. 학습(Learning): 지속적인 성능 향상
수동 업데이트가 필요한 전통적인 시스템과 달리, AI 에이전트는 행동 결과를 분석하여 시간이 지남에 따라 스스로 개선됩니다. 결정이 성공적이면 해당 방식을 강화하고, 실패하면 이를 조정합니다. 이러한 적응력 덕분에 에이전트는 더욱 똑똑하고 효율적으로 변하며 목표에 부합하게 됩니다. 또한 에이전트는 개선 사항과 학습 내용을 기록하여 배포자가 진화 과정을 추적하고 감사(Audit)할 수 있게 함으로써, 의사결정의 투명성과 행동에 대한 책임성을 보장합니다.
AI 에이전트의 가치 실현
AI 에이전트는 워크플로우를 자동화하고 방대한 데이터를 전례 없는 속도로 처리함으로써 정부 기관에 강력한 경쟁 우위를 제공합니다. 하지만 성공적인 도입은 적합한 과업의 식별, 진정한 주체성(Agency)을 구현하는 기술 선택, 그리고 기계 지능과 인간의 전문성을 사려 깊게 통합하는 것에 달려 있다는 것을 늘 기억하시기 바랍니다.
