에이전트 도입이 확대됨에 따라, 당사의 영업 조직을 포함한 여러 기업에서 공통적인 패턴이 나타나는 것을 확인했습니다. 바로 특화된 에이전트들이 각기 고유한 가치를 제공하지만, 오케스트레이션(orchestration, 조율)이 없으면 사용자가 수많은 에이전트 중 무엇을 선택해야 할지 직접 판단해야 하는 인지적 부하(cognitive load)를 짊어지게 된다는 점입니다.
AWS Sales(영업 부문)의 경우, 전 세계 조직에 20개 이상의 도메인별 에이전트가 배포되어 있었습니다. 이로 인해 영업 담당자들은 고객에게 집중하는 대신, 여러 시스템 사이를 오가며 컨텍스트 스위칭(context-switching, 문맥 전환)을 반복해야 했습니다.
이러한 문제를 해결하기 위해 AWS는 Amazon Bedrock AgentCore를 기반으로 한 '프론트 도어(Front Door)' 에이전트 전략을 개발했습니다.
챌린지: 에이전트의 파편화
기업들이 특정 업무(예: CRM 데이터 업데이트, 기술 문서 요약, 리드 발굴 등)에 최적화된 에이전트를 구축하면서 '에이전트 피로도'라는 새로운 문제가 발생했습니다. 영업 담당자는 다음과 같은 어려움에 직면했습니다.
- 복잡성 증가: 어떤 질문을 어떤 에이전트에게 던져야 할지 알기 어려움.
- 일관성 부족: 각 에이전트마다 서로 다른 인터페이스와 응답 형식을 가짐.
- 데이터 사일로: 에이전트 간 정보 공유가 이루어지지 않아 전체적인 맥락 파악이 어려움.
솔루션: Amazon Bedrock AgentCore를 통한 오케스트레이션
Amazon Bedrock AgentCore는 복잡한 에이전틱 워크플로우를 관리하고 여러 전문 에이전트를 하나로 통합하는 프레임워크를 제공합니다.
(그림 1: Amazon Bedrock AgentCore를 활용한 통합 에이전트 아키텍처 예시)
이 아키텍처의 핵심은 **'프론트 도어 에이전트'**입니다. 사용자는 오직 이 하나의 인터페이스와만 상호작용하며, AgentCore는 사용자의 의도를 분석하여 다음 작업을 수행합니다.
- 라우팅(Routing): 질문의 의도를 파악하여 적절한 전문 에이전트에게 전달합니다.
- 컨텍스트 유지(Context Persistence): 대화의 맥락을 기억하여 여러 에이전트를 거치더라도 끊김 없는 사용자 경험을 제공합니다.
- 결과 통합(Result Synthesis): 여러 에이전트로부터 받은 답변을 종합하여 사용자에게 최적화된 최종 답변을 제공합니다.
비즈니스 가치 및 결과
Amazon Bedrock AgentCore를 도입한 이후, AWS Sales 조직은 다음과 같은 가시적인 성과를 거두었습니다.
- 영업 생산성 향상: 영업 담당자가 시스템을 찾는 대신 고객과의 대화에 더 많은 시간을 할애할 수 있게 되었습니다.
- 정확도 개선: 의도 기반 라우팅을 통해 각 질문이 가장 적합한 도메인 전문가(에이전트)에게 전달되므로 답변의 품질이 높아졌습니다.
- 운영 효율성: 새로운 전문 에이전트를 추가할 때 사용자 인터페이스를 변경할 필요 없이 AgentCore에 연결만 하면 되므로 확장성이 극대화되었습니다.
시작하기
여러분도 Amazon Bedrock을 활용하여 기업 내 파편화된 AI 도구들을 통합하고 에이전틱 AI의 진정한 가치를 실현할 수 있습니다. 자세한 구현 방법은 Amazon Bedrock 문서를 참조하시거나 AWS 전문가와 상담해 보세요.
이 포스팅은 Amazon Bedrock AgentCore를 활용해 영업 전략을 혁신한 AWS의 실제 사례를 바탕으로 작성되었습니다.