우리 회사에 AI 에이전트가 10개 있다면, 1개를 사용할 때보다 업무 효율도 10배 높아질까요?
기업에서 AI를 활용할 수 있는 업무는 다양합니다. 고객 문의에 응답하는 AI, 보고서를 작성하는 AI, 사내 문서를 검색하는 AI, 견적서를 준비하는 AI까지 각 업무에 맞는 에이전트를 구축할 수 있습니다.
실제로 하나의 업무에서 AI의 효과를 경험한 기업이라면 다른 업무에도 적용하고 싶어질 것입니다. 영업팀에 AI 에이전트를 도입했다면 운영팀과 관리팀에도 비슷한 시스템을 구축하는 방안을 검토할 수 있습니다.
하지만 AI 에이전트의 숫자가 늘어난다고 해서 기업 전체의 업무 효율이 같은 비율로 높아지는 것은 아닙니다.
각 에이전트가 서로 다른 정보를 사용하거나, 처리한 결과를 다른 업무에 전달하지 못한다면 새로운 문제가 발생할 수 있기 때문입니다. 직원들이 여러 AI 시스템을 오가며 결과를 확인하고, 필요한 정보를 다시 입력해야 하는 상황도 생길 수 있습니다.
기업 AX에서 중요한 것은 얼마나 많은 AI 에이전트를 보유하고 있는지가 아니라,
그 에이전트들이 실제 업무를 얼마나 잘 수행하고 연결하는가입니다.
이번에는 AI 에이전트가 늘어날수록 기업이 무엇을 준비해야 하는지 살펴보겠습니다.
에이전트마다 일을 잘하는데, 왜 전체 업무는 느릴까요?
예를 들어 산업용 장비를 판매하는 기업을 생각해 보겠습니다.
이 회사에는 고객 문의에 응답하는 AI와 견적서를 작성하는 AI, 납품 일정을 관리하는 AI가 도입되어 있습니다. 각 에이전트는 자신에게 맡겨진 업무를 비교적 효율적으로 처리하고 있습니다.
고객 문의 AI는 제품 정보를 안내하고, 견적 AI는 가격표와 할인 기준을 바탕으로 견적서를 준비합니다. 운영팀의 AI는 재고와 납품 일정을 확인합니다.
그런데 고객이 홈페이지에서 장비 10대의 구매를 문의했다고 가정해 보겠습니다.
고객 문의 AI가 제품과 수량을 확인하더라도 그 내용이 견적 AI에 자동으로 전달되지 않는다면 담당자가 다시 정보를 입력해야 합니다.
견적이 확정된 이후에도 운영팀의 AI가 해당 계약 내용을 확인할 수 없다면 납품 준비를 위해 같은 정보를 다시 요청해야 할 수 있습니다.
각각의 AI는 맡은 업무를 잘 수행하지만, 업무가 다음 단계로 이어지지 않는 것입니다.
이런 상황에서는 사람이 처리하던 반복 업무의 일부가 줄어들더라도 에이전트 사이에서 정보를 전달하고 결과를 확인하는 새로운 작업이 발생할 수 있습니다.
AI 에이전트가 개별 업무를 자동화하더라도, 전체 업무 과정이 연결되어 있지 않다면 기업 차원의 효율은 제한적일 수 있습니다.
AI 에이전트는 각자의 역할이 명확해야 합니다
여러 에이전트를 운영하려면 먼저 각각 어떤 업무를 담당하고, 어디까지 처리할 수 있는지 정의해야 합니다.
예를 들어 고객 문의 에이전트는 고객의 질문을 이해하고 제품 정보를 안내하는 역할을 맡을 수 있습니다. 견적 에이전트는 확인된 고객 요구사항을 바탕으로 가격 정책을 적용하고 견적서 초안을 작성하도록 구성할 수 있습니다.
운영 에이전트는 재고와 납품 일정 확인을 담당하고, 고객 관리 에이전트는 상담 이력과 계약 진행 상황을 CRM에 반영하는 업무를 수행할 수 있습니다.
이러한 역할이 명확하지 않으면 동일한 작업을 여러 에이전트가 중복으로 수행하거나, 중요한 업무를 어느 에이전트도 책임지지 않는 문제가 발생할 수 있습니다.
특히 고객의 계약 조건처럼 여러 업무에 영향을 주는 정보는 더욱 주의해야 합니다.
견적 에이전트가 작성한 초안과 영업 담당자가 최종 승인한 계약 조건은 서로 다릅니다. 운영 에이전트가 납품 업무를 시작할 때에는 검토 중인 견적이 아니라 최종 확정된 계약 정보를 기준으로 처리해야 합니다.
따라서 기업 AX에서는 에이전트의 역할뿐 아니라 업무가 어떤 상태에 도달해야 다음 단계로 넘어갈 수 있는지도 정의해야 합니다.
다만 업무마다 반드시 별도의 에이전트를 만들 필요는 없습니다. 여러 업무가 동일한 데이터와 처리 규칙을 공유한다면 하나의 에이전트가 여러 기능을 수행하는 편이 더 단순하고 효율적일 수도 있습니다.
에이전트를 많이 만드는 것이 목적이 아니라,
각 업무에 적합한 역할과 실행 구조를 설계하는 것이 중요합니다.
에이전트 사이의 연결은 어떻게 이루어질까요?
AI 에이전트가 서로 연결된다는 것은 모든 에이전트가 자유롭게 대화하도록 만드는 것만을 의미하지 않습니다.
기업에서는 실제 업무 시스템과 데이터, 승인 절차를 중심으로 업무가 이어지도록 설계하는 것이 중요합니다.
앞서 살펴본 장비 구매 과정을 다시 생각해 보겠습니다.
고객 문의 에이전트가 고객의 제품 모델과 수량, 설치 지역을 확인하면 해당 정보를 견적 요청으로 등록합니다. 견적 에이전트는 등록된 정보를 바탕으로 가격 정책을 조회하고 견적서 초안을 준비합니다.
담당자가 견적을 승인하면 확정된 결과가 계약 관리 시스템에 기록되고, 이를 기준으로 운영 에이전트가 재고 확인과 납품 준비 업무를 수행할 수 있습니다.
이때 에이전트들이 반드시 서로 직접 메시지를 주고받아야 하는 것은 아닙니다. 공통 업무 시스템이나 정해진 업무 실행 절차를 통해 필요한 정보를 전달하는 방식도 가능합니다.
예를 들어 계약이 승인되었다는 상태 변경을 기준으로 다음 업무를 실행하도록 만들면 어느 단계에서 처리가 완료되었고, 어떤 작업이 남아 있는지 확인하기가 수월해집니다.
반면 에이전트들이 서로에게 자유롭게 업무를 요청하도록만 설계하면 동일한 작업이 반복되거나 예상하지 못한 실행이 발생할 수도 있습니다.
따라서 실제 기업 AX에서는 AI가 판단하고 요청하는 영역과 시스템이 정해진 규칙에 따라 업무를 실행하고 상태를 관리하는 영역을 구분하는 것이 중요합니다.
이러한 구조가 갖춰져야 여러 에이전트를 운영하더라도 업무의 진행 상황과 결과를 안정적으로 관리할 수 있습니다.
같은 정보를 사용하는 AI가 서로 다른 답변을 한다면?
여러 AI 에이전트를 운영하면서 발생할 수 있는 또 다른 문제는 정보의 불일치입니다.
예를 들어 고객 문의 AI는 오래된 제품 가격표를 참고하고, 견적 AI는 최신 가격 정보를 사용한다고 가정해 보겠습니다.
고객이 홈페이지에서 안내받은 가격과 실제 견적서에 표시된 가격이 달라지는 상황이 발생할 수 있습니다.
고객은 어느 정보가 정확한지 혼란을 느끼게 되고, 담당자는 잘못된 안내를 수정해야 합니다.
이러한 문제를 줄이려면 에이전트마다 동일한 정보를 별도로 보관하고 관리하기보다, 각 정보의 공식적인 출처를 명확히 정하는 것이 좋습니다.
제품 가격은 가격 관리 시스템에서, 고객의 계약 상태는 CRM이나 계약 관리 시스템에서, 회사의 업무 규정은 승인된 사내 지식에서 확인하도록 구성하는 방식입니다.
AI는 필요한 순간에 해당 정보를 조회하거나, 최신 상태와 갱신 기준이 관리되는 지식 저장소를 활용할 수 있습니다.
물론 모든 에이전트가 완전히 동일한 자료에 접근해야 한다는 뜻은 아닙니다. 영업팀과 관리팀은 업무 권한에 따라 조회할 수 있는 정보가 다를 수 있습니다.
중요한 것은 동일한 업무 사실에 대해서는 일관된 기준을 사용하면서도,
각 에이전트가 허용된 정보만 활용하도록 만드는 것입니다.
AI가 서로에게 업무를 맡긴다면 누가 책임질까요?
에이전트의 역할과 정보가 연결되면 여러 단계의 업무를 사람의 개입 없이 처리할 수 있는 범위도 넓어질 수 있습니다.
하지만 자동화 범위가 넓어질수록 업무 실행에 대한 통제가 중요해집니다.
예를 들어 고객 문의 에이전트가 견적 에이전트에 작업을 요청하고, 견적 에이전트가 계약 관리 시스템에 정보를 등록한다고 가정해 보겠습니다.
이때 AI가 잘못된 수량이나 가격을 해석했다면 해당 오류가 다음 업무로 전달될 수 있습니다. 더 나아가 확인되지 않은 계약 정보를 기준으로 납품 업무까지 시작된다면 문제의 영향이 커질 수 있습니다.
따라서 중요한 업무에는 명확한 실행 조건과 승인 절차를 적용해야 합니다.
표준 가격 조회나 견적서 초안 작성은 자동으로 수행할 수 있지만, 특별 할인 승인이나 계약 조건 확정은 담당자의 검토가 필요할 수 있습니다.
또한 누가 어떤 업무를 요청했고, 어떤 에이전트가 어떤 데이터를 활용했으며, 실제로 어떤 시스템 작업이 수행되었는지 기록을 남겨야 합니다.
여기서 AI가 업무를 제안하는 권한과 실제로 시스템을 변경하는 권한은 구분할 필요가 있습니다.
AI가 계약 조건 변경을 제안할 수 있다고 해서 계약 데이터를 직접 수정할 권한까지 가져야 하는 것은 아닙니다.
이러한 권한과 승인 구조가 갖춰져야 기업이 자동화 범위를 확대하더라도 업무에 대한 통제력을 유지할 수 있습니다.
에이전트가 늘어날수록 보안도 함께 설계해야 합니다
기업 내부에는 고객 정보, 계약 자료, 재무 데이터, 인사 정보 등 다양한 민감 정보가 존재합니다.
각 부서에 AI 에이전트가 도입되면 이러한 정보에 접근하는 경로도 늘어날 수 있습니다.
특히 여러 에이전트가 연결된 환경에서는 한 에이전트가 조회한 민감 정보가 다른 에이전트에 전달되는 과정까지 관리해야 합니다.
예를 들어 영업 에이전트가 고객별 계약 금액을 조회할 수 있다고 해서 운영 에이전트가 모든 거래처의 계약 금액을 확인할 필요는 없습니다.
운영 에이전트가 납품 준비에 필요한 제품, 수량, 일정만 활용하도록 구성할 수 있습니다.
업무상 추가 정보가 필요하다면 정해진 승인 절차를 거쳐 제한적으로 접근하도록 설계하는 것이 적절합니다.
또한 에이전트가 외부 이메일을 발송하거나 고객 정보에 접근하는 등 중요한 업무를 수행할 때에는 실행 권한과 기록 관리가 필요합니다.
기업 AX의 보안은 단순히 AI가 어떤 데이터를 학습했는지의 문제가 아닙니다.
AI가 어떤 정보를 조회할 수 있고, 그 정보를 어디까지 전달하며,
실제로 어떤 업무를 실행할 수 있는지 통제하는 문제이기도 합니다.
모든 업무에 AI 에이전트를 만들어야 할까요?
기업에서 반복되는 업무를 발견했다고 해서 반드시 새로운 AI 에이전트를 구축해야 하는 것은 아닙니다.
예를 들어 매일 정해진 시간에 특정 시스템의 데이터를 복사하거나, 승인된 계약 정보를 다른 시스템에 등록하는 작업이라면 일반적인 프로그램이나 업무 자동화 기능만으로 충분히 처리할 수도 있습니다.
반면 고객의 자연어 요청을 이해하거나, 여러 문서에서 관련 정보를 찾고, 상황에 따라 필요한 업무를 판단해야 하는 경우에는 AI 에이전트의 활용 가치가 커질 수 있습니다.
두 방식을 결합하는 것도 가능합니다.
AI는 고객의 요청을 분석하고 필요한 업무를 판단하며, 실제 데이터 등록과 상태 변경은 검증된 프로그램이 수행하도록 만드는 것입니다.
이렇게 하면 AI의 유연한 언어 이해 능력을 활용하면서도 정해진 업무 처리는 보다 일관된 방식으로 운영할 수 있습니다.
기업이 AX를 설계할 때 중요한 것은 모든 작업을 AI가 수행하도록 만드는 것이 아닙니다. 어떤 작업에 AI의 판단이 필요하고, 어떤 작업은 기존 프로그램으로 처리하는 편이 적절한지 구분해야 합니다.
에이전트의 수를 늘리는 것보다
이러한 역할 분담을 정확하게 설계하는 편이 실제 운영에서는 더 큰 가치를 만들 수 있습니다.
AX가 적용된 기업은 어떻게 달라질까요?
개별 부서에서 AI 에이전트를 각각 도입한 기업은 특정 업무의 효율을 높일 수 있습니다.
하지만 에이전트 사이의 정보와 업무가 연결되지 않으면 직원이 여전히 중간에서 결과를 전달하고 처리 상태를 확인해야 할 수 있습니다.
반면 역할과 연결 구조가 명확하게 설계된 AX 환경에서는 하나의 업무가 여러 에이전트와 시스템을 거쳐 자연스럽게 이어질 수 있습니다.
고객의 문의가 견적 요청으로 연결되고, 승인된 견적이 계약과 납품 업무로 이어지며, 처리 결과가 다시 고객 관리 시스템에 반영되는 방식입니다.
이 과정에서 직원은 모든 단계를 직접 처리하는 대신 중요한 결과를 검토하고 예외적인 상황을 해결하는 역할을 맡을 수 있습니다.
경영진 역시 여러 부서의 업무가 어디까지 진행되었고, 어떤 단계에서 문제가 발생했는지 더 쉽게 파악할 수 있습니다.
물론 이러한 효과는 에이전트의 숫자만으로 만들어지지 않습니다. 공통 데이터 기준과 업무 실행 규칙, 접근 권한, 승인 절차가 함께 설계되어야 합니다.
여러 AI가 각자의 업무를 수행하는 기업에서,
AI와 기존 시스템이 하나의 업무 흐름으로 연결되는 기업으로 변화하는 것입니다.
우리 회사는 무엇부터 준비해야 할까요?
AI 에이전트를 여러 업무에 도입하려는 기업이라면 먼저 현재 업무가 어떤 순서로 이어지는지 살펴볼 필요가 있습니다.
고객 문의가 접수된 이후 견적과 계약, 납품, 청구까지 어떤 시스템과 담당자가 관여하는지 확인하는 것입니다.
이 과정에서 반복되는 정보 전달이나 수작업, 업무 지연이 발생하는 구간을 찾을 수 있습니다.
이후 각 업무에 AI의 판단이 필요한지, 정해진 프로그램으로 처리할 수 있는지, 담당자의 승인이 필요한지를 구분하면 적절한 자동화 구조를 설계할 수 있습니다.
이미 개별 AI 에이전트를 운영하고 있다면 새로운 에이전트를 추가하기 전에 기존 에이전트들이 사용하는 정보와 처리 결과를 연결할 수 있는지 검토하는 것이 좋습니다.
처음부터 모든 에이전트를 통합할 필요는 없습니다.
서로 밀접하게 연결된 두세 개의 업무부터 시작해 실제 처리 시간과 오류 발생 여부, 담당자의 개입 횟수 등을 확인하면서 확대할 수 있습니다.
중요한 것은 새로운 AI 기능을 얼마나 많이 추가했는지가 아니라
실제 업무 전체가 얼마나 효율적이고 안정적으로 처리되는지 평가하는 것입니다.
AI 에이전트의 숫자보다 중요한 것은 연결입니다
기업에서 AI가 수행할 수 있는 업무는 앞으로도 다양해질 것입니다.
고객 상담, 사내 지식 검색, 문서 작성, 업무 분석, 시스템 처리 등 여러 영역에서 AI 에이전트를 활용할 수 있습니다.
하지만 각각의 AI가 독립적으로 일하는 것만으로 기업 전체의 업무가 자동으로 연결되지는 않습니다.
기업 AX에는 에이전트의 역할 분담뿐 아니라 정보의 일관성, 업무 실행 순서, 접근 권한, 승인과 결과 검증까지 함께 고려한 설계가 필요합니다.
AI가 유연하게 판단해야 하는 업무와 기존 프로그램이 정확하게 처리해야 하는 업무를 구분하는 것도 중요합니다.
이러한 구조가 갖춰지면 여러 에이전트가 각자의 업무를 수행하면서도 기업 전체의 하나의 프로세스 안에서 움직일 수 있습니다.
AI 에이전트가 많은 회사에서, AI 에이전트들이 제대로 함께 일하는 회사로.
이것이 여러 AI 에이전트를 기업 AX로 연결했을 때 기대할 수 있는 중요한 변화입니다.
AX 파트너는 기업의 업무에 맞는 독립적인 AI 에이전트를 설계하고, 기존 시스템과 기업 지식을 연결하며,
권한 관리와 승인 절차를 고려한 통합 AX 환경을 구축합니다.
