AI 에이전트의 실행 범위가 넓어지면서, 기업의 도입 기준도 달라지고 있습니다.
이제는 무엇을 할 수 있는지와 함께, 어떤 권한으로 실행하고 결과를 어떻게 확인할지 살펴봐야 합니다.
2026년 10월 3주 AX 동향 분석 · 주요 분석 기간 10월 12~18일
기업의 AI 활용은 문서를 찾고 내용을 요약하는 단계에서 실제 업무를 처리하는 방향으로 확장되고 있습니다. 업무 현황을 조회한 뒤 후속 조치를 준비하거나, 시스템의 문제를 분석하고 설정을 변경하는 기능이 구체적으로 제시되고 있습니다.
이번 주 발표에서 함께 눈에 띈 것은 승인과 통제입니다. 실행 기능을 소개하는 기업들이 접근 권한, 사람의 승인, 처리 기록, 복구 기능도 주요 구성으로 설명했습니다.
이 흐름은 기업 AI를 선택할 때의 질문을 바꿉니다.
“AI가 얼마나 많은 일을 할 수 있는가”에 더해,
“우리 회사가 허용한 범위 안에서 일을 완료할 수 있는가”를 확인해야 하는 시점입니다.
질문에 답하는 AI에서 후속 조치를 수행하는 AI로
10월 13일 IFS는 산업 현장의 데이터를 연결하고 실제 업무로 이어가는 IFS Intelligence를 발표했습니다.
예를 들어 납기 지연 위험을 확인하려면 재고, 생산 능력, 공급사 일정, 물류 제약을 함께 살펴봐야 합니다. IFS는 이처럼 여러 시스템에 흩어진 정보를 조사하고, 원인과 다음 조치를 제안한 뒤 담당자의 승인을 받아 실행하는 흐름을 소개했습니다. 정해진 업무를 백그라운드에서 수행하다 판단이나 승인이 필요할 때 사람에게 넘기는 방식도 제시했습니다.
여기서 달라지는 것은 AI의 역할입니다. 정보를 설명하는 데서 끝나지 않고, 다음 업무 단계에 참여합니다.
기업 입장에서는 기대할 수 있는 효과도 커집니다. 직원이 여러 화면에서 정보를 찾고, 내용을 정리하고, 다른 시스템에 다시 입력하는 과정을 줄일 가능성이 생깁니다. 동시에 잘못된 정보나 판단이 실제 업무에 반영될 가능성도 고려해야 합니다.
따라서 실행 기능이 추가되면 검토 범위 역시 답변 정확도를 넘어가야 합니다. 어떤 데이터를 조회했는지, 무엇을 변경하려는지, 실행 결과가 의도와 일치하는지까지 확인해야 합니다.
자율화가 확대될수록 승인 기준이 구체화되는 이유
기업이 AI에게 업무를 맡긴다고 해서 모든 판단을 한꺼번에 넘겨야 하는 것은 아닙니다. 같은 업무 안에서도 사람이 개입할 필요가 다른 단계들이 있습니다.
다음은 도입 설계를 위한 예시입니다.
업무 단계 | AI에 맡길 수 있는 범위 예시 |
|---|---|
자료 조회·현황 정리 | 허용된 데이터 안에서 자동 수행 |
조치안·변경안 작성 | 근거와 예상 영향을 함께 제시 |
고객 발송·업무 데이터 변경 | 업무 위험에 따라 담당자 승인 후 실행 |
예외·정보 충돌 발생 | 실행을 멈추고 담당자에게 전달 |
중요한 것은 승인 버튼의 유무보다 승인 대상이 구체적인가입니다.
담당자는 변경 대상, 실행 내용, 영향 범위를 알아야 판단할 수 있습니다.
IFS 역시 기존 시스템의 사용자 권한과 업무 규칙을 적용하고, 작업 결과를 검증하며 필요한 경우 사람에게 넘기는 구조를 설명했습니다.
이는 공급사의 설계 설명이며, 실제 환경에서 같은 수준으로 작동하는지는 별도 검증이 필요합니다.
이러한 발표를 종합하면, 기업용 AI의 자율화는 업무마다 허용 범위를 정하는 방향으로 구체화되고 있다고 해석할 수 있습니다.
승인과 예외 처리는 AI 도입 이후에 덧붙이는 절차가 아니라, 처음부터 업무 흐름 안에 포함해야 할 설계 항목입니다.
실행 권한과 함께 필요한 것은 복구 가능성
10월 14일 SolarWinds가 공개한 IT 운영 에이전트 Avior도 실행 기능과 통제를 함께 제시했습니다. 위험한 작업의 명시적 승인, 최소 권한, 감사 기록과 함께 자동 롤백 지원을 설명했습니다.
시스템을 변경하는 AI를 검토할 때 참고할 부분입니다. 정상적으로 처리되는 시연만으로는 운영 준비도를 판단하기 어렵습니다. 실행 도중 연결이 끊기거나 일부 작업만 완료되는 상황도 살펴봐야 합니다.
예를 들어 AI가 업무 시스템의 정보를 수정한 뒤 고객에게 안내하도록 구성됐다고 가정해 보겠습니다. 정보 수정은 성공했지만 안내 발송은 실패했다면, 전체 업무를 처음부터 재실행할 경우 중복 처리가 발생할 수 있습니다.
이때 필요한 것은 실패 메시지 하나가 아닙니다. 어디까지 완료됐는지 기록하고, 실제 저장 상태를 확인하며, 남은 단계만 이어갈 수 있어야 합니다. 변경을 되돌릴 수 있는 업무라면 복구 방법도 준비해야 합니다.
모든 작업을 원상복구할 수 있는 것은 아닙니다.
이미 발송한 메일이나 외부에 전달된 정보처럼 되돌리기 어려운 작업은 실행 전 확인과 승인 기준이 더 중요합니다.
AI가 잘못됐을 때 멈추고 수습할 수 있는지가 실행 범위를 결정하는 기준이 되어야 합니다.
도입 의지와 무인 실행에 대한 신뢰는 다르다
이전 주에 발표된 Riverbed 조사에서도 이러한 긴장을 확인할 수 있습니다.
10월 6일 공개된 조사에서 응답자의 90%는 향후 2년 안에 사람의 감독을 받거나 고도로 자율화된 IT 운영을 기대했습니다. 동시에 77%는 사람의 승인 없이 AI가 운영 결정을 내리는 데 신중한 태도를 보였습니다.
이 조사는 2026년 7월, 7개국의 기업 의사결정자·IT 리더·기술 전문가 1,200명을 대상으로 실시됐습니다. 따라서 실제 자율 운영의 성과를 측정한 결과와는 구분해야 합니다.
자율화에 대한 기대와 승인 요구가 함께 나타난다는 점은 기업의 도입 판단에 참고할 만합니다. 더 많은 업무를 맡기고 싶어도 결과를 확인하거나 책임 범위를 정하기 어려우면 운영 확대에 제약이 생길 수 있습니다.
다만 이번 주 제품 발표와 이 조사만으로 기업 전반에서 안전한 자율 운영이 정착했다고 판단할 수는 없습니다. 확인할 수 있는 변화는 공급사의 제품 설명과 기업의 기대 모두에서 실행 능력과 통제 조건이 함께 중요하게 다뤄지고 있다는 점입니다.
기업은 작은 업무에서도 실행의 전체 과정을 확인해야 한다
이번 흐름을 자사에 적용할 때 모든 시스템을 한 번에 연결할 필요는 없습니다. 시작과 완료 조건이 명확한 업무 하나를 골라, 실제 처리 과정을 확인하는 접근이 현실적입니다.
예를 들어 고객 문의 후속 처리라면 문의 분류와 답변 작성뿐 아니라 담당자 배정, 시스템 등록, 고객 안내까지 어느 단계에 AI가 참여할지 정할 수 있습니다. 이 과정에서 조회 권한과 수정 권한을 구분하고, 외부 발송 전 승인 지점도 지정해야 합니다.
검증할 항목은 다음처럼 구체적이어야 합니다.
권한: 허용되지 않은 정보 조회나 변경 요청을 차단하는가?
완료: 실행 요청을 보냈다는 사실과 실제 처리가 끝났다는 사실을 구분하는가?
예외: 정보가 부족하거나 서로 충돌할 때 실행을 멈추는가?
복구: 일부 실패 후 중복 없이 재시도하거나 담당자가 이어받을 수 있는가?
성과: 검토·수정·재작업까지 포함해도 처리 시간과 품질이 개선되는가?
이 기준은 제품을 비교할 때도 사용할 수 있습니다. 연결 가능한 도구 수나 시연 속도와 함께, 실제 업무의 제약을 어떻게 처리하는지 확인하는 것입니다.
기업 AI가 실제 업무로 들어갈수록 모델의 답변 능력만으로 해결되지 않는 문제가 늘어납니다. 데이터의 최신성, 기존 권한, 승인 책임, 실패 복구가 함께 작동해야 업무를 맡길 수 있습니다.
자사 AX의 출발점은 맡길 업무와 완료 조건을 정하는 것입니다.
그 업무를 어떤 권한으로 실행하고, 누가 확인하며, 실패하면 어떻게 이어갈지까지 설계할 때
AI의 실행 능력을 실제 운영으로 연결할 수 있습니다.