AI 에이전트에게 맡기면 안 되는 일은 일이 어렵거나 복잡하다는 이유가 아니다. 판단이 필요한 방식이 다른 경우, 또는 잘못됐을 때 되돌리기 어려운 경우가 대부분이다.
Jurin을 직접 운영하면서 실패 후 맡기지 않기로 결정한 업무 유형을 정리했다. 에이전트 도입을 검토 중이거나 이미 운영 중인 경우, 위임 결정 전 확인 목록으로 활용할 수 있다.
맡기지 않기로 결정한 업무 유형
외부 발송 전 최종 검토가 필요한 커뮤니케이션
메일 초안 작성이나 SNS 콘텐츠 생성은 에이전트가 잘 처리한다. 그러나 실제 발송 단계는 반드시 사람이 확인하는 단계를 거친다. 발송 후 취소가 어렵거나 불가능한 경우, 에이전트에게 발송 권한을 주지 않는다. 작성과 발송을 분리하는 것이 핵심이다.
규칙이 명시되지 않은 예외 상황 판단
에이전트는 사전에 정의된 규칙 안에서 작동한다. 상황이 애매하거나 규칙에 없는 케이스가 나타나면 에이전트는 추측으로 처리한다. 추측이 맞을 수도 있지만, 실패했을 때의 영향이 큰 판단은 에이전트에게 맡기지 않는다.
실시간 대응이 필요한 고객 응대
고객 문의에 대한 초안 작성은 에이전트가 처리할 수 있다. 그러나 즉각적인 대응, 감정적인 맥락이 있는 상황, 또는 상황에 따라 판단이 달라지는 케이스는 에이전트보다 사람이 직접 처리하는 것이 안전하다. 준비 단계와 실행 단계를 구분하면 에이전트를 활용하면서도 리스크를 줄일 수 있다.
금액, 계약, 승인 관련 의사결정
비용 집행, 결제 수단 변경, 계약서 서명처럼 되돌리기 어렵고 법적 영향이 있는 작업은 에이전트에서 제외한다. 준비 작업(문서 초안, 조건 정리)은 맡겨도 되지만, 최종 실행은 사람이 한다. 금액이 관련된 어떤 작업도 에이전트가 단독으로 처리하지 않도록 구조를 설계한다.
새로운 자동화 파이프라인 설계
자동화를 더 자동화하는 것, 즉 에이전트가 새로운 스케줄을 만들거나 자동화 흐름을 변경하는 것은 원칙적으로 허용하지 않는다. 자동화의 범위와 구조는 사람이 결정하고, 에이전트는 그 안에서만 작동하도록 설계한다.
위임 전 확인하는 기준 두 가지
에이전트에게 작업을 맡기기 전에 두 가지를 확인한다.
첫째, 잘못됐을 때 되돌릴 수 있는가. 취소가 어렵거나 영향이 외부로 퍼지는 작업은 에이전트보다 사람이 처리한다.
둘째, 규칙으로 명확히 정의할 수 있는가. "이 경우에는 이렇게 한다"고 문장으로 쓸 수 있어야 에이전트가 처리할 수 있다. 규칙이 모호한 작업은 에이전트가 추측으로 채우고, 그 추측이 맞을 확률은 낮다.
Jurin 운영 3개월 기준으로, 위 기준에 따라 에이전트에게 맡기지 않은 작업에서는 실패 사례가 0건이다. 반대로 실패가 발생한 경우는 모두 이 기준을 적용하지 않은 케이스였다.