Escalation & Handoff Boundaries
이 문서는 CCAF Domain 5를 이해하기 위한 개념 설명용 노트다.
여기서는 escalation과 handoff를 단순한 실패 처리나 책임 회피가 아니라, 에이전트가 어디까지 진행하고 어디서부터 사람 또는 다른 주체에게 넘겨야 하는지 정하는 신뢰 경계로 이해하는 데 초점을 둔다.
왜 escalation이 필요한가
에이전트가 오래 실행된다고 해서 끝까지 혼자 밀어붙이는 것이 항상 좋은 것은 아니다.
오히려 다음 경우에는 계속 진행하는 것이 더 위험할 수 있다.
- 근거가 불충분한데 결론을 내려야 할 때
- 충돌하는 정보가 정리되지 않았을 때
- 정책/금전/권한 리스크가 커졌을 때
- 사용자 의도 확인이 꼭 필요할 때
- tool result가 불완전하거나 stale할 때
즉 escalation의 핵심은 “못 하겠다”가 아니라,
계속 진행하는 것보다 넘기는 것이 더 신뢰 가능한 시점이 있다는 것
이다.
handoff boundary란 무엇인가
handoff boundary는 에이전트가 더 이상 독립적으로 진행하지 않고, 사람이나 다른 실행 주체에게 넘겨야 하는 경계선을 뜻한다.
즉 중요한 질문은:
- 어디까지는 에이전트가 해도 되는가
- 어디서부터는 사람 판단이 필요한가
- 어떤 상태가 되면 더 진행하는 것이 오히려 위험한가
이다.
이 경계가 없으면 에이전트는:
- 불확실한 상태에서도 억지로 결론을 내리거나
- 정책상 민감한 결정을 자율적으로 하거나
- 손실이 큰 작업을 계속 진행할 수 있다
즉 handoff boundary는 안전장치이면서 동시에,
신뢰를 유지하기 위한 운영 경계
다.
좋은 handoff는 무엇을 넘겨야 하는가
좋은 handoff는 단순히 “여기서부터 사람이 봐야 함”이라고 말하고 끝나지 않는다.
보통 아래를 함께 넘겨야 한다.
- 지금까지 확인한 사실
- 무엇이 아직 불확실한지
- 어떤 시도를 했는지
- 왜 여기서 escalation이 필요한지
- 다음 사람이 바로 판단할 수 있도록 필요한 핵심 맥락
즉 좋은 handoff summary는 장황한 transcript가 아니라, 의미를 보존한 채 압축된 신뢰 문맥이어야 한다.
escalation은 왜 실패가 아닌가
많은 사람이 escalation을
에이전트가 못해서 넘기는 걸로 생각한다.
하지만 실전에서는 오히려 반대다.
무리하게 끝까지 가는 것보다, 적절한 지점에서 handoff하는 편이 전체 시스템의 신뢰성을 더 높인다.
즉 escalation은 무능의 표시가 아니라,
신뢰 경계를 지키는 판단
에 가깝다.
특히 금전, 보안, 정책, 법적 리스크가 있는 경우에는 잘 멈추는 능력이 잘 실행하는 능력만큼 중요하다.
partial uncertainty는 왜 같이 전달해야 하는가
handoff에서 자주 생기는 문제는 확실한 것만 남기고 애매한 부분을 지워버리는 것이다.
하지만 실제로는:
- 무엇이 확인됐고
- 무엇이 추정이며
- 무엇이 아직 확인되지 않았는지
를 같이 넘겨야 한다.
왜냐면 다음 판단자는 확실한 정보만이 아니라 남아 있는 불확실성의 위치도 알아야 하기 때문이다.
즉 좋은 handoff는 결론만 주는 게 아니라,
확실성과 불확실성의 경계까지 함께 전달하는 것
이다.
왜 이게 D5에서 중요한가
D5는 문맥을 오래 유지하는 법만이 아니라, 그 문맥을 언제 끊고 넘길 것인가도 다룬다.
아무리 좋은 압축, 좋은 source fidelity가 있어도, handoff boundary가 없으면 에이전트는 계속 문맥을 들고 더 멀리 가다가 신뢰를 잃을 수 있다.
즉 escalation은 문맥 관리의 반대가 아니라,
문맥 신뢰성을 지키기 위한 마지막 운영 장치
다.
흔한 오해
“에스컬레이션은 에이전트가 못할 때만 한다”
아니다. 계속 진행하는 리스크가 커질 때도 해야 한다.
“handoff는 transcript를 그대로 넘기면 된다”
그렇지 않다. 의미를 보존한 압축된 구조화 맥락이 더 중요하다.
“애매한 부분은 정리해서 넘기는 게 좋다”
오히려 불확실성을 지워버리면 다음 판단자가 잘못된 확신을 가질 수 있다.
한 문장 요약
좋은 escalation과 handoff는 실패 처리 방식이 아니라, 에이전트가 어디서 멈추고 어떤 신뢰 문맥과 함께 다음 판단자에게 넘겨야 하는지 정하는 운영 경계다.