Human in the Loop는 에이전트가 모든 결정을 자동으로 내리지 않고, 중요한 순간에 사람의 판단을 끼워 넣는 방식입니다. 실제 운영에서는 이 구조가 품질과 안전을 가장 빠르게 끌어올립니다.
관련해서는 LangGraph, OpenAI Agents SDK, CrewAI, Deep Agents를 함께 보면 좋습니다.
개요 #
사람이 개입해야 하는 지점은 보통 세 가지입니다.
- 되돌리기 어려운 작업
- 비용이 큰 작업
- 규칙 해석이 필요한 작업
모든 단계에 사람을 넣으면 느려지고, 아무 데도 넣지 않으면 위험해집니다. 핵심은 필요한 순간만 정확히 개입시키는 것입니다.
왜 중요한가 #
에이전트는 빠르지만, 책임을 지지는 못합니다. 그래서 승인, 검토, 예외 처리, 최종 확정은 사람에게 남겨 두는 편이 현실적입니다.
특히 문서 생성, 배포, 외부 API 호출, 결제, 삭제처럼 영향이 큰 작업은 HITL 설계가 거의 필수입니다.
설계 방식 #
HITL 지점은 감정적으로 정하지 말고 기준으로 정합니다.
| 기준 | 사람 개입이 적합한 경우 |
|---|---|
| 금전 영향 | 결제, 환불, 비용 큰 호출 |
| 되돌림 난이도 | 삭제, 배포, 외부 전송 |
| 규칙 모호성 | 정책 해석, 예외 판단 |
| 신뢰도 낮음 | 모델이 불확실할 때 |
사람이 보는 화면에는 에이전트의 요약만 보여 주고, 판단에 필요한 근거와 선택지만 남기는 편이 좋습니다.
운영 팁 #
- 승인 기준을 미리 문서화합니다
- 거절 사유를 시스템에 다시 저장합니다
- 사람이 자주 개입하는 지점은 자동화 후보로 다시 봅니다
- 승인 대기 상태의 타임아웃을 정합니다
- 검토 결과를 다음 실행에 학습 데이터로 활용합니다
체크리스트 #
- 어떤 작업이 사람 승인 대상인지 정해져 있는가
- 검토 화면에 근거와 선택지가 충분한가
- 승인 이후 재실행 경로가 있는가
- 거절 사유를 추적할 수 있는가
- 타임아웃과 알림 규칙이 있는가
결론 #
Human in the Loop은 자동화를 늦추는 장치가 아니라, 자동화를 운영 가능하게 만드는 장치입니다. 위험이 큰 순간만 사람에게 넘기면 속도와 안전을 동시에 가져갈 수 있습니다.
