Risk-Based Automation은 모든 작업을 같은 방식으로 처리하지 않고, 위험도에 따라 자동화 수준을 조절하는 방식입니다. 간단한 조회는 자동 실행하고, 복구 비용이 큰 작업은 승인과 검증을 붙이는 것이 핵심입니다.
이 글은 Enterprise AI Governance, AI Access Control, Human in the Loop, Agent Retry Strategy와 함께 보면 좋습니다.
개요 #
위험 기반 자동화는 규칙을 많이 만드는 일이 아니라, 자동화의 경계선을 명확히 그리는 일입니다. 같은 에이전트라도 읽기, 쓰기, 삭제, 외부 전송은 모두 다른 수준의 통제가 필요합니다.
왜 중요한가 #
- 저위험 작업은 빠르게 자동화할 수 있습니다.
- 고위험 작업은 사람 승인과 검증을 추가할 수 있습니다.
- 운영자는 사고가 날 가능성이 높은 경로만 집중 관리하면 됩니다.
- 정책과 로그가 있으면 나중에 원인 분석이 쉬워집니다.
승인 설계 #
위험도 분기는 보통 다음 기준으로 나눕니다.
- 데이터 민감도
- 되돌리기 가능 여부
- 외부 시스템 영향 범위
- 비용 또는 결제 연동 여부
- 사용자에게 즉시 보이는 결과인지 여부
위 기준을 바탕으로 자동 실행, 조건부 승인, 사람 승인으로 나누면 운영이 안정됩니다.
아키텍처 도식 #
이 구조는 정책 엔진, 승인 게이트, 실행 큐, 감사 저장소로 나누는 편이 좋습니다.
- 정책 엔진은 위험도를 계산합니다.
- 승인 게이트는 사람이 확인해야 할 작업만 보냅니다.
- 실행 큐는 승인 완료 작업만 처리합니다.
- 감사 저장소는 누가 언제 왜 승인했는지 기록합니다.
체크리스트 #
- 작업별 위험도 기준이 문서화되어 있는가.
- 고위험 작업은 승인 없이는 실행되지 않는가.
- 승인 후 실행까지 동일한 작업 컨텍스트가 유지되는가.
- 로그와 추적 ID가 남는가.
- 정책 변경 이력이 관리되는가.
결론 #
위험 기반 자동화는 AI를 제한하는 접근이 아니라, 안전하게 더 많이 쓰기 위한 접근입니다. 승인과 자동화를 분리하면 속도와 통제를 함께 얻을 수 있습니다.