에이전트 복구 런북 실험 68차

에이전트 복구 런북 실험 68차 — 에이전트 컨텍스트 초과 처리

이번 실험의 핵심 주제는 메모리 오버플로우 복구 런북입니다. 실무 운영 현장에서 직접 마주친 시나리오를 기반으로 설계했으며, 각 단계의 결과와 교훈을 솔직하게 기록합니다.

장애 시나리오 개요

#

장애 유형: 컨텍스트 윈도우 초과 영향 범위: 장기 실행 에이전트 작업 실패 심각도: P2

장기 실행 에이전트가 대화 히스토리와 도구 결과를 누적하다 보면 컨텍스트 한도를 초과합니다. Claude Sonnet 기준 200K 토큰이지만, 실제로는 150K 이상에서 응답 품질이 저하되기 시작합니다.

조기 감지 방법

#

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

def check_context_health(messages, threshold=0.80):
    total_tokens = count_tokens(messages)
    max_tokens = 200_000
    usage_ratio = total_tokens / max_tokens
    
    if usage_ratio > threshold:
        logger.warning(
            f'Context at {usage_ratio:.1%} capacity. '
            f'Consider compression. Tokens: {total_tokens}'
        )
    return usage_ratio

컨텍스트 압축 전략

#

컨텍스트가 80% 이상 찰 때 자동으로 적용하는 압축 전략:

1. 오래된 도구 결과 요약: 전체 JSON 대신 핵심 결과만 유지
2. 중간 추론 단계 축약: 완료된 하위 작업의 상세 로그 제거
3. 시스템 프롬프트 최적화: 반복 가이드라인 한 번만 포함

1
2
3
4

def compress_context(messages, target_ratio=0.60):
    # 가장 오래된 도구 호출/결과 쌍부터 요약
    compressed = summarize_old_tool_calls(messages)
    return compressed

복구 체크리스트

#

• 현재 컨텍스트 토큰 사용량 확인
• 압축 전략 적용 가능 여부 판단
• 작업 체크포인트 저장 여부 확인
• 신규 세션으로 작업 재개 필요 시 상태 이전

재발 방지

#

에이전트 설계 단계에서 컨텍스트 체크포인트를 주기적으로 저장하면 오버플로우 발생 시 전체를 재시작하지 않아도 됩니다. 매 10회 도구 호출마다 상태 스냅샷을 저장하는 패턴을 권장합니다.

마치며

#

이번 68차 실험에서 얻은 가장 큰 교훈은 에이전트 컨텍스트 초과 처리의 중요성입니다. 다음 실험에서는 이번 결과를 바탕으로 한 단계 더 발전된 접근법을 적용할 예정입니다. 실험 결과나 질문이 있으시면 댓글로 공유해 주세요.