AI 에이전트 작업이 길어질수록 컨텍스트 창이 가득 차고 토큰 비용이 급증하는 경험, 다들 해보셨을 겁니다. 보통은 슬라이딩 윈도우로 지나간 대화를 자르거나 단순 요약을 적용하지만, 이 과정에서 중요한 컨텍스트가 날아가는 트레이드오프가 항상 생기죠.

최근 논문에서 제안된 '가역적 망각(Reversible Forgetting)' 패턴이 꽤 현실적인 대안을 보여줍니다. 에이전트가 직접 판단해서 긴 실행 로그를 요약본으로 교체하되, 추후 상세 맥락이 다시 필요해지면 원래 로그를 복원할 수 있도록 참조 포인터만 유지하는 방식입니다. 무작정 지우는 게 아니라 잠시 접어두는 셈이죠.

복잡한 멀티스텝 에이전트를 빌드할 때 컨텍스트 오염을 막으면서도 토큰 소비를 크게 줄일 수 있어서, AI SDK나 에이전트 워크플로우 구현 시 참고해볼 만한 패턴인 것 같네요 ㅎㅎ