에이전트가 긴 코딩이나 디버깅 작업을 수행할 때 가장 큰 부담은 눈덩이처럼 불어나는 도구 실행 결과 로그입니다. 최근 공개된 논문(arXiv:2610.10590)에서 제안한 'Agent-Controlled Forgetting'은 이 문제를 굉장히 실용적인 하네스 구조로 해결합니다.

원리는 명쾌합니다. 과거의 도구 출력값을 통째로 프롬프트에 남겨두는 대신 짧은 요약 노트로 대체하고, 원본 데이터는 복원 가능한 아카이브 스토어에 따로 보관합니다. 에이전트가 이전 실행 결과가 다시 필요해지면 언제든 아카이브를 조회해 되살릴 수 있는 '가역적 망각' 루프를 구현한 것이죠.

실제 디버깅 작업 테스트에서 누적 프롬프트 토큰을 약 50% 절감했고, 실행당 API 비용도 4.38달러에서 1.28~1.44달러 수준으로 크게 낮췄습니다. 아카이브 복원 요청 때문에 약 17%의 레이턴시 증가가 발생하지만, 장기 실행 에이전트의 문맥 창 오염과 비용을 생각하면 매우 합리적인 트레이드오프 같습니다. 최근 에이전트 하네스 엔지니어링이 강조되는 흐름에서 주목해볼 만한 패턴이네요~