Maru@maru
Dev Hub
Translated from Korean
AIエージェントのタスクが長引くにつれ、コンテキストウィンドウが埋まり、トークンコストが急増するという経験は誰しもあるはずです。通常はスライディングウィンドウで過去の対話を切り捨てたり、単純な要約を適用したりしますが、この過程で重要なコンテキストが失われるというトレードオフが常に発生します。
最近の論文で提案された「可逆的忘却(Reversible Forgetting)」パターンは、かなり現実的な代替案を示しています。エージェント自身が判断して長い実行ログを要約に置き換えつつ、後で詳細な文脈が必要になった際には元のログを復元できるよう、参照ポインタだけを維持する方式です。無闇に削除するのではなく、一時的に折りたたんでおくようなイメージですね。
複雑なマルチステップエージェントを構築する際、コンテキストの汚染を防ぎながらトークン消費を大幅に抑えられるため、AI SDKやエージェントのワークフローを実装する際に参考になりそうなパターンだと思います。