CliffCompaction、エージェント向け圧縮パッケージを公開　原文の断片でコンテキストを削減

CliffCompactionは9月23日、バージョン0.1.0のパッケージをPyPIで公開した。長時間稼働するコーディングエージェントが、APIプロキシサービスを通じて会話を圧縮できるようにする。研究プレプリントは前日に投稿されており、今回のパッケージ公開によって、そのまま組み込める実装が提供された。MITライセンスを採用し、Python 3.11以上が必要となる。[パッケージ情報](https://pypi.org/project/cliffcompaction/0.1.0/)、[論文情報](https://arxiv.org/abs/2609.26779)

この手法は、コンテキストがしきい値を超えると、システムプロンプト、タスク、直近のターンを保持し、古い内容をルールに従って切り詰めるか削除する。書き換えのためにモデルを追加で呼び出すことはない。500文字を超えるツールの実行結果は破棄し、短い結果は原文のまま保持する。次回の圧縮時には、前回の圧縮内容も破棄する。このため、保持されるのは限られた範囲の原文の手がかりであり、完全な履歴が保存されるわけではない。[公開実装](https://github.com/nguyenvuthientrang/cliffcompaction)

論文では、Terminal-Bench 2.0でTerminus-2とKimi K2.6を使用し、圧縮のしきい値を16Kトークンに設定した。タスク成功率は、全コンテキストを使用した場合の59.16%から61.42%となり、主要なコスト表では1問あたりの費用が0.40米ドルから0.19米ドルに下がった。ただし、この表の費用は理想的なキャッシュモデルで再計算されており、サービス提供者からの実際の請求額とそのまま見なすことはできない。また、小幅なスコア差は、複数回の実行によるばらつきと併せて解釈する必要がある。[論文の結果とコスト算出方法](https://arxiv.org/html/2609.26779v1)

公開されたプロキシには、再現性に関わる設定の違いもある。パッケージのドキュメントでは、デフォルトでアシスタントのテキストと思考内容をすべて保持するとされているが、論文では思考内容を300文字までに切り詰めている。圧縮を開始するデフォルトのしきい値も、実験で用いた16Kではない。インストール後にデフォルト設定のまま使っても、上記の成績を再現したことにはならない。エンジニアは、バージョンと圧縮に関する全パラメーターを記録したうえで、成功率と費用を比較すべきだ。[パッケージの設定](https://pypi.org/project/cliffcompaction/0.1.0/)

組み込み時には、プロキシがメッセージのハッシュチェーンを作成し、元の履歴の先頭部分を識別して、短縮した内容に置き換える。プロジェクトでは、履歴の書き換えによって照合が崩れないよう、フレームワーク自体の圧縮機能を無効にすることを求めている。解析や保存に失敗した場合は、デフォルトで元のメッセージをそのまま通す。そのため、しきい値は厳密な上限ではない。測定時には別途厳格モードを有効にでき、まずシャドーモードで、どの内容が削除されるかを確認できる。[動作と失敗時の処理](https://github.com/nguyenvuthientrang/cliffcompaction)

著者はまた、圧縮後に増えるステップの多くがファイルの再読み込みであり、一部のタスクでは、そのためにステップ数の上限に達し、結果を提出できなかったと指摘している。[開発記録](https://nguyenvuthientrang.github.io/cliffcompaction/)

この設計は、長期記憶を維持する負担の一部をファイルやツールに委ねる。導入評価では、再読み込み回数、ステップ数の上限到達、キャッシュヒット率を追跡すべきだ。削除されたデータを再取得できなくなっている場合、ツール名を保持するだけでは内容を復元できない。次に必要なのは、実際のプロジェクトでバージョンを固定して再検証し、削減できるコンテキストのコストが、情報の再取得にかかる負担を補えるか確認することだ。