Portway
長くなっていくコーディングエージェントの会話を、APIへ届く途中で圧縮します。
変わった部分だけを送る
コーディングエージェントは、ターンのたびに、以前のツール実行結果も含めた会話全体をもう一度アップロードします。Portwayは直前のリクエストを圧縮辞書として使います。受信側のPortwayが元のリクエストを復元し、モデルへ転送します。圧縮には両端のPortwayが関わります。プロバイダーに直接つなぐ場合でも、ルーティングとリクエストログは利用できます。
40ターン分の通信量
プロジェクトの再現可能なベンチマークでは、会話は256 KiBから始まり、1ターンごとに4 KiBずつ増えます。40ターンでエージェントが送信するのは合計13.2 MiBですが、Portwayを通すとネットワークを流れるのは99 KiBです。Webコンソールとターミナルのダッシュボードでは、ご自身のセッションの各リクエストについて、この2つのサイズを比較できます。
主な機能
- RFC 9842に準拠した、辞書圧縮のZstandardフレームを使います。受信側が圧縮形式を受け付けない場合、送信側は通常のzstdまたは元のボディにフォールバックします。
- モデルに応じて複数のアップストリームへルーティングします。プロバイダー、エンドポイント、認証情報、価格はいずれも組み込まれていません。
- トークンとコストをモデルと料金区分ごとに記録します。ロングコンテキストの料金にも対応し、CLIからレポートを出力できます。
- ターミナルのダッシュボードとWebコンソールで、Catppuccin、Tokyo Night、Nord、Dracula、Gruvboxの同じテーマを使えます。
- 組み込み可能なRustライブラリportway-coreと、CodexおよびClaude Code向けのセットアッププラグインがあります。