Portway

Komprimiert das wachsende Gespräch eines Coding-Agents auf dem Weg zur API.

portway.told.me Quellcode auf GitHub brew install rath/tap/portway
Die Webkonsole von Portway: 47 Anfragen, 204,6 MB eingesparter Upload, die verwendeten Upstreams und ein Diagramm der Anfragegröße pro Zug.
Die Webkonsole während einer Sitzung mit Claude Code und Codex: 96 Prozent des Uploads eingespart.

Nur senden, was sich geändert hat

Coding-Agents laden mit jedem Zug das gesamte Gespräch erneut hoch, einschließlich früherer Tool-Ergebnisse. Portway verwendet die vorige Anfrage als Kompressionswörterbuch. Ein Portway-Empfänger setzt die vollständige Anfrage wieder zusammen und leitet sie an das Modell weiter. An der Kompression sind beide Enden beteiligt. Auch bei einer direkten Verbindung zu einem Anbieter erhalten Sie Routing und Anfrageprotokolle.

Vierzig Züge auf der Leitung

Im reproduzierbaren Benchmark des Projekts beginnt ein Gespräch bei 256 KiB und wächst pro Zug um 4 KiB. Über vierzig Züge übermittelt der Agent 13,2 MiB, von denen mit Portway 99 KiB über das Netz gehen. In der Webkonsole und im Terminal-Dashboard können Sie diese beiden Größen für jede Anfrage Ihrer eigenen Sitzung vergleichen.

Funktionen

  • Wörterbuchkomprimierte Zstandard-Frames nach RFC 9842. Lehnt der Empfänger ein Kompressionsformat ab, kann der Sender auf einfaches zstd oder den ursprünglichen Body zurückfallen.
  • Routing nach Modell über mehrere Upstreams; kein Anbieter, Endpunkt, Zugangsschlüssel oder Preis ist fest eingebaut.
  • Aufzeichnung von Tokens und Kosten je Modell und Tarifstufe, einschließlich der Preise für lange Kontexte, mit Berichten über die Kommandozeile.
  • Ein Terminal-Dashboard und eine Webkonsole mit denselben Themes: Catppuccin, Tokyo Night, Nord, Dracula und Gruvbox.
  • Eine einbettbare Rust-Bibliothek, portway-core, und ein Einrichtungs-Plugin für Codex und Claude Code.

Screenshots

Das Terminal-Dashboard von Portway: Züge von 10,9 MB, die als jeweils wenige Kilobyte gesendet werden, daneben die Upstreams und ein Diagramm des Socket-Durchsatzes.
Das Terminal-Dashboard mit derselben Sitzung.