pxpipe

Токены — это деньги. И когда модель обрабатывает гигантские системные промпты, документацию к инструментам и историю переписки, счет растет быстрее, чем хотелось бы. pxpipe решает это нестандартно: вместо того чтобы резать контекст, он превращает его в картинки.

Логика простая, но неочевидная. Стоимость изображения для модели определяется его размером в пикселях, а не тем, сколько текста внутри. Плотный контент — код, JSON, вывод инструментов — упаковывается примерно в 3,1 символа на токен изображения против 1 символа на текстовый токен. pxpipe работает как локальный прокси: перехватывает запросы, рендерит объемные части в компактные PNG и отправляет их дальше. Ответы модели при этом остаются нетронутыми — сжимается только входящий запрос. Важно: рендеринг включается только там, где математика в плюсе — на разреженном контенте, где плотность выше ~3,5 символа на токен, выигрыша не будет.

Запустить можно за 30 секунд: npx pxpipe-proxy, затем направить клиент на локальный прокси: ANTHROPIC_BASE_URL=http://127.0.0.1:47821 claude. Дальше работает дашборд на http://127.0.0.1:47821/ — там видно, сколько токенов сэкономлено, каждая конвертация текст→изображение рядом с оригиналом, переключатели моделей и kill switch.

По замерам на реальном трафике экономия составляет 59–70% от итогового счета. Это не маркетинговая цифра с выгодной выборкой — в знаменателе все запросы: и маленькие, которые прокси правильно оставил текстом, и кешированные, и выходные токены. Сравнение честное: для каждого запроса параллельно делается бесплатный count_tokens на оригинальное тело, и оба результата пишутся в одну строку ~/.pxpipe/events.jsonl.

Но важно понимать: это lossy-сжатие, и авторы об этом говорят прямо. Точные hex-строки в плотном рендере Fable 5 читает на 13/15, Opus 4.8 — на 0/15. Байт-точные значения в последних сообщениях остаются текстом, но специального guard-а для всего контента пока нет. Для работы, где нужна точность до символа, есть escape hatch — субагенты на неразрешенных моделях проходят через прокси как чистый текст.

Для тех, кто хочет встроить логику без прокси, есть библиотечный API: renderTextToPngs и transformAnthropicMessages — чистый JS, работает в Node и на edge/Workers.