MTPLX

MTPLX — приложение для Mac, которое позволит запускать языковые модели локально и, по заявлению разработчиков, вдвое быстрее обычного. Скачивается одним файлом и совместимо с API OpenAI и Anthropic, так что подключить его можно к тем инструментам, которыми вы уже пользуетесь. Пригодится тем, кто хочет держать модели у себя на машине — без облака и отправки данных наружу.

За ускорение отвечает режим MTP, детали его работы разработчики раскрывают отдельно. Главное обещание — качество не падает: вывод остаётся идентичным на любой температуре, вплоть до побитового совпадения.

Внутри — три основных сценария работы:

• Запуск в один клик — MTPLX поднимет локальный сервер для OpenCode, Pi, Hermes или встроенного веб-интерфейса. Благодаря совместимости с OpenAI и Anthropic API большинство клиентов подключатся без правок.
• Встроенный чат — написан на нативном Swift, работает полностью офлайн. Здесь можно смотреть, как модель пишет код или текст, не выходя из приложения.
• Forge — конвертер моделей. Вставляете ссылку на Hugging Face, Forge переведёт модель в формат MLX и замерит реальный прирост скорости на вашем Mac.

Распространяется как DMG-образ на 54 МБ, всё необходимое уже внутри — отдельно докручивать зависимости не нужно. Доступны и предыдущие релизы, если нужна конкретная версия.