Бесплатно
Ollama
Локальная платформа для запуска языковых моделей на компьютере без отправки данных в облако. Поддерживает популярные модели вроде Llama, Mistral и Gemma.
19.09.2026
MTPLX — приложение для Mac, которое позволит запускать языковые модели локально и, по заявлению разработчиков, вдвое быстрее обычного. Скачивается одним файлом и совместимо с API OpenAI и Anthropic, так что подключить его можно к тем инструментам, которыми вы уже пользуетесь. Пригодится тем, кто хочет держать модели у себя на машине — без облака и отправки данных наружу.
За ускорение отвечает режим MTP, детали его работы разработчики раскрывают отдельно. Главное обещание — качество не падает: вывод остаётся идентичным на любой температуре, вплоть до побитового совпадения.
Внутри — три основных сценария работы:
- Запуск в один клик — MTPLX поднимет локальный сервер для OpenCode, Pi, Hermes или встроенного веб-интерфейса. Благодаря совместимости с OpenAI и Anthropic API большинство клиентов подключатся без правок.
- Встроенный чат — написан на нативном Swift, работает полностью офлайн. Здесь можно смотреть, как модель пишет код или текст, не выходя из приложения.
- Forge — конвертер моделей. Вставляете ссылку на Hugging Face, Forge переведёт модель в формат MLX и замерит реальный прирост скорости на вашем Mac.
Распространяется как DMG-образ на 54 МБ, всё необходимое уже внутри — отдельно докручивать зависимости не нужно. Доступны и предыдущие релизы, если нужна конкретная версия.
Блог