gpt-oss

gpt-oss — это две открытые языковые модели от OpenAI, которые можно скачать и запустить у себя, без обращения к чужому API. В линейке два варианта: gpt-oss-120b для серьёзных задач с высоким уровнем рассуждений и gpt-oss-20b для более лёгких сценариев и локального запуска. Модели подойдут разработчикам, которые хотят держать инференс под своим контролем, дообучать веса под задачу или строить агентов с вызовом функций и инструментов.

Обе модели распространяются по лицензии Apache 2.0 — без копилефт-ограничений и патентных рисков, так что их можно смело встраивать в коммерческие продукты. gpt-oss-120b содержит 117 млрд параметров, из которых активны 5,1 млрд, и помещается на одну GPU с 80 ГБ памяти вроде NVIDIA H100 или AMD MI300X. gpt-oss-20b — младшая модель на 21 млрд параметров с 3,6 млрд активных, ей достаточно 16 ГБ памяти. Такая компактность стала возможна благодаря MXFP4-квантизации весов MoE-слоёв, применённой уже на этапе постобучения.

Из возможностей — настраиваемая глубина рассуждений (low, medium, high), которую можно подстроить под баланс скорости и качества ответа. Модели дают полный доступ к цепочке рассуждений (chain-of-thought), что упрощает отладку и разбор логики ответа, хотя эта информация не предназначена для показа конечным пользователям. Есть встроенная поддержка агентных сценариев: вызов функций, работа с браузером, выполнение Python-кода и структурированный вывод. Модели полностью дообучаемы под конкретную задачу через fine-tuning.

Важный нюанс: обе модели обучены на формате harmony response format и корректно работают только с ним — без этого формата ответы будут ломаться. Запустить gpt-oss можно через Transformers, vLLM, Ollama или LM Studio, а для энтузиастов в репозитории лежат референсные реализации на PyTorch, Triton и Metal (последняя — для Apple Silicon). PyTorch-версия не оптимизирована и требует минимум четырёх GPU H100, так что для продакшена лучше смотреть в сторону Triton или vLLM.

Веса моделей доступны для скачивания на Hugging Face — платить нужно только за железо или облачные вычисления, на которых будете их запускать.