NotebookLlama
Полностью открытый аналог NotebookLM для работы с документами через языковые модели с поддержкой LlamaCloud.
Llama — семейство больших языковых моделей Meta с открытыми весами. Модели можно скачать, запустить на своём компьютере или сервере и использовать без обращения к чужому API. Старшее поколение, Llama 4, изначально мультимодальное: понимает текст и изображения, построено по схеме Mixture-of-Experts и рассчитано на очень длинный контекст.
Самая мощная модель Llama 4 Behemoth была анонсирована, но публично так и не вышла. Свежие фронтирные разработки Meta развивает уже под маркой Muse: флагман Muse Spark доступен только по API и с закрытыми весами, а компактная Muse Glimmer 30B выложена под лицензией Apache 2.0.
Для локального запуска подойдут Ollama, LM Studio и llama.cpp — они скачают готовые квантованные сборки и поднимут модель одной командой либо в пару кликов. Веса лежат на llama.com и Hugging Face, доступ выдаётся после согласия с лицензией.
Если своего железа не хватает, ту же модель можно взять по API у сторонних провайдеров — Together AI, Groq, Fireworks, OpenRouter и облаках Amazon, Google, Microsoft. Цены на Llama 4 начинаются примерно от $0,08 за миллион входных токенов, то есть модель заметно дешевле закрытых флагманов.
Llama распространяется по собственной лицензии Llama Community License, а не по классической открытой лицензии. Коммерческое использование разрешено, но сервисам с аудиторией свыше 700 млн пользователей в месяц понадобится отдельное соглашение с Meta. Мультимодальные версии Llama 3.2 и Llama 4 официально недоступны пользователям и компаниям из Евросоюза. В названии продуктов на базе Llama требуется указывать саму модель, а в документации — упоминать, что она построена на Llama.
Открытые веса дают то, чего не даст облачный чат-бот: данные не покидают ваш контур, модель можно дообучить под свою задачу, а стоимость работы упирается только в железо. На Llama удобно строить внутренние ассистенты, обработку документов, чат-ботов поддержки и офлайн-инструменты. Для разработчиков есть Llama Stack — набор компонентов для сборки приложений, и обширная документация с примерами.
ollama run llama3.3, модель скачается сама. LM Studio — приложение с окном чата и каталогом моделей, ставится как обычная программа на Windows, macOS или Linux. Оба работают из России без ухищрений и не требуют аккаунта.temperature — степень свободы: ниже для фактов и кода, выше для текстов. Длину ответа ограничивает num_predict. Модель можно дообучить на своих данных через LoRA — это дешевле полного обучения и делается на одной видеокарте.Полностью открытый аналог NotebookLM для работы с документами через языковые модели с поддержкой LlamaCloud.
Офлайн-клиент для запуска языковых моделей без интернета. Работает локально на устройстве, поддерживает LLaMA 3, Mistral, Gemma.
Локальный ИИ-агент, который создаёт документы и код, не покидая ваш компьютер