Sagify - инструмент для упрощения работы с машинным обучением и языковыми моделями в облаке. Этот инструмент позволяет разработчикам быстро развертывать как собственные модели машинного обучения, так и готовые языковые модели (LLM) в AWS SageMaker.
Возможности для работы с LLM
Sagify позволяет развертывать языковые модели без написания кода. Поддерживаются различные провайдеры: OpenAI, Anthropic и открытые LLM. Инструмент создает REST API для взаимодействия с моделями, что упрощает их интеграцию в приложения.
Процесс настройки языковых моделей включает несколько простых шагов: установка Sagify, настройка выбранного провайдера LLM и развертывание FastAPI-шлюза. Доступны функции пакетного вывода и работы с эмбеддингами.
Собственные модели машинного обучения
Для разработчиков, создающих собственные модели, Sagify предлагает полный цикл работы:
- Инициализация проекта и интеграция Sagify
- Сборка Docker-образа
- Обучение модели локально или в облаке
- Развертывание модели для получения предсказаний
- Оптимизация гиперпараметров
Инструмент автоматизирует взаимодействие с AWS SageMaker: загрузку данных в S3, настройку обучения в облаке, мониторинг процесса и развертывание обученной модели с доступом через REST API.
Управление через командную строку
Sagify предоставляет набор команд для управления всем процессом: initialize для создания структуры проекта, build для сборки Docker-образа, команды local train/deploy для локального обучения и тестирования, cloud train для запуска обучения в облаке, cloud deploy для развертывания модели и cloud batch transform для пакетного применения модели к данным.
Команды имеют подробную документацию с описанием параметров и примерами использования, что упрощает освоение инструмента даже для разработчиков, недавно начавших работать с машинным обучением.
Блог