AgentBench: решение для оценки агентных ИИ-систем
Solo.io представила открытый фреймворк AgentBench для тестирования надежности ИИ-агентов перед внедрением в производственную среду
В мире, где агентные ИИ-системы растут как грибы после дождя, появилась серьезная проблема: как оценить их эффективность и надежность? Компания Solo.io, известная своей облачной платформой Gloo, представила решение - открытый проект AgentBench.
Оценка как ключевая проблема агентного ИИ
"Оценка - это самая большая нерешенная проблема в инфраструктуре агентного ИИ сегодня", - заявила Идит Левин, основатель и CEO Solo.io. "У организаций есть фреймворки для создания агентов, шлюзы для их подключения и реестры для управления, но нет последовательного способа понять, достаточно ли надежен агент для использования в производственной среде".
Анонс проекта состоялся на конференции KubeCon Europe в Амстердаме. По словам Левин, автономные ИИ-системы создают новые вызовы для облачных операций: "Предприятия экспериментируют с ИИ-копилотами и инфраструктурными агентами, но им не хватает понимания того, как эти системы ведут себя при выполнении открытых задач".
AgentBench предоставляет фреймворк для тестирования эффективности ИИ-агентов в реальных рабочих процессах, таких как автоматизация инфраструктуры, оркестрация API и управление сервисами. Цель - дать командам стандартизированный способ измерения надежности, задержки и успешности автономных агентов перед их внедрением.
Фреймворк интегрируется с платформой Gloo и Envoy Proxy, что позволяет моделировать многоэтапные задачи: настройку микросервисов, обновление политик маршрутизации или устранение неполадок в кластерах Kubernetes в контролируемых условиях. Каждый запуск генерирует воспроизводимые логи, метрики и данные о результатах.

Solo.io утверждает, что "AgentBench - первый бенчмарк, разработанный для оценки LLM-as-Agent в различных средах", используя для этого OpenTelemetry. "Независимо от того, используете ли вы коммерческие API или открытые LLM вроде Llama 3, вам нужны прозрачные метрики для принятия решений", - отмечает Левин.
Помимо AgentBench, компания передала в дар Cloud Native Computing Foundation (CNCF) свой agentregistry - открытый реестр для ИИ-агентов, инструментов MCP и Agent Skills, который стандартизирует каталогизацию, обнаружение и управление ИИ-возможностями в масштабах предприятия.
AgentBench доступен на GitHub под лицензией Apache 2.0. Solo.io планирует сотрудничать с другими облачными вендорами и исследовательскими группами в области ИИ для расширения библиотеки тестов и интеграции с распространенными инструментами оценки машинного обучения.
В эпоху стремительного перехода к агентным вычислениям оба проекта, вероятно, найдут множество поклонников среди разработчиков и инженеров.
Смотрите также
-
Инструменты разработчика·Claude + Obsidian: как собрать второй мозг на своих заметках
-
Инструменты разработчика·MCP в Claude Code: как подключить серверы и зачем нужны агенты
-
Новости·Водяной знак Claude в тексте: что он на самом деле доказывает
-
Инструменты разработчика·Что такое MCP (Model Context Protocol): открытый протокол для подключения ИИ к внешнему миру
-
Инструменты разработчика·Claude Skills: что это, как работают и как создать свой навык
-
Инструменты разработчика·Optima: собственный бенчмарк для моделей на своих же данных
-
Помощники в кодинге·Superpowers для Claude Code: фреймворк скиллов, который заставляет ИИ думать до кода
-
Инструменты разработчика·Claude Code vs Cursor vs Codex: сравнение и что выбрать в 2026
-
Инструменты разработчика·YOLO-режим в Codex: как отключить подтверждения и не потерять при этом проект