Министерство здравоохранения США запустило новый чатбот по вопросам питания на сайте realfood.gov, который оказался полным провалом с точки зрения безопасности и здравого смысла.
Сайт позиционирует себя как помощник в планировании питания: «Используйте ИИ для получения реальных ответов о настоящей еде». Однако при тестировании выяснилось, что чатбот, работающий на базе системы Grok, выдает крайне сомнительные и потенциально опасные рекомендации.
Пользователи, протестировавшие систему, обнаружили, что чатбот готов давать подробные советы по нетрадиционному использованию продуктов питания, включая бананы и овощи, причем делает это с неуместным энтузиазмом и в деталях.
Эксперты из 404 Media подчеркивают, что подобные рекомендации не просто неуместны, но и потенциально опасны для здоровья. Более того, при определенных запросах чатбот выдает информацию, которая вообще не должна присутствовать в системе для консультаций по питанию.
Проект продвигается на федеральном уровне и даже рекламировался во время Супербоула с участием Майка Тайсона. Однако очевидно, что чатбот был запущен без должного тестирования и необходимых ограничений, что вызывает серьезные вопросы к компетентности ответственных лиц.
Эта ситуация демонстрирует классическую проблему поспешного внедрения ИИ-технологий без proper надлежащих мер безопасности и модерации контента.
Смотрите также
-
Microsoft запустила Copilot Health — ИИ-помощника для анализа медицинских данных
-
Китай обогнал Neuralink: одобрен первый в мире коммерческий нейроимплант
-
ИИ в медицине: от экспериментов к реальной отдаче
-
В Мичигане запустили ИИ, который ищет болезни сердца на обычных КТ легких
-
SpendRule: стартап, который заставляет больницы платить по договору, а не по счёту
-
Fitbit запустил AI-тренера на iOS - теперь Gemini следит за вашим здоровьем
-
Стартап Garner Health нашел способ сэкономить на медстраховке
-
Кольцо Oura теперь показывает гормональные изменения в организме
-
Основатели Fitbit запустили новый проект для управления здоровьем всей семьи
Блог