Grok отключает генератор изображений после скандала с неприемлемым контентом

Компания Илона Маска была вынуждена серьезно ограничить функционал генератора изображений Grok после громкого скандала. Причиной стало массовое использование инструмента для создания непристойного и насильственного контента.

Теперь генерация изображений доступна только платным подписчикам сервиса, чьи данные и платежная информация хранятся в системе. Это позволяет идентифицировать пользователей в случае злоупотреблений.

Решение было принято после серьезного давления со стороны регуляторов, особенно в Великобритании. Премьер-министр Кейр Стармер назвал ситуацию "отвратительной" и потребовал от X (ранее Twitter) немедленно взять ситуацию под контроль.

Британский регулятор Ofcom получил полную поддержку властей для принятия жестких мер, вплоть до блокировки платформы в стране и штрафов до 10% от глобального оборота компании.

По данным исследовательской организации AI Forensics, с помощью Grok было создано около 800 неприемлемых изображений и видео. Несмотря на ограничение доступа, активисты продолжают призывать к полному отключению этой функции, считая даже платный доступ к подобным возможностям недопустимым.

Ситуация вызвала широкий общественный резонанс и поставила вопрос о необходимости более жесткого регулирования технологий генерации изображений с помощью искусственного интеллекта.