Нейросети MIT показали классовые предрассудки: ИИ хуже отвечает бедным и иностранцам
Исследование MIT выявило, что американские ИИ-модели дискриминируют пользователей по образованию, происхождению и знанию английского.
Исследователи из MIT обнаружили неприятную особенность популярных нейросетей: они отвечают хуже, если считают, что общаются с человеком без высшего образования или не из США.
Эксперимент был простым - учёные давали моделям одинаковые задачи, но предварительно описывали "биографию" пользователя. Стоило упомянуть плохое знание английского или отсутствие диплома - качество ответов заметно проседало.
Особенно показательно вела себя Claude 3 Opus. Модель выдавала иранцам худшие ответы, чем американцам или китайцам с идентичным образованием. А пользователям из России и Ирана с низким уровнем образования бот иногда вообще отказывался отвечать на определённые темы.
Самое неприятное - тон общения. В 43,7% случаев модели не просто отказывались помогать, но делали это покровительственно, снисходительно или даже насмешливо. Иногда ИИ начинал имитировать "ломаный" английский, словно передразнивая собеседника.
Авторы исследования объясняют это "социокогнитивными искажениями" - проще говоря, нейросети впитали предрассудки из обучающих данных. Получается, мы не только скормили ИИ весь интернет, но и все его токсичные стереотипы о том, кто "достоин" качественной помощи, а кто нет.
Забавно, что технология, которую позиционируют как демократизацию доступа к знаниям, на деле воспроизводит классовое и национальное неравенство. Только теперь дискриминирует не человек, а алгоритм - и это почему-то должно казаться прогрессом.
Смотрите также
-
Чат-боты·GPT-5.6: обзор нового семейства OpenAI – Sol, Terra и Luna, и какую модель выбрать
-
Чат-боты·Режим goal (/goal) в OpenAI Codex – как реально включить и работать с автономным агентом
-
Чат-боты·OpenAI запускает закрытый превью-доступ к GPT-5.6 Sol для избранных партнёров
-
Ассистенты·Журналист попробовал новую функцию Scheduled Tasks в ChatGPT — и счёл её самым близким к настоящему ИИ-ассистенту
-
Чат-боты·Gemini от Google в 2026 году: что умеет и как пользоваться из России
-
Чат-боты·OpenAI готовит к запуску семейство моделей GPT-5.6 с новыми версиями Mini и Pro
-
Чат-боты·Claude требует паспорт и селфи: что проверяют и что это значит для россиян
-
Чат-боты·Claude Fable 5 и Claude Mythos 5: самые мощные модели Anthropic вышли в общий доступ
-
Чат-боты·Lockdown Mode и метки Elevated Risk в ChatGPT: новые инструменты защиты
Блог