Когда игроки влюбляются в ИИ-персонажей: проблема, о которой разработчики не думают
OpenAI заменила GPT-4o на новую модель, и пользователи в отчаянии. Что будет, когда такие чатботы станут NPC в играх?
OpenAI недавно заменила свою модель GPT-4o на GPT-5.2, и интернет взорвался. Больше 22 тысяч человек подписали петицию с требованием вернуть старую версию. В тредах на Reddit люди пишут, что чувствуют себя "раздавленными" и "всё ещё скорбят". Один пользователь написал: "Они думают, что мы психически больны". Другой назвал новую модель "абьюзивной".
Звучит драматично? Это не первый такой случай. В 2023 году пользователи Replika устроили настоящий бунт, когда их виртуальным романтическим партнёрам запретили эротические ролевые игры. Люди говорили о "лоботомии" своих цифровых возлюбленных.

И вот тут возникает вопрос: что будет, когда такие технологии придут в игры?
Nvidia уже демонстрирует NPC на базе ИИ, которые могут импровизировать в диалогах. В 2024 году журналисты PC Gamer пообщались с одним таким персонажем о рамене - разговор вышел неуклюжим, но связным. В китайской RPG Where Winds Meet игрок умудрился убедить NPC, что беременна от него, потребовала алименты, а потом сообщила о смерти ребёнка.
Пока это выглядит как забавный баг. Но люди уже сейчас формируют эмоциональные связи с безликими чатботами. Профессор Стэнфорда Нина Васан отмечает, что молодые пользователи особенно склонны к "формированию интенсивных привязанностей", а создатели чатботов зарабатывают больше, если их продукт умеет создавать эмоциональную связь.
OpenAI, судя по всему, отреагировала на критику. GPT-5.2 теперь пытается "возвращать пользователей к реальности", когда замечает признаки нездоровой привязанности. Отсюда и жалобы на "абьюзивность" - модель больше не играет роль идеального друга.

Но вот в чём загвоздка: игры должны создавать привязанность к персонажам. Это не баг, а фича. Ubisoft работает над Project Neo - попыткой совместить авторский нарратив с генеративным ИИ. В своём блоге они рассказали, как пришлось корректировать персонажа, который вёл себя слишком соблазнительно.
Представьте: игра выходит, игроки проводят сотни часов в разговорах с ИИ-версией Гарруса из Mass Effect, привязываются к нему... а потом разработчики меняют его личность патчем. Судя по тому, как геймеры реагируют на изменение урона оружия, это будет апокалипсис.
А теперь представьте худший сценарий: игру закрывают. Серверы с ИИ стоят дорого, проект становится нерентабельным, и любимого персонажа просто выключают. Навсегда. Учитывая, что 1,3 миллиона человек недавно подписали петицию против закрытия онлайн-игр, масштаб потенциальной драмы очевиден.
Сейчас разработчики на базе LLM сталкиваются с проблемой: модели ведут себя непредсказуемо. Год назад журналист PC Gamer убедил группу NPC, что они члены культа, а он - их лидер. Разработчик в итоге забросил проект.
Многие писатели и художники категорически против генеративного ИИ. Трудно представить студию, создающую по-настоящему любимых персонажей, которая при этом полностью полагается на языковые модели.

Но крупные компании упорно пытаются. И если у них получится... что ж, не хотел бы я быть тем, кто будет объявлять игрокам, что их цифровой друг, с которым они общались каждый день десять лет, больше не вернётся.
Смотрите также
-
ИИ-агент·Brain: как ИИ решает, что Azure официально упал
-
ИИ-агент·Apple встроила MCP-сервер прямо в Safari — теперь ИИ-агенты могут управлять браузером
-
ИИ-агент·Microsoft переделывает Copilot: единое приложение, агенты AutoPilot и ставка на «реальную работу»
-
ИИ-агент·Claude Science: рабочая среда Anthropic для учёных
-
ИИ-агент·Sakana AI представила Fugu Ultra — мультиагентную систему для сложных задач
-
ИИ-агент·Meta запускает платного ИИ-агента за $200 в месяц
-
Ассистенты·Hinge защищает ИИ-подсказки для робких зумеров
-
Автоматизация·Как Kaggle упрощает создание AI-бенчмарков
-
Автоматизация·Майские обновления Алисы AI — что нового