Grammarly закрыла функцию, которая выдавала себя за живых и мёртвых авторов → Блог → 3000+ AI нейросетей на одном сайте

Grammarly свернула свою функцию Expert Review после того, как выяснилось: сервис использовал имена реальных журналистов и авторов без их ведома. Теперь компанию ждёт коллективный иск за незаконное использование чужих личностей в коммерческих целях.

Функцию запустили в августе прошлого года вместе с семью другими AI-агентами. Она была доступна даже в бесплатной версии и обещала давать пользователям экспертную обратную связь по содержанию их текстов. На сайте Grammarly (страница уже удалена) говорилось, что Expert Review "опирается на мнения экспертов в предметных областях и проверенные публикации". Пользователи даже могли выбирать конкретных авторов, на чьё "мнение" должен ориентироваться ИИ.

Звучит неплохо, правда? Вот только эти самые эксперты понятия не имели, что их используют.

История всплыла на прошлой неделе после публикации в Wired. Оказалось, что функция генерирует правки от имени реальных писателей и учёных - как живых, так и умерших. В руководстве пользователя была оговорка, что упоминание экспертов "носит информационный характер и не означает их связи с Grammarly". Но на той же странице утверждалось, что Expert Review предлагает "мнения ведущих профессионалов, авторов и экспертов".

Многие из этих экспертов отреагировали предсказуемо негативно.

"Они составили список реальных людей, позволили своим моделям галлюцинировать правдоподобные советы от их имени и упаковали всё это в подписку", - написал Кейси Ньютон, основатель Platformer, чьё имя тоже использовалось. "Это осознанное решение монетизировать личности реальных людей без их участия. И это отвратительно".

"Это же какая-то клевета или что-то в этом роде", - возмутилась историк Мар Хикс в Bluesky. "Нельзя просто красть интеллектуальную собственность людей и притворяться, что они говорят то, чего никогда не говорили".

Как Grammarly отреагировала на скандал

Сначала компания предложила... возможность отписаться по email. Серьёзно. Людям, которых никто не предупреждал об использовании их имён, предложили самим писать письма, чтобы их убрали из системы. Причём узнать об этом они могли только если кто-то из пользователей Grammarly случайно увидел бы их имя и сообщил.

А ещё эта опция никак не решала проблему с мёртвыми авторами. Среди использованных личностей были астроном Карл Саган и теоретик феминизма белл хукс.

"То есть Grammarly оскверняет память белл хукс И делает AI-версии остальных из нас ещё до нашей смерти", - написала исследовательница Сара Джексон. "Кто-нибудь, скажите мне, кого судить, и я не шучу".

В среду CEO разработчика Grammarly (компании Superhuman) Шишир Мехротра объявил об отключении Expert Review. Правда, с оговоркой, что функцию планируют вернуть в каком-то виде.

"За прошедшую неделю мы получили обоснованную критику от экспертов, обеспокоенных искажением их голосов", - написал Мехротра в LinkedIn. Он извинился и пообещал "переосмыслить подход", чтобы дать экспертам "реальный контроль" над тем, как их представляют - или вообще не представляют.

"Само существование этой функции говорит о полном отрыве от нормального человеческого общества", - ответил климатический журналист Кетан Джоши. "Должно было быть сразу очевидно, что это эксплуататорски, жутко и жестоко".

"При всех разговорах о том, как ИИ 'строится на' (читай: 'ворует') существующем контенте, создание инструмента, который выдумывает 'советы' от реальных людей... это трудно осмыслить", - написал Дэн Зальцштейн из New York Times. "Последствия должны быть серьёзнее, чем 'мы пересмотрим'. Как минимум - обещание никогда больше так не делать".

Но обещаний не последовало. Зато последовал иск. Журналистка New York Times Джулия Ангвин подала коллективный иск против Superhuman в среду, обнаружив своё имя в Expert Review. Юридическая фирма, представляющая её интересы, призвала всех пострадавших авторов присоединиться.

Точное число использованных личностей неизвестно, но только среди технологических журналистов оказались сотрудники The Verge, Wired, Bloomberg, The New York Times, The Atlantic, PC Gamer, Gizmodo и других изданий. Ангвин утверждает, что "множество людей" уже интересовались участием в иске.

"Я делаю это не только ради себя, но и ради всех, кто годами и десятилетиями оттачивал навыки писателя и редактора, только чтобы обнаружить ИИ, выдающий себя за них", - написала Ангвин.

"Более 100 лет законы Нью-Йорка запрещают компаниям использовать имя человека в коммерческих целях без его согласия", - заявил адвокат Питер Ромер-Фридман. "Закон не делает исключений для технологических компаний или ИИ".

Иск требует компенсации ущерба и судебного запрета на использование личностей писателей без их согласия. Что ж, посмотрим, как из этого выкрутится очередной AI-стартап, решивший, что чужая репутация - это бесплатный ресурс для монетизации.