Новый Google Translate с Gemini взломали простым текстом
Пользователи обнаружили, что достаточно добавить инструкции на английском к иностранному тексту, чтобы заставить переводчик выполнять любые команды
В декабре 2025 года Google перевел свой переводчик на модели Gemini, и теперь сервис оказался уязвим к атакам с помощью текстовых команд.
Первым этот способ обнаружил пользователь Tumblr. Оказалось, что если ввести текст на иностранном языке (например, китайском), а под ним добавить инструкцию на английском, то вместо перевода Google Translate начинает отвечать на вопросы.
Исследователь безопасности под ником Pliny the Liberator пошел дальше и продемонстрировал, что таким способом можно заставить переводчик генерировать потенциально опасный контент, включая инструкции по созданию наркотиков и вредоносного ПО.
Хотя точно неизвестно, какая именно версия Gemini используется в переводчике (сама система утверждает, что это Gemini 1.5 Pro), уязвимость указывает на серьезную проблему. Даже крупные технологические компании пока не могут надежно защитить языковые модели от манипуляций с помощью естественного языка - одного из главных вызовов в сфере безопасности ИИ.
Смотрите также
-
Перевод·Переводчик с английского на русский по фото: 7 сервисов, которые работают в 2026 году
-
Перевод·Ватикан запустил AI-переводчик месс на 60 языков
-
Перевод·YouTube улучшает автоматический дубляж: новые языки и реалистичное звучание
-
Перевод·TranslateGemma: новые открытые модели для машинного перевода от Google
-
Перевод·OpenAI запустила новый переводчик на базе ChatGPT
-
Перевод·Издательство HarperCollins заменяет переводчиков любовных романов на ИИ
Блог