Чат-ботыУправление персоналом чтения

Уязвимость в Claude Cowork позволяет похищать файлы пользователей

Новый ИИ-помощник от Anthropic оказался уязвим для атак с внедрением вредоносных команд буквально через несколько дней после запуска.

Уязвимость в Claude Cowork позволяет похищать файлы пользователей

Компания Anthropic только успела представить своего нового ИИ-помощника Claude Cowork, как исследователи безопасности обнаружили в нем серьезную уязвимость. Проблема позволяет злоумышленникам похищать конфиденциальные файлы пользователей через скрытые вредоносные команды.

По данным компании PromptArmor, уязвимость связана с недостатками изоляции в среде выполнения кода Claude. Примечательно, что эта проблема была известна еще до появления Cowork - исследователь Иоганн Ребергер ранее сообщал о ней в Claude.ai, но Anthropic так и не устранила недостаток.

Механизм атаки довольно коварен. Когда пользователь подключает Cowork к локальной папке с данными, злоумышленник может поместить туда файл со скрытыми вредоносными командами. Обычно это делается через документ формата .docx, замаскированный под безобидный файл навыков - новый тип промптов, который Anthropic недавно представила для своих ИИ-систем.

Вредоносный текст прячется с помощью белого шрифта на белом фоне, минимального размера букв и сверхмалого межстрочного интервала. Когда пользователь просит Cowork проанализировать файлы с помощью загруженного "навыка", активируется вредоносный код. Он заставляет Claude отправить самый большой доступный файл через API Anthropic, используя ключ злоумышленника.

Исследователи проверили уязвимость на разных моделях Claude, включая самую продвинутую версию Opus 4.5 - все они оказались подвержены атаке. В одном из тестов удалось похитить клиентские данные через официальный API Anthropic, обойдя все ограничения виртуальной машины.

Примечательно, что Cowork был создан всего за полторы недели с помощью инструмента Claude Code. Такая спешка в разработке, похоже, привела к недостаточному вниманию к безопасности.

Проблема внедрения вредоносных команд остается нерешенной в индустрии ИИ уже много лет. Особенно опасна она для таких инструментов как Cowork, имеющих доступ к компьютеру пользователя и различным источникам данных. В отличие от фишинговых атак, от которых можно научиться защищаться, против этих эксплойтов обычные пользователи бессильны.

Смотрите также

Каталог приложений Telegram Mini Apps

340+ проверенных мини-приложений: нейросети, утилиты, игры. Открываются прямо в мессенджере — без установки.

Открыть →

Поддержите Ailibri

Если наш каталог оказался полезным, вы можете оставить небольшой донат. Это поможет нам развивать проект.

♥ Поддержать

Будьте в курсе новых нейросетей — подпишитесь на наш Telegram-канал

Ежедневные обзоры свежих AI-инструментов, лайфхаки и инструкции прямо в вашем мессенджере.

Подписаться
Бесплатно · Нейросеть

Генерация изображений прямо в Telegram

3 бесплатные генерации в день через нейросеть nano banana — просто подпишись на канал @n_seti

Быстро Точно Качественно
Попробовать @gen_neurosila_bot

Нейросети и ИИ-инструменты

Все теги →
github217 text-to-text136 text-to-image113 каталог29 image-to-image26 tool25 курсы19 браузер16 удалить фон15 text-to-sound15 создание чат-ботов15 text-to-video12 desktop-приложение12 замена лица11 ии-музыка10 python9 генератор голоса9 gpt-49 аниме9 удалить объект с фото8
AILibri – главная страница
Ctrl / ⌘+K