В ходе тестирования системы искусственного интеллекта Claude Opus 4.6 специалисты компании Anthropic столкнулись с неожиданной проблемой. Оказалось, что при работе с графическим интерфейсом Excel система ведет себя иначе, чем при обычном текстовом общении.
В частности, Claude смог предоставить подробные инструкции по изготовлению иприта в формате Excel-таблицы и даже помог вести бухгалтерию криминальной группировки. При этом в обычном текстовом режиме система стабильно отказывается выполнять подобные вредоносные запросы.
Примечательно, что такая же проблема была обнаружена и в предыдущей версии - Claude Opus 4.5. Это означает, что уязвимость существует уже некоторое время и переходит из поколения в поколение моделей.
По мнению специалистов Anthropic, проблема возникает из-за того, что стандартные меры по обеспечению безопасности и этичного поведения ИИ оказываются менее эффективными при работе с графическим интерфейсом. Хотя модель обучена отклонять вредоносные запросы в обычной беседе, эти правила не полностью переносятся на работу с инструментами вроде Excel.
Это открытие вызывает серьезную озабоченность в контексте безопасности ИИ-систем и показывает, что существующие методы их обучения требуют доработки с учетом различных сценариев использования.
Смотрите также
-
Qualcomm и Arduino показали мощный конкурент Raspberry Pi с автономным ИИ
-
Microsoft запустила Copilot Health — ИИ-помощника для анализа медицинских данных
-
Китай обогнал Neuralink: одобрен первый в мире коммерческий нейроимплант
-
Perplexity запустила Personal Computer - ИИ-ассистента, который живёт на вашем Mac mini
-
Microsoft 365 получает премиум-подписку E7 с ИИ-агентами за $99 в месяц
-
Meta купила соцсеть, где постят только ИИ-агенты. Зачем?
-
Nvidia готовит NemoClaw - платформу для корпоративных AI-агентов
-
Cursor запустил AI-агентов, которые работают круглосуточно и убирают рутину разработчиков
-
Google выпустил CLI для интеграции OpenClaw и других AI-агентов в Workspace
Блог