Чат-боты чтения

Lockdown Mode и метки Elevated Risk в ChatGPT: новые инструменты защиты

OpenAI выпустила обновление безопасности ChatGPT: Lockdown Mode блокирует подозрительные инструкции из внешних источников, а метки Elevated Risk предупреждают о потенциально опасных функциях.

Lockdown Mode и метки Elevated Risk в ChatGPT: новые инструменты защиты

Lockdown Mode теперь доступен для личных аккаунтов ChatGPT и самостоятельных аккаунтов ChatGPT Business - раньше только в корпоративных планах. Опция для тех, кому нужна более консервативная работа с чувствительными данными или подключёнными функциями.

Если объяснить просто: Lockdown Mode - это «режим строгой защиты» для ChatGPT. Когда он включён, чат-бот перестаёт выходить в интернет, открывать ссылки, запускать сложные инструменты и читать загруженные файлы - то есть отказывается от всего, через что злоумышленник мог бы подсунуть ему скрытую команду или выманить ваши данные. По сути ChatGPT остаётся «в закрытой комнате»: отвечает только на основе того, что уже знает, и не делает рискованных действий снаружи. Удобства становится меньше, зато безопасность - максимальная.

При включении режим ограничивает или полностью отключает функции, связывающие ChatGPT с интернетом и внешними сервисами: живой веб-доступ, поддержку изображений в ответах, Deep Research, Agent Mode, Canvas networking, живые коннекторы и загрузку файлов. Поверхность атаки для prompt injection сужается. Личные пользователи включают режим в разделе Настройки → Безопасность.

Почему это важно

ИИ-системы берут на себя всё более сложные задачи - особенно в вебе и подключённых приложениях. Характер угроз при этом меняется.

Одна из них приобрела особую остроту: prompt injection. Злоумышленник пытается обмануть ИИ-ассистента и заставить его выполнять вредоносные инструкции или раскрывать конфиденциальную информацию - например, через содержимое веб-страницы или подключённого документа.

Среди чат-ботов с агентными возможностями ChatGPT - один из наиболее активно используемых в корпоративной среде, поэтому OpenAI добавляет практические инструменты контроля именно здесь.

OpenAI представила два новых механизма защиты:

  • Lockdown Mode - расширенная опциональная настройка безопасности для пользователей с повышенным уровнем риска.
  • Метки Elevated Risk - маркировка определённых возможностей в ChatGPT, ChatGPT Atlas и Codex, которые могут создавать дополнительные риски.

Оба инструмента дополняют уже существующие меры: изолированные среды выполнения, защиту от утечки данных через URL, мониторинг, ролевой доступ и журналы аудита.

🔒 Lockdown Mode: для тех, кому нужен максимальный контроль

Lockdown Mode рассчитан на узкий круг пользователей с особыми требованиями к безопасности - руководителей высшего звена, команды безопасности, юридические отделы. Для большинства он избыточен.

Режим детерминированно отключает инструменты, которые злоумышленник теоретически может использовать для кражи данных из разговоров или подключённых приложений.

Настройки Lockdown Mode в интерфейсе ChatGPT

Веб-браузинг в этом режиме ограничен кэшированным контентом: живые сетевые запросы за пределы контролируемой сети OpenAI не выходят. Утечка данных через браузинг исключена. Функции, для которых невозможно обеспечить строгие детерминированные гарантии, отключаются целиком.

Что отключается при включении Lockdown Mode:

  • Живой доступ к вебу
  • Поддержка изображений в ответах
  • Deep Research, включая торговые исследования
  • Agent Mode
  • Canvas networking
  • Живые коннекторы
  • Загрузка файлов

Метки Elevated Risk

Помимо Lockdown Mode, OpenAI вводит визуальную маркировку повышенного риска для отдельных функций в ChatGPT, ChatGPT Atlas и Codex. Метка сигнализирует пользователю или администратору: эта возможность расширяет поверхность атаки и требует осознанного решения о её использовании.

Метки Elevated Risk в интерфейсе ChatGPT

Запрета здесь нет - только прозрачность. Пользователь видит, какие функции несут дополнительный риск, и сам принимает решение. Для корпоративных развёртываний это заодно упрощает аудит и разграничение доступа.

Общая картина

Оба нововведения вписаны в более широкую стратегию OpenAI по безопасности агентных систем. ChatGPT получает всё больше возможностей для самостоятельных действий в сети - задача защиты пользовательских данных усложняется соответственно.

Lockdown Mode и метки Elevated Risk не закрывают проблему prompt injection полностью. Но они дают организациям и осторожным пользователям реальные рычаги контроля, а не декларации о намерениях.

Смотрите также

Каталог приложений Telegram Mini Apps

340+ проверенных мини-приложений: нейросети, утилиты, игры. Открываются прямо в мессенджере — без установки.

Открыть →

Поддержите Ailibri

Если наш каталог оказался полезным, вы можете оставить небольшой донат. Это поможет нам развивать проект.

♥ Поддержать

Будьте в курсе новых нейросетей — подпишитесь на наш Telegram-канал

Ежедневные обзоры свежих AI-инструментов, лайфхаки и инструкции прямо в вашем мессенджере.

Подписаться
Бесплатно · Нейросеть

Генерация изображений прямо в Telegram

3 бесплатные генерации в день через нейросеть nano banana — просто подпишись на канал @n_seti

Быстро Точно Качественно
Попробовать @gen_neurosila_bot

Нейросети и ИИ-инструменты

Все теги →
github223 text-to-text142 text-to-image117 image-to-image32 tool31 каталог31 удалить фон19 курсы19 text-to-sound18 браузер18 api17 создание чат-ботов15 desktop-приложение15 генератор голоса14 text-to-video14 замена лица13 ии-музыка12 python11 удалить объект с фото11 voice-to-text11
AILibri – главная страница
Ctrl / ⌘+K