Эксперты предупреждают: ИИ-разработка может привести к катастрофам в 2026 году
Массовое внедрение приложений, созданных с помощью ИИ, может привести к серьезным проблемам, если компании не будут тщательно проверять сгенерированный код.
По мнению экспертов в области кибербезопасности, 2026 год может стать переломным моментом в использовании искусственного интеллекта для разработки программного обеспечения. Дэвид Миттон, основатель компании Arcjet, предупреждает о потенциальных рисках.
Основная проблема заключается в том, что разработчики все чаще используют ИИ для написания кода, не до конца понимая, как он работает. Это может привести к серьезным сбоям в работе критически важных систем.
Миттон отмечает, что использование ИИ для кодирования может быть эффективным в определенных случаях:
-
при создании прототипов, которые планируется переписать
-
для небольших правок в существующем коде
-
при работе с проверенными библиотеками
Однако существуют серьезные риски, особенно когда речь идет о безопасности. Эксперты рекомендуют не доверять ИИ разработку систем безопасности с нуля, а использовать проверенные компоненты и библиотеки.
Эйтан Ворсел, генеральный директор Mobb, подчеркивает дополнительную проблему: когда ИИ анализирует существующий код с уязвимостями, он может воспринимать эти уязвимые паттерны как правильные и повторять их в новом коде.
Эксперты рекомендуют следующий подход к использованию ИИ в разработке на 2026 год:
-
использовать ИИ для работы с проверенными компонентами
-
избегать создания новых механизмов безопасности
-
разрешать небольшие, легко проверяемые изменения
-
при разработке с нуля относиться к коду как к временному решению
Тщательное тестирование и проверка сгенерированного ИИ кода становятся критически важными для предотвращения потенциальных проблем в будущем.
Смотрите также
-
ИИ-агент·Claude Science: рабочая среда Anthropic для учёных
-
ИИ-агент·Sakana AI представила Fugu Ultra — мультиагентную систему для сложных задач
-
Opensource·North Mini Code от Cohere: агентная модель для разработчиков вышла в open-source
-
Исследования·Count Anything: нейросеть, которая умеет считать объекты на любом изображении
-
Автоматизация·Как Kaggle упрощает создание AI-бенчмарков
-
Opensource·Mellum2 от JetBrains: быстрая модель для ИИ-систем
-
Opensource·Kimi K2.6 - открытая модель с роем агентов
-
Инструменты разработчика·Anthropic готовит Mythos 1 для Claude Code и Security
-
ИИ-агент·Gemini 3.5: новый уровень интеллекта и скорости