Сообщество RSS DEV
Подписаться
«Они генерируют больше багов, больше дыр в безопасности»: создатель C++ критикует «вайбовое программирование»
Бьярне Страуструп, создатель C++, утверждает, что современные инструменты ИИ ненадежны для кода сложных систем и проектирования языков программирования. Он заявляет, что сгенерированный ИИ код вносит больше ошибок и уязвимостей безопасности. Основная проблема — валидация, поскольку изменения, внесенные ИИ, трудно отслеживать в рамках проекта. Однако Страуструп признает потенциал ИИ для технического письма под контролем человека. Он подчеркивает, что ИИ пока не подходит для кода, критичного для безопасности или производительности. Страуструп также отмечает, что большие языковые модели (LLM), обученные на существующем коде, могут увековечивать старые ошибки и устаревшие подходы. Команда PVS-Studio согласна с тем, что сгенерированный ИИ код требует тщательной проверки, как и код, написанный человеком. Филипп Ханделианц подчеркивает, что непроверенный вывод ИИ может быть субоптимальным или небезопасным. Он рекомендует обширный обзор кода, статический и динамический анализ, а также формальную верификацию для всего кода. Олег Лисий сравнивает некритичное использование ИИ с бездумным использованием автодополнения в IDE. Он считает, что роль ИИ должна заключаться в оптимизации рабочих процессов, а не в полной замене человеческой разработки. Консенсус заключается в том, что сгенерированный ИИ код должен быть тщательно проверен перед развертыванием.
