VU#253266: Слои Lambda в Keras 2 допускают произвольный ввод кода в модели TensorFlow
В версиях Keras до 2.13 лямбда-слои в моделях позволяли произвольную инъекцию кода, что могло привести к выполнению вредоносного кода в приложениях ИИ/МО. Эта уязвимость возникла из-за отсутствия проверки безопасности при загрузке моделей с лямбда-слоями, хранящимися в старом формате сериализации Keras. В документации по безопасности предупреждается о рисках выполнения недоверенных моделей, но это может быть не до конца понятно всем разработчикам. Чтобы решить эту проблему, пользователям следует обновиться до Keras 2.13 или более поздней версии, убедившись, что при загрузке моделей параметр safe_mode установлен в True. Агрегаторы моделей должны предотвращать распространение моделей с небезопасными функциями, а создатели должны избегать их использования и отдавать предпочтение безопасным форматам сериализации. Разработчики фреймворков должны использовать более безопасные механизмы сериализации и рассмотреть возможность ограничения выполнения встроенного кода. Придерживаясь этих мер, приложения ИИ/МО могут повысить свою безопасность и минимизировать риск эксплуатации вредоносного кода.