Мы знаем, что GenAI рискованно, так почему мы не устраняем его недостатки?

Несмотря на то, что угрозы Генеративного ИИ (GenAI) являются главной preocupación как для команд безопасности, так и для руководства, текущий уровень тестирования и исправления для приложений на основе больших языковых моделей (LLM) и приложений, использующих ИИ, не поспевает за рисками, согласно Cobalt. Генеративный ИИ как угроза или инструмент (Источник: Cobalt) Данные о тестировании на проникновение выявляют разрыв в безопасности LLM. Данные о тестировании на проникновение из отчета подчеркивают тревожную реальность: приложения LLM часто имеют серьезные уязвимости безопасности. Эти высокорисковые проблемы встречаются чаще в ...