AIレッドチーミング完全ガイド(Garakチュートリアル付き... ノート

AIレッドチーミング完全ガイド(Garakチュートリアル付き)

今年初め、自律型AIエージェントが、古いSQLインジェクションの脆弱性のみを利用して、McKinseyの内部AIプラットフォームを侵害しました。認証情報なし。人間の指示なし。2時間未満。本番システムに到達し、数百万件のチャットメッセージと数十万件のファイルを公開しました。AIセキュリティは変化しており、従来の仮定はもはや通用しません。[...]