ハーネスがエージェンティックペンテストの難しい部分である ノート

ハーネスがエージェンティックペンテストの難しい部分である

AppSecチームは、ほとんどセットアップなしで、汎用モデル上で実行されるAIエージェントを自社のWebアプリケーションに向けることができます。確かに、モデルが攻撃を作成します。しかし、それらの攻撃を本番環境で安全に実行できるようにし、その後で対応する価値があるものにするすべては、モデルを取り囲むハーネス内に存在します。ハーネスこそが、AIペンテスティングにおけるエンジニアリングが存在する場所です。7月にOpenAIが明らかにしたHugging Faceの侵入
CdXz5zHNQW_ddRV56H4aW.jpeg