誰がAIにハッキングさせたんだ?[リサーチ・サタデー] ノート

誰がAIにハッキングさせたんだ?[リサーチ・サタデー]

本日、SysdigのシニアサイバーセキュリティストラテジストであるCrystal Morin氏と、同社のシニアディレクターオブスレットリサーチであるMichael Clark氏をお迎えし、「LLMjacking evolved: Attackers are using stolen AI compute to build offensive agentic tools」に関するお話を伺います。Sysdigスレットリサーチチームは、攻撃者が公開され認証されていないOllamaサーバーを、自動化された攻撃的セキュリティツールの「脳」として悪用していることを観測しました。このAI搭載フレームワークは、サービスをフィンガープリントし、脆弱性を特定し、エクスプロイトを作成し、認証情報を抽出し、コマンド実行に向けた攻撃をオーケストレーションすることができます。研究者たちは、このツールがまだ開発中である間にそれを捕捉しました。この活動は、LLMjackingが単にAIコンピューティングを盗んで利益を得ることから進化し、盗まれたモデル容量を使用して、ますます自律的な攻撃能力を構築していることを浮き彫りにしています。本研究およびエグゼクティブブリーフは以下からご覧いただけます。LLMjacking evolved: Attackers are using stolen AI compute to build offensive agentic tools
CdXz5zHNQW_Xrc6twFcjC.jpeg