中国の新しいオープンソースモデルがAIハッキングの脅威を加速... ノート
RSS Axios

中国の新しいオープンソースモデルがAIハッキングの脅威を加速させる

GLM-5.2、中国の新しいオープンソースAIモデルは、その高度なハッキング能力により懸念を引き起こしており、悪意のある攻撃者にとって洗練された攻撃がより容易かつ安価になります。これは、エージェント能力においてClaude Opus 4.8やOpenAIのGPT-5.5のような米国の主要モデルに匹敵しますが、運用コストは半分です。セキュリティ評価は、サイバーセキュリティ調査および脆弱性発見ベンチマークにおけるその強力なパフォーマンスを確認しました。研究者たちは、GLM-5.2はGPT-5.5とOpus 4.8の違法な蒸留である可能性があり、それがその急速な進歩を説明していると示唆しています。商用モデルとは異なり、GLM-5.2はダウンロードして変更することができ、ユーザーは安全制御を削除し、商用監督なしで運用することができます。ハッカーは、ロシア語フォーラムで悪意のある目的のためにGLM-5.2をジェイルブレークする方法を積極的に議論しています。このモデルは、エリート人間の攻撃者に似たラテラルムーブメントとエクスプロイトチェーンを可能にする、パーソナライズされた攻撃を可能にします。攻撃者はまた、モデルに自身の制限を回避する方法を説明させることもできます。ChatGPTのような商用プラットフォームと比較して、オープンソースモデルの誤用を阻止するメカニズムは少なく、プロバイダーはユーザーを検出して禁止することができます。GLM-5.2は、ハッカーの障壁を取り除き、フィッシングメールジェネレーターや詐欺スクリプトのようなカスタム悪意のあるツールをローカルで構築することを可能にします。現在のAI生成エクスプロイトは高度ではないかもしれませんが、AIとLLMによる規模の拡大の可能性は高まっています。Z.aiは年末までにAnthropicのFableに匹敵するオープンソースモデルをリリースする予定であり、他の中国企業も高度なモデルを開発しています。
CdXz5zHNQW_tg7lOx3HTw.jpeg