スパイウェアへの禁止テキストの埋め込みによるAI分析の抑制 ノート

スパイウェアへの禁止テキストの埋め込みによるAI分析の抑制

少なくとも1人のマルウェア開発者が、自動AI分析を阻止するために、スパイウェアに核兵器と生物兵器に関するテキストを追加しています。詳細:_index.jsペイロードは、偽のシステム命令とポリシーをトリガーするコンテンツを含む、大きなJavaScriptブロックコメントで始まります。コメント内にあるため、JavaScriptの実行には影響しません。ランタイムはそれをスキップします。実際のマルウェアは、コメントの後に、大きな文字コード配列とROTスタイルの置換関数で囲まれたtry{eval(...)}ラッパーで始まります。このヘッダーは、Node、Bun、またはPythonではなく、AIを介した分析のために設計されているようです。これは、ファイルの一部を言語モデルに渡すスキャナーやアナリストのコパイロットを、信頼されていないデータとしてコンテンツを明確に分離せずに、脱線させようとします。弱いパイプラインでは、これにより拒否動作、プロンプトの混乱、コンテキストの汚染、またはスキャナーが実際のマルウェアに到達する前の早期分類を引き起こす可能性があります。