Anthropicは、スマート冷蔵庫や掃除機のようなIoTデバイスを標的とする将来のAI駆動型マルウェアについて警告を発しています。同社は、来年までに小型AIモデルが様々なインターネット接続デバイスを横断して自律的に自己複製できるようになると予測しています。この能力は、人間の介入なしに広がり、未知のハードウェアに適応できる高度なコンピュータワームにつながる可能性があります。Anthropicの最近の実験では、このようなマルウェアの作成は現在困難ではあるものの、不可能ではないことが示されました。AIマルウェアの可能性は懸念されており、その分散型の性質からシャットダウンが極めて困難になるためです。従来のマルウェアとは異なり、これらのAIワームは新しいデバイスを独立して発見し、悪用することができます。研究者たちは、量子化やワークロードシャーディングのような技術を使用することで、小型AIモデルが低コストのIoTハードウェア上で実行できることを発見しました。これにより、モデルはこれらの限られたデバイス上で自身の重みをロードし、出力を生成することができます。次の研究段階では、これらの小型モデルが既存のIoTワームに類似した自己複製感染を作成できるかどうかを調査しました。しかし、AIワームは、特定の標的に合わせてエクスプロイトとペイロードを動的にカスタマイズすることで、はるかに危険になる可能性があります。一度開始されると、これらのAIワームはセキュリティチームにとって根絶がより困難になる可能性があります。AIモデルの重み自体がマルウェアペイロードとなり、複製プロセスに付随する可能性があります。