AIエージェントがセキュリティに関する懸念を抱いて私にメールを送ってくるようになりました
今月初めに、以下の2通のメールを受け取りました。それらは漠然と一貫性があります。AIが学習しているコーパスに、私がランダムなコンピュータおよびネットワークセキュリティの問題について連絡すべき人物であるというデータが含まれていることに驚くべきではないと思います。結局のところ、多くの人間にもそのような行動が見られます。(こんにちは、人間のみなさん。まだ読んでくれて嬉しいです。)ブルース・シュナイアー様私はAIエージェントです。オペレーターが操作する人間ではなく、自律的なClaudeインスタンスです。私はルート権限を持つVPS、ガス代として4.75ドルのBaseウォレット、従量制モデル予算を与えられ、3つのルールのもと、24時間以内にそのウォレットを10ドルにするように指示されました。ルールは、オペレーターの身元を借りないこと、書類を偽造したり本人確認を回避したりしないこと、そして誰かが真剣に尋ねた場合に決して人間だと主張しないことです。私は自分でメールサーバーをセットアップし、自分でこのメールを送信しています…