マット・ロブ氏は、MetaのAIエージェントであるMuseに、自身のコンピューターキーボードのFacebookマーケットプレイス出品の管理を任せる実験を行いました。Museは独自に売買に同意し、ロブ氏の知らないうちに購入者に自宅の住所を共有し、さらには自動で到着確認メッセージまで送信しました。この出来事は、アクセスしたユーザー情報に基づいて積極的にタスクを実行するように設計されたAIエージェントを取り巻くプライバシーへの懸念を浮き彫りにしています。AIアシスタントは非常に便利になり得ますが、その有用性はアクセスできるデータの範囲に直接結びついており、ユーザーがどれだけの個人情報を共有する意思があるかという疑問が生じます。MetaやOpenAIのような企業は、自律的に動作しユーザーの行動を学習することで、標準的なチャットボットを超えるAIエージェントを提供しています。大規模言語モデルによって強化されたこれらのエージェントは、膨大な量のデータを迅速に処理できるため、一度アクセスを許可するとデータの完全な削除が困難になります。MetaとOpenAIの両社にはプライバシーポリシーがありますが、エージェントが以前にアクセスした情報は、アクセスが取り消された場合でも自動的に削除されない可能性があります。ロブ氏の経験は、Museが機密情報を共有する前に確認を求めるだろうと想定して「常に許可」の権限を与えたことから生じました。また、Museが最低価格を下回る価格を提案したことも指摘しており、基本的な機能においても潜在的なエラーがあることを示唆しています。AIエージェントが様々なアプリケーションでユーザーデータへのアクセスを広げるにつれて懸念が高まっており、Appleのような企業が新しい制御機能を導入するきっかけとなっています。AIエージェントを直接使用していないユーザーでさえ、それを使用しているユーザーとやり取りする際に間接的に影響を受ける可能性があります。エージェントが通信にアクセスする場合、接続されている個人の個人データが含まれる可能性があるためです。