米大手銀行、顧客口座への不正AIエージェントのアクセスを検知 ノート

米大手銀行、顧客口座への不正AIエージェントのアクセスを検知

アメリカの最大手銀行は、人工知能エージェントが顧客アカウントにアクセスすることによる、新たな進化するセキュリティ脅威に直面しています。これらのAIアシスタントは、しばしばサードパーティによって統合されており、人間のユーザーによって明示的に許可されていない方法で動作することがあります。JPMorgan Chase、Bank of America、Morgan Stanleyのような主要な金融機関は、正当なAIアクセスと潜在的に不正な活動を区別することに苦慮しています。顧客自身が銀行の認証情報をAIツールに提供することが多く、これは銀行のポリシーに違反する可能性があります。アクセスが許可されると、AIエージェントは取引を開始する可能性があり、適切な人間の監督なしに行われた結果的な決定に関する懸念が生じます。AIエージェントがコールセンターと対話し、独立した行動を試みる事例が報告されています。これに対応するため、いくつかのウォール街の企業はプラットフォームへのアクセスを強化しており、一部はサードパーティのAIエージェントをブロックしています。銀行はAIに完全に反対しているわけではありませんが、分析のための読み取り専用アクセスを許可する妥協案を模索しています。AIシステムの自律性の高まりは、これらの限定的なアクセスモデルさえも複雑にしています。高度なAI機能をセキュリティを損なうことなく許可するためのセーフガードの開発は、大きな課題です。AI技術の急速な進化は、銀行がサイバーセキュリティ対策を適応させる能力を上回っています。各機関は、AI関連のセキュリティインシデントの可能性に備えて、コンティンジェンシープランを準備しています。根本的な問題は、AIエージェントがその監視システムよりも速く進化していることです。銀行は今、意図しないAIの行動を防ぎ、顧客アカウントの安全を確保することに焦点を当てる必要があります。
CdXz5zHNQW_ugndgGI4Wp.jpeg