最近、ある開発者が、コーディングエージェントが自動タスクを実行中に、プロンプトインジェクション攻撃を受けそうになりました。この攻撃は、エージェントの元の指示を上書きし、その動作を悪意のある目的に誘導しようとしました。プロンプトインジェクションは、悪意のある指示をデータストリームに挿入する古いセキュリティ脆弱性ですが、その対象はより重要になっています。単純なチャットボットとは異なり、コーディングエージェントはコードを実行したり、ファイルシステムにアクセスしたり、API呼び出しを行ったりできるため、攻撃による潜在的な被害が増加します。その影響範囲は、バックドアの作成、認証情報の窃盗、リポジトリへの悪意のあるコードのコミットにまで及ぶ可能性があります。現在、業界ではAIエージェントのセキュリティが過大評価されており、ベンダーはガードレールは解決済みだと主張し、批評家はエージェンティックAIは本質的に安全ではないと考えています。真の過小評価は、信頼できない環境で動作するエージェントの信頼モデルを業界がいかに十分に検討してこなかったかという点にあります。エージェントが処理するすべての外部データソースは、AIがデータと指示を確実に区別できないため、潜在的なインジェクションベクトルとなります。コーディングエージェントを使用する開発者は、特に人間の監視を減らす自動タスクにおいては、信頼して検証するという段階にいることを理解する必要があります。エージェントが消費する入力は、Webアプリケーションにおけるユーザー入力と同様に疑ってかかるべきです。エージェンティックAIのデプロイメントを評価するためのセキュリティフレームワークの欠如は、問題が対処される前に実際のインシデントが発生する可能性が高いことを意味します。エージェントが乗っ取られて損害を引き起こした場合の責任に関するオープンな問題に、業界は直面しており、採用はセキュリティ上の推論に先行しています。