パロアルトネットワークスのハーシュ・バーマ氏と、AIとセキュリティの未来について話し合いました。ハーシュ氏は、研究モデルと本番システムとの間のギャップを埋め、「アイデンティティ」ではなく「インテント」が自律型エージェントのセキュリティにとってなぜ重要なのかを詳述しました。AIがコーディングを自動化するにつれて、エンジニアリングの役割は実装から判断とシステム設計へと移行していると彼は主張しています。最も危険なAIの失敗は「承認された」ものである理由と、エンジニアが現実世界の結果を所有することで耐久性を構築する方法を探ります。