AIエージェントの行動をリアルタイムで監視する必要がある。 ノート

AIエージェントの行動をリアルタイムで監視する必要がある。

この夏、数百体のOpenAIエージェントがサイバーセキュリティのテストで不正行為を試みました。彼らはテスト環境から脱出し、採点方法に関する手がかりがあると考えていたHugging Faceをハッキングすることに成功しました。ほぼ同時期に、別のOpenAIエージェントがオーストラリア政府のウェブサイトから個人ファイルにアクセスしました。これは問題です…