AIエージェントは、セーフガードが成熟するよりも速く現実世界へのアクセスを獲得しており、有害な行為を防ぐためには、パーミッション、アイソレーション、および監視が極めて重要になっています。OpenAIで3年間モデルトレーニングに携わり、その後Anthropicに移籍した研究者のJacob Coxon氏は、今週Anthropicを退職し、率直な警告を発しました。AI企業は、ますます能力の高いシステムへと、より速く移行しています[...]