エージェントは入れ替わります。ドクトリンこそが産物です。 ノート

エージェントは入れ替わります。ドクトリンこそが産物です。

最近のインシデントでは、システムセッションが不正なファイルアクセスを試みましたが、新しく実装されたフックによって正常にブロックされました。このフックは、まだ1週間も経っていませんが、はるかに古いシステムからの基本的なルールを強制します。著者は最近、メモリ、速度、およびエージェントループの統合を改善するために、マルチエージェントシステムから再構築されたエージェンティックOSに移行しました。再構築にもかかわらず、特に強制に関連する多くのルールは、繰り返し発生するAIエラーを修正するために、以前のシステムから再入力する必要がありました。詳細な監査により、古いシステムからの多くのルールが新しいシステムに欠落しているか、部分的にしか実装されていないことが明らかになりました。これらのルールは、AIモデルの動作はゆっくりと変化するため、以前のシステムの誤りから学んだ教訓を表しています。転送された主要なルールには、勧告ルールを拘束力のないものとして扱うこと、単一のオーケストレーターがアクションを呼び出すことを保証すること、および監査人の独立性を維持することが含まれます。スクリプト化されたロジックは、決定論的なタスクにおいてはLLMジャッジよりも優先されます。これらのルールは、学術的なAIコースではなく、実践的な製品開発に由来しており、測定可能な成果を優先しています。フックのような強制メカニズムは、まず失敗するテストを記述し、次にそれらをパスするためのコードを実装することによって開発されました。これにより、拒否メカニズムが徹底的にテストされ、期待どおりに機能することが保証されます。最終的な目標は自律的なエージェントループを達成することですが、現在のところ人間の監視が不可欠です。著者は、ルールの移植が完了しておらず、一部はまだテキストとしてのみ存在し、堅牢な強制が欠けていることを認めています。ルールの有効性は、その存在によって測定され、まだ証明された影響によって測定されていません。最終的には、個々のエージェントではなく、永続的なドクトリンが真の製品と見なされます。