RSS惑星Python
フォロー
アルミン・ロナッハー:『ザ・カミング・ループ』
著者は、コーディングエージェントの上にシステムを構築する傾向が高まっていることを観察しており、エージェントの能力を単一セッションを超えて拡張するループを作成しています。これらのループには、タスクキュー、マシン実行、およびコンテキストを変更するか別のマシンに送信することによってタスクを続行するかどうかを決定するハーネスが含まれます。コーディングエージェントにはタスクのための内部ループがありますが、新しい外部の「ハーネスレベル」ループが出現し、議論を支配しています。著者は、自分が大切にしているコードに対してこのハンズオフアプローチに個人的に苦労しており、生成されたコードが過度に防御的で複雑で、強力な不変条件を欠いていると感じています。現在のモデルは、望ましくない状態を防ぐのではなく、過剰なローカル防御を追加する傾向があり、この問題は悪化しているようです。ループはこれらの傾向を増幅し、システムをより理解しにくくしながら、より堅牢に見せます。しかし、ループは、コードの変換または短命の成果物が目標となるコードの移植、パフォーマンスの探索、およびセキュリティスキャンなどのドメインで優れています。これらの場合、生成されたコードの寿命や検証可能性は、探索または変換のプロセスよりも重要ではありません。著者はこれを、永続的なコードを書くことと比較しており、それを、ソフトウェアが決定論的なマシンからソフトウェアが生物へと進化することに例えています。このシフトは、深い人間の理解から、システムをほとんど生物学的実体のように監視、安定化、および処理することへの移行を意味します。このマシン駆動の未来から撤退することは、特にセキュリティ分野では困難になりつつあります。そこでは、攻撃者と研究者はすでにループを使用しており、防御者は適応を余儀なくされています。競争圧力と、オーケストレーションを活用する一部のチームのスピードも採用を促進するでしょう。最も懸念されるのは、これらのループシステムへの潜在的な認知的および実践的な依存であり、将来のアクセス、コスト、およびマシン支援なしでコードを理解する能力についての疑問が生じます。最終的に、コードベースは、そのメンテナンスのためにマシンの参加に依存するようになる可能性があります。