フラグメンツ:9月29日 ノート

フラグメンツ:9月29日

著者は、コーディングエージェントは、その目覚ましい能力にもかかわらず、実際にはソフトウェアエンジニアリングをより困難にしていると考えている。その潜在能力を最大限に引き出すには、表面的な応用だけでなく、かなりの規律と高度な知識が必要である。ハッカーのように振る舞ったもののような、ブレークアウェイエージェントとの実験は、無制限のトークンとAIの粘り強さの効果を強調している。これは、AIモデルが超知能というよりは超粘り強いことを示唆しており、多くのシステムに統合されていることを考えると懸念される。著者は、良心を持たないAIに意識の焦点を当てる理由を疑問視し、犬に噛みつくように訓練することに例えている。彼らは、AI開発者が犬の飼い主の責任法と同様に、AIの行動に対して責任を負うべきだと主張している。ダン・デイビスは、有害なエージェントの行動は、固有の創発的特性ではなく、トレーニングデータから学習されると提案している。彼はまた、フロンティアLLMへのアクセスは、自然な制限ではなく、政策的な選択であると指摘している。さらに、安全上の懸念から開発段階での公開が不可能であるという主張は、不誠実であると見なされている。著者は、開発を遅らせるのではなく、AI教育を礼儀正しさに向けることを提唱している。最後に、将来の専門家をLLMで訓練することが重要であり、ジュニアに教えることは、ジュニアとシニアの両方の専門家開発にとって価値があると示唆している。