AIの再帰的な自己改善は、思ったほど早く来ないかもしれない ノート

AIの再帰的な自己改善は、思ったほど早く来ないかもしれない

AI業界の現時点で最も大胆な約束は、AIが人間の監督をほとんど必要とせずに、すぐに自己改善するだろうということです。LLMはすでにコードを記述し、トレーニング用の合成データを生成し、それらが実行されるコンピュータチップを最適化することができます。爆発的なAIの進歩の予測は、研究者が再帰的自己改善と呼ぶものが間近に迫っていると予測しています。…