2019年、AI研究者のRich Suttonは「The Bitter Lesson」という短いエッセイを発表しました。彼は、70年間のAI研究は同じことを繰り返し示してきたと主張しました。それは、AIをトレーニングする最も効果的な方法は、人間の洞察に基づいた巧妙なアプローチではなく、生の、ブルートフォースのコンピューティングパワー、つまり単純なスケーリングに依存するということです。それは[...]