10年前の残差接続がなぜ今もAI全体を動かし続けているのか(... ノート

10年前の残差接続がなぜ今もAI全体を動かし続けているのか(そしてそれがなぜ問題なのか)

約10年間、ニューラルネットワークのこの部分はほとんど変化しませんでした。DeepSeekはそれを再発明しようとしています。