AIエージェントがPyTorchを凌駕:より高速なCUDAカ... ノート

AIエージェントがPyTorchを凌駕:より高速なCUDAカーネルの作成

AIエージェントは、PyTorchを上回るCUDAカーネルを記述できるようになりました。しかし、その速度向上が本物であることを証明することが、より難しい問題です。私はNVIDIA DGX Sparkでそれらをテストし、ベンチマーク設計がコードと同じくらい重要であることを発見しました。