Towards Data Science | Medium 日本語 フォロー ディスアグリゲーションは千GPUの問題である デコードからプリフィルを分割することが利益をもたらすための3つの条件と、その閾値以下のデフォルトとしてチャンク化されたプリフィルが正しい理由。 Disaggregation Is a Thousand-GPU Problem towardsdatascience.com Towards Data Science | Medium 日本語 RSS thenote.app