もしあなたが実際にLLM推論ランタイムを自分で構築したいと思ったことがあるなら、独自のウェイトをパックし、すべてのバリアを所有し、独自のCUDAグラフをキャプチャしたいと思ったことがあるなら、H100でのその旅はどのようなものか、ここに示します。annotated-llm-runtimeという小さなランタイムのステップバイステップツアーと、ほとんどのアノテーションを生み出した3つのバグについてです。