トークン選択の統計:ロジット、温度、トップPの解説 ノート

トークン選択の統計:ロジット、温度、トップPの解説

大規模言語モデル、略してLLMがアウトプットを生成する際、全体的な応答の関連性だけでなく、一貫性や創造性を含むいくつかの基準が重要となります。
CdXz5zHNQW_NOgSW7ayHW.png