Большие языковые модели не просто предсказывают "правильное" следующее слово — они выбирают из распределения вероятностей, сформированного параметром, называемым температурой. Низкая температура делает ответы сфокусированными и детерминированными; высокая температура добавляет креативность (и хаос). Эта статья объясняет, что на самом деле делает температура — математически и интуитивно — чтобы вы могли настраивать ее уверенно, а не методом проб и ошибок.