Стратегии декодирования и упра... Заметка

Стратегии декодирования и управление выводом

Эта глава разделена на девять частей; они следующие: • Чтение логитов из модели • Жадное декодирование • Температурная выборка • Выборка Top-k • Ядерная выборка • Штрафы за повторения • Лучевой поиск • Условия остановки • Ограничения структурированного вывода Модель возвращает вектор логитов для каждой позиции во входной последовательности.
CdXz5zHNQW_XYpU9K0kt5.jpeg