Статья: Слои надежности больши... Заметка
InfoQ на русском

Статья: Слои надежности больших языковых моделей под проверкой: точность, выход и пределы верификации

Проверочные уровни сортируют выходные данные по степени достоверности, а не исправляют ошибки. В эталонном тесте шести уровней надежности голосование и самокоррекция не смогли восстановить точность — они лишь отсеивали сомнительные записи. Производственные системы повышают надежность, заменяя генерацию детерминированным поиском, отслеживая выходные данные по сырой точности и устраняя узкие места извлечения перед наложением проверок. Пушдип Мишра, Ведждан Багаис
CdXz5zHNQW_GsZ46ud08z.jpeg