InfoQ на русском
Подписаться
Статья: Слои надежности больших языковых моделей под проверкой: точность, выход и пределы верификации
Проверочные уровни сортируют выходные данные по степени достоверности, а не исправляют ошибки. В эталонном тесте шести уровней надежности голосование и самокоррекция не смогли восстановить точность — они лишь отсеивали сомнительные записи. Производственные системы повышают надежность, заменяя генерацию детерминированным поиском, отслеживая выходные данные по сырой точности и устраняя узкие места извлечения перед наложением проверок. Пушдип Мишра, Ведждан Багаис