Повышение качества и интерпретируемости LLM с помощью службы оценки Vertex AI Gen AI

Использование возможностей языковых больших моделей (LMM) связано с двумя трудностями: управление их внутренней случайностью и устранение периодических фактических неточностей. Для решения этих проблем был разработан новый рабочий процесс, в котором используется служба оценки Vertex Gen AI для автоматизации выбора лучшего ответа из различных вариантов, сгенерированных языковой большой моделью. Этот рабочий процесс включает генерацию нескольких ответов, попарное их оценивание для определения лучшего ответа и оценку его качества с помощью пошаговой оценки. Пример использования финансовым учреждением сводок бесед с клиентами иллюстрирует применение этого рабочего процесса к задачам в реальном мире. Рабочий процесс повышает точность, полезность и краткость сводок, сгенерированных языковой большой моделью, укрепляя доверие и прозрачность при принятии решений системой. Рабочий процесс применим к любым моделям или случаям использования, в том числе к ответам на вопросы и составлению сводок. Благодаря использованию вероятностной природы языковых больших моделей и службы оценки Vertex Gen AI этот рабочий процесс позволяет раскрыть весь потенциал языковых больших моделей.