Понимание эволюции ChatGPT: часть 2 — GPT-2 и GPT-3

Статья рассматривает эволюцию ChatGPT, акцентируя внимание на GPT-2 и GPT-3, которые были разработаны с целью обойти этап тонкой настройки (fine-tuning) и сделать языковые модели по-настоящему интеллектуальными. GPT-2 и GPT-3 имеют схожую архитектуру и были разработаны на основе общей философии, исследующей обучение без привязки к конкретным задачам (task-agnostic learning), гипотезу масштабирования (scaling hypothesis) и обучение в контексте (in-context learning). Сдвиг парадигмы от «предварительное обучение + тонкая настройка» к «только предварительное обучение» был мотивирован поведением GPT-1 в условиях нулевого выстрела (zero-shot), которое показало, что предварительное обучение может улучшить его возможности в таких условиях. Тонкая настройка имеет ограничения, включая необходимость больших наборов данных для каждой новой задачи и риск использования ложных корреляций в данных тонкой настройки. Обучение без привязки к конкретным задачам, гипотеза масштабирования и обучение в контексте являются ключевыми элементами, которые повлияли на разработку GPT-2 и GPT-3. GPT-2 был разработан, чтобы проверить, может ли более крупная модель, предварительно обученная на более обширном наборе данных, напрямую использоваться для решения задач. GPT-3 же проверял, может ли обучение в контексте улучшить результаты GPT-2 при дальнейшем масштабировании. GPT-2 достиг хороших результатов во многих задачах, но всё ещё уступал лучшим моделям в некоторых из них, что стимулировало разработку GPT-3. GPT-3 использовал аналогичную архитектуру модели GPT-2 и обучался на ещё больших наборах данных, достигнув высокой производительности во многих наборах данных НЛП. Разработка GPT-2 и GPT-3 открывает новые направления исследований в области НЛП и более широкого сообщества машинного обучения, сосредоточившись на понимании возникающих возможностей и разработке новых парадигм обучения.