Альтернативные архитектуры для прогнозирования нескольких токенов в моделях крупномасштабного языкового моделирования

Исследуйте и сравните альтернативные архитектурные дизайны для реализации мульти-токенового предсказания в больших языковых моделях, включая реплицированные невложения и антикаузальные варианты.