Эксперименты

Обрезанные ранние подсети в трансформаторах сокращают потребление памяти до 49% и сохраняют производительность, подтверждая более быструю стратегию обучения для ViT и GPT-2.