RSS Блог разработчиков Google
Подписаться
Gemma 3: Модели QAT для потребительских GPU: внедрение передовых технологий ИИ на потребительские видеокарты
Выпуск версий моделей Gemma 3 с квантованием int4, оптимизированных с помощью обучения с учетом квантования (QAT), обеспечивает значительное снижение требований к памяти, позволяя пользователям запускать мощные модели, такие как Gemma 3 27B, на потребительских графических процессорах, например, NVIDIA RTX 3090.
