ByteDance обучает модель с 10 ... Заметка
Slashdot на русском

ByteDance обучает модель с 10 триллионами параметров, чтобы выйти на передовые позиции.

ByteDance, по сообщениям, разрабатывает масштабную модель искусственного интеллекта с примерно 10 триллионами параметров. Этот амбициозный проект направлен на конкуренцию с ведущими передовыми системами ИИ, такими как Mythos от Anthropic. Модель в настоящее время находится на ранних стадиях предварительного обучения. Ее конечная эффективность будет зависеть от различных факторов, помимо простого масштаба. Эта инициатива подчеркивает активные усилия китайских компаний по развитию передового ИИ, несмотря на ограничения в доступе к передовым чипам. Заявленное количество параметров значительно превосходит текущие крупные китайские модели, такие как Kimi K3 от Moonshot с 2,8 триллионами параметров. Однако в тексте признается, что размер модели не является единственным определяющим фактором производительности. Качество данных, методологии обучения и эффективность также являются критически важными элементами в разработке ИИ. Тем не менее, выделение вычислительных ресурсов для такой большой модели свидетельствует о сильном намерении ByteDance. Эта приверженность сигнализирует об их стремлении стать ведущим конкурентом в области ИИ.