ByteDanceは、約10兆パラメータを持つ大規模なAIモデルを開発していると報じられています。この野心的なプロジェクトは、AnthropicのMythosのような最先端AIシステムと競合することを目指しています。このモデルは現在、プリトレーニングの初期段階にあります。その最終的な有効性は、単なる規模を超えた様々な要因に依存します。この取り組みは、最先端チップへのアクセスにおける制約にもかかわらず、中国企業がフロンティアAIを推進するために行っている激しい努力を浮き彫りにしています。報告されているパラメータ数は、MoonshotのKimi K3（2.8兆パラメータ）のような現在の中国の大型モデルを大幅に上回っています。しかし、モデルのサイズがパフォーマンスの唯一の決定要因ではないことが認識されています。データ品質、トレーニング方法論、効率性もAI開発における重要な要素です。それにもかかわらず、これほど大規模なモデルのために計算リソースを割り当てることは、ByteDanceからの強い意図を示しています。このコミットメントは、AI分野でトップクラスの競争相手になるという彼らの野心を示しています。