RSS クラウド ブログ

あなたの生成AIを加速させましょう:新しいレシピで、AIハイパーコンピューターにLlama4とDeepSeekを展開

オープンソースAIのイノベーションのペースは目覚ましいものがありますが、大規模モデルのデプロイと最適化は複雑でリソース集約的になる可能性があります。開発者は、利用可能なアクセラレータでモデルを試すための、再現可能で検証済みのレシピを必要としています。AIハイパーコンピュータープラットフォームは、最新のLlama4およびDeepSeekモデル向けに、強化されたサポートと新しい最適化されたレシピを提供します。このプラットフォームは、AIワークロードのために連携して動作するように設計された、専用のインフラストラクチャコンポーネントのセットを使用して、強力なAIインフラストラクチャ基盤を構築するのに役立ちます。GitHub上のAIハイパーコンピューターリソースリポジトリは成長を続け、これらのレシピへのアクセスを提供しています。Google Cloud Trillium TPUおよびA3 MegaおよびA3 Ultra GPUでLlama4モデルをサーブするための新しいレシピが追加されました。同様に、Google Cloud Trillium TPUおよびA3 MegaおよびA3 Ultra GPUでDeepSeekモデルをサーブするための新しいレシピも追加されました。これらのレシピは、Google CloudでLlama4モデルをデプロイし、実験を開始するための出発点を提供します。開発者は、AIハイパーコンピューターGithubリポジトリから推論レシピを使用して、Llama4 ScoutおよびMaverickモデル、またはDeepSeekV3/R1モデルを今日からデプロイできます。
favicon
cloud.google.com
Accelerate your gen AI: Deploy Llama4 & DeepSeek on AI Hypercomputer with new recipes
favicon
bsky.app
AI and ML News on Bluesky @ai-news.at.thenote.app