RSS VentureBeat
フォロー
Thinking Machines の最初の公式製品が登場しました。分散型 LLM ファインチューニングのための API、Tinker をご紹介します。
Thinking Machines、元OpenAI CTOのミラ・ムラティ氏が設立したAIスタートアップ、は、大規模言語モデル(LLM)のファインチューニングを簡素化するために設計された初の製品「Tinker」をローンチしました。TinkerはPythonベースのAPIで、開発者にトレーニングパイプラインのきめ細かな制御を提供すると同時に、分散コンピューティングインフラストラクチャを管理します。これにより、研究者はインフラストラクチャの煩わしさなしに、実験設計やカスタムモデル開発に集中できます。このツールは、Pythonネイティブのプリミティブを提供し、Mixture-of-Expertsを含む様々なオープンウェイトモデルをサポートし、コスト効率のためにLoRAベースのチューニングと統合されています。Tinkerには、オープンソースのコンパニオンライブラリであるTinker Cookbookも含まれています。プリンストン大学やスタンフォード大学などの研究機関の研究者は、すでにTinkerを使用して、形式的定理証明や化学的推論などのタスクで、大幅なパフォーマンス向上を達成しています。AI研究コミュニティは、アルゴリズム制御とインフラストラクチャ管理を分離する、開発者中心のアプローチをTinkerで称賛しています。アンドレイ・カルパシー氏は、ユーザーがアルゴリズム制御を維持しながらインフラストラクチャの複雑さをオフロードできるTinkerの巧妙な設計を強調しました。ジョン・シュルマン氏は、Tinkerを常に欲しかったインフラストラクチャであり、絶え間ない手動監視なしに強力な操作を可能にすると述べています。Tinkerは現在プライベートベータ版であり、まもなく従量課金制の価格モデルを導入する予定です。20億ドルの資金調達を行ったThinking Machinesは、オープンでカスタマイズ可能なAI開発をサポートすることを目指しており、ユーザーと協力するマルチモーダルAIシステムに焦点を当てることで差別化を図っています。