RSS VentureBeat
Folgen
Thinking Machines' erstes offizielles Produkt ist da: Lernen Sie Tinker kennen, eine API für verteiltes LLM-Fine-Tuning
Thinking Machines, ein KI-Startup, das von der ehemaligen OpenAI-CTO Mira Murati gegründet wurde, hat Tinker auf den Markt gebracht, sein erstes Produkt zur Vereinfachung des Fine-Tunings von Large Language Models (LLMs). Tinker ist eine Python-basierte API, die Entwicklern eine detaillierte Kontrolle über Trainingspipelines bietet und gleichzeitig die verteilte Recheninfrastruktur verwaltet. Dies ermöglicht es Forschern, sich auf das experimentelle Design und die Entwicklung benutzerdefinierter Modelle zu konzentrieren, ohne sich um Infrastrukturprobleme kümmern zu müssen. Das Tool bietet native Python-Primitive, unterstützt verschiedene Open-Weight-Modelle, einschließlich Mixture-of-Experts, und integriert sich für Kosteneffizienz in das LoRA-basierte Tuning. Tinker enthält auch eine Open-Source-Begleitbibliothek, das Tinker Cookbook. Forscher von Institutionen wie Princeton und Stanford haben Tinker bereits für Aufgaben wie formale Theorembeweise und chemisches Schlussfolgern eingesetzt und signifikante Leistungsverbesserungen erzielt. Die KI-Forschungsgemeinschaft hat Tinker für seinen entwicklerzentrierten Ansatz gelobt, der die algorithmische Kontrolle von der Infrastrukturverwaltung trennt. Andrej Karpathy hob das clevere Design von Tinker hervor, das es den Benutzern ermöglicht, die algorithmische Kontrolle zu behalten und gleichzeitig die Komplexität der Infrastruktur auszulagern. John Schulman beschrieb Tinker als die Infrastruktur, die er sich immer gewünscht hat, und ermöglicht leistungsstarke Operationen ohne ständige manuelle Überwachung. Tinker befindet sich derzeit in der privaten Beta-Phase und wird bald ein Pay-as-you-go-Preismodell einführen. Thinking Machines, das 2 Milliarden US-Dollar eingesammelt hat, zielt darauf ab, die offene und anpassbare KI-Entwicklung zu unterstützen und sich durch den Fokus auf multimodale KI-Systeme, die mit Benutzern zusammenarbeiten, zu differenzieren.
