Flux RSS VentureBeat
Suivre
Le premier produit officiel de Thinking Machines est arrivé : découvrez Tinker, une API pour le réglage fin des LLM distribués.
Thinking Machines, une startup d'IA fondée par Mira Murati, ancienne directrice technique d'OpenAI, a lancé Tinker, son premier produit conçu pour simplifier le réglage fin des grands modèles linguistiques (LLM). Tinker est une API basée sur Python qui offre aux développeurs un contrôle granulaire sur les pipelines d'entraînement tout en gérant l'infrastructure de calcul distribuée. Cela permet aux chercheurs de se concentrer sur la conception expérimentale et le développement de modèles personnalisés sans les maux de tête liés à l'infrastructure. L'outil fournit des primitives natives Python, prend en charge divers modèles à poids ouverts, y compris les Mixture-of-Experts, et s'intègre au réglage basé sur LoRA pour une efficacité des coûts. Tinker comprend également une bibliothèque compagnon open-source, le Tinker Cookbook. Des chercheurs d'institutions telles que Princeton et Stanford ont déjà utilisé Tinker pour des tâches telles que la preuve formelle de théorèmes et le raisonnement chimique, obtenant des améliorations significatives des performances. La communauté de recherche en IA a salué Tinker pour son approche centrée sur le développeur, qui sépare le contrôle algorithmique de la gestion de l'infrastructure. Andrej Karpathy a souligné la conception intelligente de Tinker, permettant aux utilisateurs de conserver le contrôle algorithmique tout en déchargeant la complexité de l'infrastructure. John Schulman a décrit Tinker comme l'infrastructure qu'il a toujours souhaitée, permettant des opérations puissantes sans surveillance manuelle constante. Tinker est actuellement en version bêta privée et introduira bientôt un modèle de tarification à l'utilisation. Thinking Machines, qui a levé 2 milliards de dollars, vise à soutenir le développement d'IA ouvert et personnalisable, se distinguant par son accent sur les systèmes d'IA multimodaux qui collaborent avec les utilisateurs.
