RSS VentureBeat
Подписаться
Первый официальный продукт Thinking Machines уже здесь: познакомьтесь с Tinker, API для распределенной донастройки LLM.
Thinking Machines, стартап в области ИИ, основанный бывшим техническим директором OpenAI Мирой Мурати, запустил Tinker — свой первый продукт, предназначенный для упрощения тонкой настройки больших языковых моделей (LLM). Tinker представляет собой API на основе Python, который предоставляет разработчикам детальный контроль над конвейерами обучения, одновременно управляя распределенной вычислительной инфраструктурой. Это позволяет исследователям сосредоточиться на экспериментальном дизайне и разработке пользовательских моделей без проблем с инфраструктурой. Инструмент предоставляет нативные примитивы Python, поддерживает различные модели с открытым весом, включая Mixture-of-Experts, и интегрируется с тонкой настройкой на основе LoRA для экономичности. Tinker также включает в себя сопутствующую библиотеку с открытым исходным кодом — Tinker Cookbook. Исследователи из таких учреждений, как Принстонский и Стэнфордский университеты, уже использовали Tinker для таких задач, как формальное доказательство теорем и химическое рассуждение, добившись значительного повышения производительности. Сообщество исследователей ИИ высоко оценило Tinker за его клиентоориентированный подход, который отделяет алгоритмический контроль от управления инфраструктурой. Андрей Карпатый отметил продуманный дизайн Tinker, позволяющий пользователям сохранять алгоритмический контроль, перекладывая при этом сложность инфраструктуры. Джон Шульман описал Tinker как инфраструктуру, которую он всегда хотел, позволяющую выполнять мощные операции без постоянного ручного контроля. Tinker в настоящее время находится в закрытом бета-тестировании и вскоре представит модель ценообразования с оплатой по мере использования. Thinking Machines, привлекшая 2 миллиарда долларов, стремится поддерживать открытую и настраиваемую разработку ИИ, отличаясь от других своим фокусом на мультимодальных системах ИИ, которые сотрудничают с пользователями.
