RSS VentureBeat
팔로우
Thinking Machines의 첫 번째 공식 제품이 출시되었습니다. 분산 LLM 미세 조정을 위한 API인 Tinker를 만나보세요.
OpenAI의 전 CTO인 미라 무라티가 설립한 AI 스타트업인 Thinking Machines는 대규모 언어 모델(LLM) 미세 조정을 간소화하도록 설계된 첫 번째 제품인 Tinker를 출시했습니다. Tinker는 분산 컴퓨팅 인프라를 관리하면서 개발자에게 학습 파이프라인에 대한 세밀한 제어를 제공하는 Python 기반 API입니다. 이를 통해 연구원들은 인프라 문제 없이 실험 설계 및 맞춤형 모델 개발에 집중할 수 있습니다. 이 도구는 Python 네이티브 기본 요소를 제공하고, Mixture-of-Experts를 포함한 다양한 오픈 가중치 모델을 지원하며, 비용 효율성을 위해 LoRA 기반 튜닝과 통합됩니다. Tinker에는 오픈 소스 동반 라이브러리인 Tinker Cookbook도 포함되어 있습니다. 프린스턴 및 스탠포드와 같은 기관의 연구원들은 이미 형식 정리 증명 및 화학적 추론과 같은 작업에 Tinker를 활용하여 상당한 성능 향상을 달성했습니다. AI 연구 커뮤니티는 알고리즘 제어를 인프라 관리에서 분리하는 개발자 중심 접근 방식에 대해 Tinker를 칭찬했습니다. Andrej Karpathy는 Tinker의 영리한 디자인을 강조하며 사용자가 알고리즘 제어를 유지하면서 인프라 복잡성을 오프로드할 수 있도록 했습니다. John Schulman은 Tinker를 지속적인 수동 감독 없이 강력한 작업을 수행할 수 있도록 하는 자신이 항상 원했던 인프라라고 설명했습니다. Tinker는 현재 비공개 베타 버전이며 곧 종량제 가격 모델을 도입할 예정입니다. 20억 달러를 모금한 Thinking Machines는 개방적이고 사용자 정의 가능한 AI 개발을 지원하는 것을 목표로 하며, 사용자와 협력하는 멀티모달 AI 시스템에 중점을 두어 차별화됩니다.
