RSS VentureBeat
팔로우
Cohere, 단일 H100에서 실행되는 코딩 에이전트를 오픈 소스로 공개
Cohere는 에이전트 코딩 파이프라인을 위한 오픈 소스 모델인 North Mini Code를 출시했습니다. 이 300억 개의 매개변수를 가진 혼합 전문가 모델은 단일 H100에서 효율적으로 실행되며, 하위 에이전트 오케스트레이션 및 아키텍처 매핑과 같은 작업에 이상적입니다. 256,000 토큰의 대규모 컨텍스트 창과 64,000 토큰의 최대 생성 길이를 자랑합니다. North Mini Code는 통합 도구 사용 및 인터리빙 사고를 포함한 소프트웨어 엔지니어링 워크플로우를 위해 특별히 설계되었습니다. 대규모 코드베이스 분석, 시스템 아키텍처 매핑 및 코드 검토에 탁월합니다. 또한, 이 모델은 쉘 명령 및 도구와 상호 작용하는 터미널 기반 에이전트 작업을 위해 훈련되었습니다. Cohere는 다양한 에이전트 스캐폴드에 걸쳐 지도 미세 조정 및 강화 학습을 통해 이를 훈련했습니다. 인상적인 출력 토큰 생성을 제공하지만, 더 장황할 수 있어 고용량 시나리오에서 추론 비용이 더 높아질 수 있습니다. 이 릴리스는 Claude Fable 5와 같은 관리형 모델에 대한 직접적인 대안을 제공하며, 로컬 배포 및 비용 효율성을 강조합니다. 기업은 이제 목적별 에이전트 훈련과 장황함이 파이프라인 비용에 미치는 영향을 고려해야 합니다. North Mini Code와 관리형 서비스 간의 선택은 비용 통제와 인프라 오버헤드 간의 실제 절충점을 제시합니다.
