Meta와 Apple, Mac Studio에 Muse ... 노트

Meta와 Apple, Mac Studio에 Muse Spark Open AI 모델 도입

Meta는 8160억 개의 파라미터를 가진 중요한 오픈 웨이트 모델인 Muse Spark Open을 출시했습니다. 이 모델은 Apple의 M5 Ultra Mac Studios에서 로컬로 작동하도록 특별히 최적화되었습니다. 효율적인 실행을 위해 Apple의 MLX 프레임워크를 활용합니다. Meta는 이것이 현재 사용 가능한 가장 뛰어난 미국 오픈 웨이트 모델이라고 주장합니다. Muse Spark Open은 총 8160억 개의 파라미터를 가지며, 420억 개의 활성 파라미터와 100만 토큰의 방대한 컨텍스트 창을 자랑합니다. 코딩 및 에이전트 작업에 최적화되어 있으며, 확장된 작업 및 다단계 추론에서 특히 뛰어난 성능을 발휘합니다. 이 모델은 Mac Studio 하드웨어에서 최적으로 실행되도록 튜닝되었습니다. Meta는 이 Mac Studio 설정이 강력한 모델의 데스크톱 배포를 위한 최고의 방법이라고 제안합니다. M5 Ultra의 Apple 통합 메모리 아키텍처는 상당한 메모리 용량과 대역폭을 제공합니다. 이 설정을 통해 두 개의 Mac Studio를 모델을 위한 단일 테라바이트 규모의 슈퍼컴퓨터로 기능하게 할 수 있습니다. 512GB Mac Studio는 아직 출시되지 않았지만 곧 출시될 것으로 예상되며 높은 비용 투자가 될 것입니다.