GPU 메모리는 AI 프로덕션에서 가장 비싸고 빠르게 소모되는 리소스입니다. 더 긴 컨텍스트 창과 다중 턴 대화는 이전에 처리된 정보의 비효율적인 재계산을 유발합니다. Weka는 NeuralMesh 6 플랫폼과 Wekapod 3 하드웨어를 통해 저렴한 플래시 스토리지를 사용하여 GPU 메모리를 확장하는 것을 목표로 합니다. Augmented Memory Grid는 NAND 플래시를 집계하여 더 낮은 비용으로 GPU 메모리를 모방합니다. 이러한 혁신은 Dell 및 NetApp과 같은 기존 업체들도 AI 인프라에 집중하고 있는 경쟁 시장에 진입합니다. Weka는 즉각적인 컴퓨팅 가용성에 대한 고객의 요구를 해결하는 AI 네이티브 디자인을 강조합니다. 핵심 이점은 GPU 활용도 향상, 추론 비용 절감, AI 워크로드 배포 속도 향상입니다. 이 기술은 대규모 AI 운영 및 급격한 성장을 경험하는 기업에 특히 가치가 있습니다. NeuralMesh 6의 주요 기능에는 효율적인 리소스 공유를 위한 컴포저블 및 가상 멀티테넌시가 포함됩니다. 또한 통합 파일 및 오브젝트 스토리지를 제공하여 데이터 중복을 제거합니다. 메타데이터 우선 복제는 대상 환경에서 데이터 가용성을 높입니다. Augmented Memory Grid는 사전 계산된 토큰을 캐싱하여 낭비되는 컴퓨팅을 해결하고, 확장된 대화에서 중복 처리를 방지합니다. 이 접근 방식은 기존 GPU 메모리보다 훨씬 더 많은 NAND 스토리지를 허용하여 사전 계산된 토큰의 완전한 캐싱을 가능하게 합니다.