RSS DEV 커뮤니티

JuiceFS Enterprise 5.3: 파일 시스템 당 5000억 개 이상의 파일 지원 및 RDMA 지원

JuiceFS Enterprise Edition 5.3이 출시되었습니다. 이번 버전은 단일 파일 시스템 내에서 5천억 개 이상의 파일을 관리할 수 있도록 용량을 향상시켰습니다. 특히, 메타데이터 멀티존 아키텍처를 대폭 최적화하여 존 제한을 1,024개로 늘려 이 방대한 규모를 지원합니다. 또한, 분산 캐싱 효율성을 높이고 데이터 전송 중 CPU 사용량을 줄이기 위해 RDMA 기술을 최초로 통합했습니다. 5.3 버전은 미러 쓰기 지원을 개선하여 임시 파일 쓰기를 허용하고, 미러가 사용 불가능해질 경우 읽기 요청에 대한 대체 메커니즘을 제공합니다. 또한, 여러 버킷에 걸쳐 가져온 객체를 캐싱하는 기능을 새롭게 도입하여 유연성을 높였습니다. 이번 업데이트는 대규모 분산 시스템의 성능 문제를 해결하기 위해 수동 개입 도구와 대규모 마이그레이션 개선을 통해 자동 핫스팟 밸런싱을 도입했습니다. 또한, 자체 점검을 통해 중간 마이그레이션 상태를 자동으로 복구하고 정리하여 시간이 지남에 따라 발생할 수 있는 오류를 방지함으로써 안정성을 강화했습니다. 스트레스 테스트를 통해 초당 약 500만 개의 파일 속도로 약 4천억 개의 파일을 쓰는 시스템의 안정성과 성능을 입증했습니다. RDMA 기술 통합은 CPU 부하를 크게 줄이고 대역폭 활용도를 높여, 특히 고수요 시나리오에서 큰 이점을 제공합니다. 향상된 미러 쓰기 지원은 고가용성과 비용 절감을 균형 있게 유지하며, 단일 미러 노드 배포를 가능하게 합니다. 여러 객체 스토리지 버킷에 데이터가 분산된 사용자를 위해 가져온 객체에 대한 교차 버킷 데이터 캐시를 제공하여 관리를 간소화했습니다. 추가 최적화로는 고급 성능 분석을 위한 추적 기능과 향상된 휴지통 복구 안정성이 포함됩니다. Python SDK 개선은 SDK 내에서 운영 하위 명령에 직접 액세스할 수 있도록 하여 사용자 상호 작용을 더욱 간소화했습니다. 이러한 발전은 JuiceFS Enterprise Edition의 입지를 까다로운 AI 및 멀티 클라우드 환경을 위한 고성능 솔루션으로 더욱 굳건히 합니다.
favicon
dev.to
JuiceFS Enterprise 5.3: 500B+ Files per File System & RDMA Support
기사 이미지: JuiceFS Enterprise 5.3: 파일 시스템 당 5000억 개 이상의 파일 지원 및 RDMA 지원