AWS Neuron 2.31.0이 NKI 0.5.0과 함께 MX FP8 스케일 dtype 지원을 특징으로 출시되었습니다. 또한 최적화된 인덱스 액세스 패턴을 위한 텐서 간접 참조를 도입했습니다. 새로운 NkiTensor 뷰 API는 제로 코스트 텐서 레이아웃 변환을 가능하게 합니다. Amazon EKS용 Neuron UltraServer Operator가 현재 공개 베타 버전이며, Trainium 워크로드를 위한 UltraServer 관리를 자동화합니다. Neuron 컴파일러는 Trn2 및 Trn3에서 기본적으로 활성화된 재설계된 코드 생성 백엔드를 통해 성능을 향상시킵니다. Neuron 런타임은 이제 연속 공유 스크래치패드를 지원하여 장치 구성을 단순화합니다. NKI 라이브러리는 PyTorch 참조 구현과 함께 MoE 학습 콜렉티브 및 디포머블 어텐션을 포함한 14개의 새로운 실험적 커널을 추가합니다. Neuron Explorer는 시스템 트레이스 뷰어 소스 코드 연결 및 업데이트된 기본 그룹화를 통해 디버깅을 향상시킵니다. 이 릴리스는 AWS에서의 AI/ML 개발에 상당한 발전을 제공합니다. 사용자는 제공된 문서 링크를 통해 자세한 정보를 탐색할 수 있습니다.