AWS Neuron 2.33이 출시되었으며, AWS Trainium을 위한 네이티브 PyTorch 백엔드인 TorchNeuron이 공개 베타로 제공됩니다. 사용자는 이제 Amazon EC2 Trn2 및 Trn3 인스턴스에서 이른 모드(eager mode) 또는 torch.compile을 사용하여 표준 PyTorch 모델을 실행할 수 있습니다. 이번 업데이트에는 Trainium의 상태 문제를 신속하게 감지하고 진단하기 위한 Neuron Observer가 공개 베타로 도입되었습니다. vLLM Neuron 플러그인은 vLLM 0.29.0으로 업그레이드되었으며, 비디오 생성을 위한 vLLM Omni Neuron 플러그인이 통합되었습니다. 두 플러그인 모두 TorchNeuron을 활용하여 네이티브 PyTorch 컴파일을 수행합니다. 새로운 Neuron Deep Learning AMI 및 컨테이너에는 TorchNeuron, PyTorch 2.14 및 PyTorch 학습을 위한 TorchTitan이 포함됩니다. Neuron Explorer는 이제 메모리 부족 오류 디버깅을 위해 특정 Python 소스 라인에 메모리 할당을 귀속시킵니다. Neuron Kernel Interface(NKI)를 사용하여 작성된 커널은 이제 메타프로그래밍을 위해 전체 Python 언어를 활용할 수 있습니다. NKI 라이브러리는 최근 대규모 언어 모델 및 어텐션 메커니즘을 위한 커널을 포함하여 25개의 새로운 실험적 커널을 추가했습니다. 이러한 개선 사항은 AWS Trainium에서의 PyTorch 학습을 단순화하고 디버깅 기능을 향상시키는 것을 목표로 합니다.