오늘 AWS는 AWS Trainium을 위한 오픈 소스 네이티브 PyTorch 백엔드인 TorchNeuron의 공개 베타를 출시했습니다. Trainium은 딥러닝 AI 학습 및 추론 워크로드에 대해 고성능 및 비용 효율성을 제공하도록 설계된 AI 칩 포트폴리오입니다. TorchNeuron은 AI 과학자와 연구자가 Trainium에서 PyTorch를 사용하여 네이티브로 모델을 실험하고 구축할 수 있도록 합니다.TorchNeuron을 사용하면 개발자는 .to('neuron')으로 전환하는 것만으로 PyTorch 코드를 Trainium에서 사용할 수 있으며, 즉시 실행, torch.compile 및 표준 PyTorch API와의 완전한 PyTorch 호환성을 유지할 수 있습니다. 또한 TorchNeuron은 Neuron Kernel Interface(NKI)와 통합되어 Trainium 하드웨어에 대한 사용자 지정 연산자 및 성능 최적화를 지원합니다.TorchNeuron은 Amazon EC2 Trainium2 인스턴스 및 Amazon EC2 Trainium3 인스턴스에 대해 TorchNeuron github 리포지토리를 통해 오픈 소스로 제공됩니다.TorchNeuron 및 AWS Trainium 가속기에 대해 자세히 알아보려면 AWS Neuron 페이지를 방문하십시오.