Выпущена версия AWS Neuron 2.33, включающая TorchNeuron, нативный бэкенд PyTorch для AWS Trainium, в публичной бета-версии. Пользователи теперь могут запускать стандартные модели PyTorch на инстансах Amazon EC2 Trn2 и Trn3, используя режим eager или torch.compile. Это обновление также представляет Neuron Observer в публичной бета-версии для быстрого обнаружения и диагностики проблем с работоспособностью Trainium. Плагин vLLM Neuron обновлен до версии vLLM 0.29.0, а плагин vLLM Omni Neuron для генерации видео теперь интегрирован. Оба плагина используют TorchNeuron для нативной компиляции PyTorch. Новые AMI и контейнеры Neuron Deep Learning включают TorchNeuron, PyTorch 2.14 и TorchTitan для обучения PyTorch. Neuron Explorer теперь приписывает выделение памяти конкретным строкам исходного кода Python для отладки ошибок нехватки памяти. Ядра, написанные с использованием Neuron Kernel Interface (NKI), теперь могут использовать полный язык Python для метапрограммирования. Библиотека NKI добавила 25 новых экспериментальных ядер, включая ядра для недавних больших языковых моделей и механизмов внимания. Эти улучшения направлены на упрощение обучения PyTorch на AWS Trainium и улучшение возможностей отладки.