AWS Neuron 2.31.0 がリリースされ、MX FP8 スケール dtype をサポートする NKI 0.5.0 が搭載されました。また、最適化されたインデックスアクセスパターンを実現するテンソル間接参照も導入されています。新しい NkiTensor ビュー API により、ゼロコストのテンソルレイアウト変換が可能になりました。Amazon EKS 用の Neuron UltraServer Operator がパブリックベータ版となり、Trainium ワークロードの UltraServer 管理を自動化します。Neuron Compiler は、Trn2 および Trn3 でデフォルトで有効化された再設計されたコード生成バックエンドにより、パフォーマンスが向上しました。Neuron Runtime は、連続共有スクラッチパッドをサポートし、デバイス構成を簡素化します。NKI Library は、PyTorch リファレンス実装とともに、MoE トレーニングコレクティブやデフォーマブルアテンションを含む 14 の新しい実験的カーネルを追加しました。Neuron Explorer は、System Trace Viewer のソースコードリンクと更新されたデフォルトグルーピングにより、デバッグ機能を強化します。このリリースは、AWS 上での AI/ML 開発に大きな進歩をもたらします。ユーザーは、提供されているドキュメントリンクを通じて詳細情報を探索できます。