ExecuTorch ist das PyTorch-Inferenz-Framework für Edge-Geräte, das von Meta mit Unterstützung von Branchenführern wie Arm, Apple und Qualcomm entwickelt wurde. Das Ausführen von Machine-Learning-(ML)-Modellen auf Geräten wird für Metas App-Familie (FoA) immer wichtiger. Diese On-Device-Modelle verbessern die Latenz, wahren die Privatsphäre der Nutzer, indem sie Daten auf den Geräten der Nutzer belassen, und ermöglichen Offline-Funktionalität. [...]
engineering.fb.com
Accelerating on-device ML on Meta’s family of apps with ExecuTorch
