Ускорение машинного обучения на устройствах в приложениях Meta с помощью ExecuTorch

ExecuTorch — это фреймворк для инференса PyTorch для периферийных устройств, разработанный Meta при поддержке лидеров отрасли, таких как Arm, Apple и Qualcomm. Запуск моделей машинного обучения (ML) на устройстве становится все более важным для семейств приложений Meta (FoA). Эти модели на устройстве улучшают задержку, сохраняют конфиденциальность пользователей, удерживая данные на устройствах пользователей, и обеспечивают автономную работу. [...]