VentureBeat на русском
Подписаться
Perplexity сотрудничает с Nvidia для запуска Portable Computer, полностью локального ИИ-агента без затрат на токены.
Perplexity выпустила Portable Computer — локальную версию своей платформы AI-агентов, предназначенную для работы на оборудовании, принадлежащем пользователям, начиная с Nvidia DGX Spark и машин под управлением Linux с графическими процессорами RTX. Эта инициатива направлена на перенос значительной части рабочих нагрузок AI-агентов из облака на локальные устройства, обеспечивая конфиденциальность пользовательских данных и работы. Приложение воспроизводит полный набор функций агента и возможности вывода, доступные в облачной версии, предлагая упрощенный опыт для таких задач, как анализ документов и данных. Для Nvidia этот запуск является стратегической ставкой на растущую практичность локального ИИ и аппаратного обеспечения, необходимого для его работы. Portable Computer объединяет весь локальный ИИ-стек, включая модели и инструменты, в единое, удобное для пользователя приложение. Эта интеграция избавляет пользователей от необходимости вручную собирать и настраивать сложные локальные ИИ-системы. Демонстрации показали его способность обрабатывать конфиденциальные финансовые документы локально без зависимости от облака, при этом кредиты на оплату показывали нулевое использование. Платформа также поддерживает гибридные операции, позволяя передавать результаты локального анализа в облачные сервисы, такие как Slack. Perplexity подчеркивает, что совместное проектирование модели и системы агента имеет решающее значение для эффективного локального ИИ, поскольку небольшие модели испытывают трудности с универсальными фреймворками. Этот продукт призван упростить процесс запуска сложных AI-агентов локально, привлекая как индивидуальных пользователей, так и предприятия, стремящиеся к большему контролю и конфиденциальности.