VentureBeat 한국어
팔로우
Perplexity, Nvidia와 협력하여 토큰 비용이 전혀 들지 않는 완전 로컬 AI 에이전트인 Portable Computer 출시
Perplexity는 사용자가 소유한 하드웨어에서 실행되도록 설계된 AI 에이전트 플랫폼의 로컬 버전인 Portable Computer를 출시했습니다. 이 플랫폼은 Nvidia의 DGX Spark 및 RTX GPU가 탑재된 Linux 머신부터 시작합니다. 이 이니셔티브는 상당한 AI 에이전트 워크로드를 클라우드에서 로컬 장치로 이동시켜 사용자 데이터와 작업의 개인 정보를 유지하는 것을 목표로 합니다. 이 애플리케이션은 클라우드 버전에서 볼 수 있는 전체 에이전트 하네스와 추론 기능을 복제하여 문서 검토 및 데이터 분석과 같은 작업을 위한 간소화된 경험을 제공합니다. Nvidia에게 이 출시는 로컬 AI의 증가하는 실용성과 이를 구동하는 데 필요한 하드웨어에 대한 전략적 베팅을 의미합니다. Portable Computer는 모델 및 도구를 포함한 전체 로컬 AI 스택을 단일 사용자 친화적인 애플리케이션으로 패키징합니다. 이 통합으로 인해 사용자는 복잡한 로컬 AI 시스템을 수동으로 조립하고 구성할 필요가 없습니다. 시연에서는 클라우드 의존 없이 민감한 금융 문서를 로컬에서 처리하는 능력을 보여주었으며, 청구 크레딧은 사용량이 0으로 표시되었습니다. 이 플랫폼은 또한 하이브리드 운영을 지원하여 로컬 분석을 Slack과 같은 클라우드 서비스로 푸시할 수 있습니다. Perplexity는 효율적인 로컬 AI를 위해 모델과 에이전트 하네스를 공동 설계하는 것이 중요하다고 강조합니다. 이는 소형 모델이 범용 프레임워크로 어려움을 겪기 때문입니다. 이 제품은 정교한 AI 에이전트를 로컬에서 실행하는 프로세스를 단순화하여 더 큰 제어와 개인 정보를 추구하는 개인 사용자 및 기업 모두에게 매력적입니다.