엔드포인트와 AI 전략이 AI 워크로드가 역량 있는 디바이스 전반에 걸쳐 분산됨에 따라 통합되고 있습니다. IT 리더는 이제 디바이스 결정이 미래 AI 플랫폼에 미치는 영향을 고려해야 합니다. 엔터프라이즈 AI는 플랫폼, 모델, 클라우드 서비스에 중점을 두었지만, AI PC는 엔드포인트를 중요한 실행 환경으로 도입합니다. 다양한 AI 워크로드는 다양한 실행 환경을 필요로 하며, 민감하거나 지연 시간에 민감한 작업은 로컬 처리를 통해 이점을 얻습니다. 클라우드 모델은 대규모 또는 복잡한 추론 작업에 이상적입니다. 하이브리드 인텔리전스는 로컬 및 클라우드 리소스를 통합하여 디바이스를 AI 플랫폼의 능동적인 부분으로 만듭니다. 시간 경과에 따라 작동하고 데이터에 액세스하는 에이전트는 아키텍처 결정을 더욱 복잡하게 만듭니다. 이러한 교차점은 애플리케이션 설계, 보안 및 비용에 영향을 미치며, 엔드포인트, 보안 및 애플리케이션 팀 간의 협업을 요구합니다. 조직은 디바이스를 표준화하면서 까다로운 AI 워크로드를 위한 특수 구성을 제공할 수 있습니다. 기존 클라우드 기반 AI 솔루션은 로컬 추론을 통해 확장되어 디바이스와 클라우드 간에 처리를 분산할 수 있습니다. 실패 및 대체 전략은 엔드포인트 및 클라우드 기반 워크로드 모두에 중요하며, 보안, 개인 정보 보호 및 안정성에 영향을 미칩니다. 에이전트 기반 애플리케이션은 파일 액세스, 도구 사용 및 환경 전반의 활동에 대한 제어가 필요합니다. Microsoft Execution Containers 및 Microsoft Agent 365와 같은 기술은 엔터프라이즈의 일부로 에이전트 활동을 관리하는 것을 목표로 합니다. 워크로드 배치는 응답 시간, 개인 정보 보호, 연결성 및 사용 가능한 리소스와 같은 요인에 따라 달라집니다. 하이브리드 런타임은 실시간 조건에 따라 적절한 로컬 또는 클라우드 리소스로 작업을 동적으로 라우팅할 수 있습니다. 소프트웨어 개발은 복잡한 문제에 클라우드 모델을 활용하고 대상 작업에 로컬 모델을 활용함으로써 이를 보여줍니다. 로컬 실행에는 호환되는 모델, 런타임, 애플리케이션 경로 및 충분한 시스템 용량이 필요합니다. Windows ML은 다양한 하드웨어 리소스에서 지원되는 모델을 실행하기 위한 기반을 제공합니다. 로컬 추론을 통합한다는 것은 하드웨어가 아키텍처의 필수적인 부분이 되어 성능과 비용에 영향을 미친다는 것을 의미합니다. 디바이스 계획은 직원 역할과 잠재적인 전용 로컬 인프라를 고려해야 합니다. 현장 검사 워크플로 및 코파일럿은 로컬 및 클라우드 기능을 결합하여 하이브리드 인텔리전스를 보여줍니다. 로컬 AI 워크로드는 전체 디바이스 활동의 맥락에서 평가되어야 합니다. 디바이스 제조업체는 컴퓨팅, RAM 및 전력을 고려하여 진화하는 AI 환경을 지원하는 하드웨어를 설계하고 있습니다. 대표적인 하드웨어에서 애플리케이션을 테스트하는 것은 실제 성능을 이해하고 정보에 입각한 배치 결정을 내리는 데 중요합니다. 로컬 추론의 경제성은 로컬 컴퓨팅 비용과 클라우드 추론 비용 간의 절충을 포함합니다.