월스트리트는 AI 구축에 대해 논의 중입니다. 기업들이... 노트

월스트리트는 AI 구축에 대해 논의 중입니다. 기업들이 방금 답했습니다: 86%가 GPU가 절반 용량 이하로 작동한다고 말합니다.

기업들은 적절한 통제 없이 의도적으로 AI 에이전트를 배포하고 있습니다. 현재 이 시스템들을 개조하는 작업을 진행 중이며, 다섯 가지 통제 계층에 걸쳐 공급업체 변경을 위한 예산을 할당했습니다. 이 계층에는 에이전트 신원, 출력 평가, 비용 원격 측정, 컨텍스트 관리 및 오케스트레이션이 포함됩니다. 기업들은 이미 결과를 직면하고 있으며, 대다수가 에이전트 보안 사고 또는 아차 사고를 경험했습니다. 또한 많은 기업이 에이전트 지출에 대해 반응적으로 통제하고 있으며, 청구서를 받은 후에야 비용을 파악하고 있습니다.주요 발견 사항은 자체 GPU를 운영하는 기업의 86%가 50% 미만의 활용률을 보고한다는 것입니다. 또한, AI 컴퓨팅 비용 및 수익을 엄격하게 추적하는 기업은 44%에 불과하며, 대부분은 여전히 추정하고 있습니다. 배포된 "에이전트"의 상당수는 복잡한 다단계 작업을 수행할 수 없는 기본적인 단일 프롬프트 챗봇입니다. 이는 더 간단한 도구가 실제 에이전트로 잘못 표시되는 일반적인 "에이전트워싱" 추세를 강조합니다.기업의 3분의 2는 이러한 시스템을 완전히 신뢰하는 비율이 5%에 불과함에도 불구하고, 자동화된 평가를 기반으로 AI 에이전트가 프로덕션에 변경 사항을 푸시하도록 허용합니다. 기업의 절반은 내부 평가를 통과한 후 고객 대면 오류를 유발한 에이전트를 출시했습니다. 상당수의 기업(69%)이 에이전트 자격 증명 공유를 허용하여 보안 사고율이 상당히 높아지고 있습니다.기업의 57%는 잘못된 지표 또는 오래된 정의와 같이 누락되거나 일관성 없는 비즈니스 컨텍스트로 인해 잘못된 에이전트 답변을 추적했습니다. AI 에이전트 "이식성"의 필요성이 우선 과제로 부상했으며, 기업들은 하이브리드 오케스트레이션 제어 평면을 예상하고 있습니다. 단일 공급업체도 다섯 가지 중요 통제 계층 중 어느 곳에서도 지배력을 확립하지 못했습니다. 기업들은 주로 가드레일 및 솔루션을 위해 기존 클라우드 및 모델 공급업체가 제공하는 기본 도구에 의존하고 있습니다. 향후 설문 조사는 이러한 계획된 예산 할당이 에이전트 보안, 평가 엄격성, GPU 활용률 및 의미 계층 구현 개선으로 이어지는지 추적할 것입니다.
CdXz5zHNQW_LCnSjHPUvC.png