20년 동안 우리는 데이터를 인텔리전스로 옮기는 데 집중했습니다. 이제 우리는 엄청난 변화를 목격하고 있습니다. 인텔리전스를 데이터로 옮겨야 합니다. 이러한 전환은 모든 것을 바꿉니다. 여러분의 호스트 플랫폼은 더 이상 단순한 API 게이트웨이가 아닙니다. 운영 체제입니다. 모델에 관한 것이 아니었던 회의AI 인프라에 대한 제 생각을 바꾼 회의는 모델에 관한 것이 거의 아니었습니다. 우리는 모델 품질에 대해 몇 달 동안 집착했습니다. 그러다 몇 주 만에 안건이 조용히 재편되었습니다. 우리는 제3자 유닛의 온보딩에 대해 이야기하고 있었습니다. 우리는 동일한 모델의 두 버전이 리플레이 시점에 동의하지 않을 때 어떤 일이 발생하는지 토론했습니다. 우리는 한 테넌트의 추론이 공유 가속기에서 이웃의 추론을 굶주리게 할 수 있는지 걱정했습니다. 우리는 1밀리초에 대한 비용을 누가 지불하는지에 대해 싸웠습니다.