토큰맥싱은 제외되었고, 가치맥싱이 유행입니다 노트

토큰맥싱은 제외되었고, 가치맥싱이 유행입니다

테슬라, 우버, 메타, 아마존, 월마트와 같은 기업들이 AI 토큰 소비에 대한 접근 방식을 바꾸고 있습니다. 처음에는 기업들이 "무제한 프롬프트" 모델과 유사하게 AI 사용을 무제한으로 허용했습니다. 이는 AI 연구소들이 대부분의 비용을 부담하는, 크게 보조금을 지급받은 토큰 가격으로 가능했습니다. 그러나 AI 사용이 증가함에 따라 비용도 증가했고, 재무 부서가 ROI를 면밀히 검토하게 되었습니다. 이로 인해 모든 AI 작업에 비싸고 고성능 모델이 필요한 것은 아니라는 사실을 깨닫게 되었습니다. "토큰맥싱(tokenmaxxing)", 즉 토큰 사용을 극대화하는 개념이 이제는 AI가 가장 많은 수익을 제공하는 곳에 지출하는 데 초점을 맞추는 "밸류맥싱(valuemaxxing)"으로 전환되고 있습니다.밸류맥싱을 구현하기 위해 세 가지 단계가 권장됩니다. 첫째, AI 지출을 효과적으로 추적하기 위해 재무 운영(FinOps)을 구축해야 합니다. 둘째, 일상적이고 대량의 작업은 저렴하고 성능이 낮은 AI 모델이나 오픈 소스 대안으로 위임하고, 복잡하고 다단계 프로세스를 위해 프리미엄 모델을 예약해야 합니다. 셋째, 극도로 높고 일관된 사용량의 경우, 기업은 API 액세스를 임대하는 것과 비교하여 자체 AI 하드웨어를 소유하는 비용 효율성을 고려해야 합니다. AI 사용을 생성된 가치와 일치시킴으로써 기업은 AI 비용을 용인되는 지출에서 통제된 투자로 전환할 수 있습니다. 이 전략적 접근 방식은 비싼 AI 리소스가 실제로 비용을 정당화하는 작업에만 사용되도록 보장하여 전반적인 AI 유용성을 희생하지 않으면서 상당한 비용 절감을 가져옵니다. 궁극적인 목표는 AI 사용을 줄이는 것이 아니라, 더 지능적이고 효과적으로 사용하는 것입니다.
CdXz5zHNQW_gktqWIbMnJ.png