당신의 AI 스프로울은 다시 한번 데브옵스 스프로울입니... 노트

당신의 AI 스프로울은 다시 한번 데브옵스 스프로울입니다. 수정하세요.

저자는 CTO로서 현재의 AI 도입과 과거 기술 전환 사이의 유사점을 파악하고 실수를 반복하지 않도록 경고합니다. 처음에는 그의 회사가 직원들이 개별적으로 최첨단 모델을 구독하면서 통제되지 않는 AI 지출을 경험했습니다. 이로 인해 높은 관리되지 않는 비용과 토큰 비용에 대한 이해 부족이 발생했습니다. 많은 기업들이 수많은 독립적인 AI 팀을 만들고 있으며, 각 팀은 자체 모델과 도구를 선택하여 비효율성을 초래하고 있습니다.이 상황은 2009년 DevOps 초창기와 유사하며, 당시에는 소규모 독립 팀이 번성했지만 결국 다양한 도구와 기술 부채의 복잡한 혼란을 야기했습니다. 이를 해결하기 위해 플랫폼 엔지니어링이 등장하여 개발자를 위한 "황금 경로(golden paths)"를 구축하고 도구를 통합했습니다. 마찬가지로 클라우드 컴퓨팅의 부상은 개발자들이 종종 가장 빠르고 가장 비싼 솔루션을 선택함에 따라 증가하는 비용을 관리하기 위해 FinOps를 가져왔습니다.오늘날 기업들은 DevOps 및 클라우드에서 그랬던 것처럼 AI 도구 및 모델의 통합 필요성을 인식하고 있습니다. 권장되는 해결책은 핵심 프로젝트로 시작하여 해당 기반 위에 후속 프로젝트를 구축하는 방식으로 AI 기능을 점진적으로 구축하는 것입니다. AI를 위한 플랫폼 엔지니어링과 유사한 이 접근 방식은 통합된 시스템을 만들고 "옷걸이 더미" — 분산된 도구와 기술 부채 — 를 피합니다. 과거의 실수를 통해 기업은 AI 구현의 파급 효과를 최소화하고 값비싼 비효율성을 방지할 수 있습니다.
CdXz5zHNQW_lJHgjlEWnX.png