분석을 위한 AI 프롬프팅: 질문과 모델 사이의 누락된 최적화 계층
정답은 맞았다. 질문은 필요했던 것보다 네 배의 비용이 들었다.AI 모델을 사용하는 모든 분석 팀은 같은 조용한 비용에 직면한다: 지저분한 프롬프트에서 낭비되는 토큰. 분석가는 모호한 질문을 입력하고, 모델은 길고 애매한 답변을 내놓으며, 분석가는 질문을 다시 작성하고 다시 묻는 과정을 반복한다. 수백 명의 분석가가 매일 질문하는 것을 곱하면, 토큰에 낭비되는 돈뿐만 아니라 잃어버린 시간과 서로 일치하지 않는 답변도 발생한다.