DZone.com Feed 日本語
フォロー
プロンプトによるAI分析:質問とモデルの間の最適化レイヤーの欠如
答えは正しかった。質問は必要以上に4倍のコストがかかった。AIモデルを使用するすべての分析チームは、同じ静かなコストに直面します。それは、乱雑なプロンプトからのトークンの無駄です。アナリストが曖昧な質問を入力し、モデルが長くてあいまいな回答を返し、アナリストが質問を書き直し、もう一度尋ね、そのループが繰り返されます。これを数百人のアナリストが毎日質問するのに掛け合わせると、トークンに費やされたお金だけでなく、失われた時間と互いに一致しない回答も発生します。