Python コーディングスタック:2. 実際に作業を行うの... ノート

Python コーディングスタック:2. 実際に作業を行うのは、モデルかソフトウェアか?

この会話では、AIエージェントの構成要素について探求し、大規模言語モデル(LLM)とそれを囲むソフトウェアを区別します。AIが写真を整理する際、LLMはコンピューター上のファイルに直接アクセスするのではなく、リクエストを生成します。このリクエストは、エージェントの操作を管理するソフトウェアである「ハーネス」によって受信されます。ハーネスはその後、ファイルを一覧表示したりメタデータを読み取ったりするようなアクションを実行するために、特定の「ツール」を使用します。ハーネスはこれらのツールからの結果をLLMに返し、LLMが情報を処理して次のステップを決定できるようにします。LLMは構造化された「ツール呼び出し」を通じてハーネスにリクエストを伝え、ハーネスはそれを解釈して正しいツールを呼び出します。この相互作用により、モデル、ハーネス、ツールが繰り返し情報を交換するエージェントループが作成されます。モデルを「脳」、ツールを「筋肉」、ハーネスを「コーディネーター」とするアナロジーは、それぞれの役割を明確にするのに役立ちます。しかし、ハーネスは意図しないファイルの変更を防ぐといったルールや制限も強制します。プロセスは、モデルが最終的な応答を生成するか、ハーネスがエラーや制限のために操作を停止すると終了します。エージェントはまた、ファイルを特定のフォルダーにコピーするといったタスクが、元のファイルを変更することなく正確に完了したことを検証する必要があります。
CdXz5zHNQW_eyYaVLyYu6.jpeg