Martin Fowler 日本語
フォロー
断片:7月13日
ソフトウェア開発合宿では、LLMのモデルアテンションを確保するためのコンテキスト管理に重点を置いた、Harness Engineeringへの関心の高まりが浮き彫りになりました。計算センサーも注目を集めており、Rustのような言語への移行や、検証技術の強化が進んでいます。ハーネスの将来的な有用性は依然として不確かですが、現在はトークン使用量の削減や、より弱いモデルの活用といったメリットを提供しています。トークンコストの上昇や、最先端モデルプロバイダーからの独立への欲求から、オープンウェイトモデルのセルフホスティングがますます魅力的になっています。情報セキュリティやデータ主権といった要因も、このトレンドをさらに後押ししています。しかし、セルフホスティングは、GPU人材の不足や、プライベートクラウドの初期段階と同様の、かなりの運用コストといった課題を抱えています。LLMの効果的な管理は、セルフホスト型であれ外部型であれ、ユーザーに適切なモデルを選択するように教え、場合によってはLLMをタスク分配のブローカーとして使用することにかかっています。特定のドメイン向けにモデルをファインチューニングすることは増加すると予想されており、より効率的でコスト効果の高い運用につながります。中心的なテーマとして、AIエージェントに委任すべき作業の適切な単位を決定し、その出力に対する信頼性を維持することが浮上しました。 「私に石を持ってきて」という概念は再構築され、AIの忍耐力があれば、反復的な改善が防御可能なワークフローになり得ることを示唆しました。LLMを誰が主導すべきかという議論は、エンジニアリング以外のスキルを重視し、方法ではなく目標によって管理することに焦点を移しました。最終的に、AIを用いたソフトウェア構築は、AIがモデルの作成と理解を完全にアウトソースできないため、探求と人間のガイダンスを伴います。Qwen 3.6のようなローカルモデルは、エージェンティックプログラミングにおいて実行可能であることが証明されており、強力なモデルに単純なタスクにはより安価なモデルを使用するように指示するなどの戦略は、コストを管理できます。AIの台頭は開発者教育に影響を与えており、有料コースの将来的な実行可能性や、無料の高品質コンテンツ作成の持続可能性についての懸念が生じています。