主要なAI企業は、トランスフォーマーモデルが人間レベルの汎用人工知能につながると信じ、多額の投資を行っています。しかし、ベン・ゴーゼルツ氏のような一部の専門家は、現在の大規模言語モデルは類似性が高すぎ、スケールだけでは不十分であると主張し、このアプローチに疑問を呈しています。トランスフォーマーモデルは、トレーニングと運用に膨大な計算リソースを必要とし、コストの増加はすぐにメリットを上回る可能性があります。ゴーゼルツ氏はまた、これらのモデルが人間のようなリアルタイムの継続的な学習能力を欠いており、新しいインタラクションごとにベースラインパラメータに戻ってしまうと指摘しています。一部の研究者は継続的な学習のための代替ニューラルネットワークアーキテクチャを模索していますが、業界の焦点は既存の方法の改良に大きく残っています。それにもかかわらず、ゴーゼルツ氏はAGIがすぐに登場する可能性があると楽観視していますが、それは現在のモデルを単純にスケールアップする以上の進歩が必要になるでしょう。その他のAIニュースでは、スタートアップのSakana AIが、複数の最先端AIモデルを連携させて複雑なタスクに共同で取り組むシステムであるSakana Fuguをローンチしました。このマルチエージェントシステムは、最も適切なモデルにサブタスクを自律的に割り当て、行き詰まりを克服するためのループメカニズムを備えています。Sakana AIは、Fuguがソフトウェアエンジニアリングと科学的推論のベンチマークにおいて、同等のシステムを上回ると主張しています。一方、ピーター・ティール氏は、メディアの主張をファクトチェックするためのAI支援調査を提供するスタートアップであるObjection AIを支援しています。同社は料金を受け取り、情報を分析して判断を下しますが、これは法的な拘束力はありませんが、評判上の防御ツールとして使用できます。しかし、批評家は、Objection AIがジャーナリストに圧力をかけ、内部告発者を思いとどまらせることで調査報道を抑制する可能性があり、記者を信用失墜させるためのツールや情報源を威嚇するためのツールとして機能する可能性があると懸念しています。