DZone.comのRSS
フォロー
コンテキストローテーション:AIエージェントが稼働時間が長くなるにつれて悪化する理由
AI搭載機能は、テスト中は完璧に動作することが多いが、本番環境では静かに劣化する。モデルは変わっていない。プロンプトも変わっていない。レイテンシは正常に見える。エラー率はクリーンだ。しかし、応答は徐々に違和感を感じるようになり、わずかに disconnected、ニュアンスを欠き、手元のタスクに無関係なものを参照するようになる。
このパターンには名前がある。コンテキストの劣化(context rot)だ。例外は発生しない。ダッシュボードにも現れない。本番AIシステムにおける、より微妙な障害モードの一つであり、これを早期に理解することは、構築されるものの品質に大きな違いをもたらす。