InfoQ 日本語
フォロー
プレゼンテーション:ブラックボックスを開く:Kiji Inspectorを用いたAIエージェントのツール選択のためのクリティカルな説明可能性
Hannes Hapkeは、DataikuのオープンソースKiji Inspectorが、決定トークンにスパースオートエンコーダー(SAE)を直接適用して、エージェントが特定のツールを選択する理由を明らかにする方法を共有します。表層的な思考連鎖の物語を超えて、彼は因果的アブレーション、パッチ適用されたvLLMエンジンによるレイヤー活性化抽出、そしてソフトウェアアーキテクトおよびシニアエンジニアリングリーダー向けのプロダクションモニタリングワークフローについて論じます。Hannes Hapkeによる