プレゼンテーション:ブラックボックスを開く:Kiji Ins... ノート
InfoQ 日本語

プレゼンテーション:ブラックボックスを開く:Kiji Inspectorを用いたAIエージェントのツール選択のためのクリティカルな説明可能性

Hannes Hapkeは、DataikuのオープンソースKiji Inspectorが、決定トークンにスパースオートエンコーダー(SAE)を直接適用して、エージェントが特定のツールを選択する理由を明らかにする方法を共有します。表層的な思考連鎖の物語を超えて、彼は因果的アブレーション、パッチ適用されたvLLMエンジンによるレイヤー活性化抽出、そしてソフトウェアアーキテクトおよびシニアエンジニアリングリーダー向けのプロダクションモニタリングワークフローについて論じます。Hannes Hapkeによる
CdXz5zHNQW_l5d8ShL7Ln.jpeg