InfoQ 日本語
フォロー
プレゼンテーション:eBPFマジックでAIとAPIを魅了しよう🪄
Dan Finneranは、本番環境における所有権のないAI生成コードのリスクについて論じ、eBPFがKubernetesでAI APIトラフィックを傍受および制御する方法を実演します。彼は、カーネルレベルのソケットフックが、アプリケーションソースコードを変更したりコンテナを再起動したりすることなく、AIエージェントを保護するために、透過的なプロンプトフィルタリング、モデルスワッピング、トークン制限、およびシステムコール制限を可能にすることを説明します。Dan Finneranより