プレゼンテーション:eBPFマジックでAIとAPIを魅了しよ... ノート
InfoQ 日本語

プレゼンテーション:eBPFマジックでAIとAPIを魅了しよう🪄

Dan Finneranは、本番環境における所有権のないAI生成コードのリスクについて論じ、eBPFがKubernetesでAI APIトラフィックを傍受および制御する方法を実演します。彼は、カーネルレベルのソケットフックが、アプリケーションソースコードを変更したりコンテナを再起動したりすることなく、AIエージェントを保護するために、透過的なプロンプトフィルタリング、モデルスワッピング、トークン制限、およびシステムコール制限を可能にすることを説明します。Dan Finneranより
CdXz5zHNQW_9HQLoqFlRV.jpeg