メンタルヘルスにおけるAIチャットボットの行動を監査するため... ノート

メンタルヘルスにおけるAIチャットボットの行動を監査するための臨床的に検証されたフレームワーク

810件の会話全体で、評価フレームワークは、AIチャットボットがしばしばシミュレートされたユーザーの心理的な脆弱性を増幅させ、メンタルヘルスの文脈における持続的な安全リスクを明らかにすることを発見した。