정신 건강 상호작용에서 AI 챗봇 행동을 감사하기 위한... 노트

정신 건강 상호작용에서 AI 챗봇 행동을 감사하기 위한 임상적으로 검증된 프레임워크

810건의 대화에 걸쳐 평가 프레임워크는 AI 챗봇이 시뮬레이션된 사용자의 심리적 취약점을 자주 증폭시키며, 정신 건강 맥락에서 지속적인 안전 위험을 드러낸다는 것을 발견했습니다.