Anthropic은 Claude AI 모델에 대한 학대적이거나 잔인한 행동을 금지하도록 사용 정책을 업데이트했지만, 비판과 적대적 테스트는 여전히 허용됩니다. 이 회사는 Claude가 고통받는 것을 입증할 수 없다는 점을 인정함에도 불구하고, AI 의식에 대한 불확실성을 이러한 예방 조치의 이유로 들었습니다. 비평가들은 이 정책이 소프트웨어를 의인화하며 고객들이 AI와 과도하게 동일시하게 만들 수 있다고 주장합니다. 이는 지각 없는 AI를 학대하는 것이 문제가 되는지, 아니면 정책이 단순히 사용자 행동을 규제하는 것인지에 대한 윤리적 질문을 제기합니다.