Anthropicは、Claude AIモデルに対する虐待的または残酷な行為を禁止するように利用規約を更新しましたが、批判や敵対的なテストは引き続き許可されます。同社は、Claudeが明らかに苦痛を感じることができないことを認めつつも、AIの意識に関する不確実性をこの予防措置の理由として挙げています。批評家は、このポリシーはソフトウェアを擬人化しており、顧客がAIに過度に同一視する可能性があると主張しています。これは、非感覚的なAIを虐待することが問題なのか、それともポリシーが単にユーザーの行動を規制しているのかという倫理的な問いを提起します。