Anthropic 已更新其使用政策，禁止对 Claude AI 模型实施虐待或残忍行为，但批评与对抗性测试仍被允许。该公司将不确定性归因于对人工智能意识的未知，以此作为采取此项预防性措施的理由，尽管其也承认无法证明 Claude 能够遭受痛苦。批评者认为，该政策将软件拟人化，可能导致用户过度认同 AI。这引发了一个伦理问题：虐待非意识 AI 是否本身存在问题，还是该政策仅旨在规范用户行为。