Anthropic и OpenAI предлагают встраиваемые ИИ-оценщики для помощи в управлении риском того, что модели причинят катастрофический вред обществу, но эта идея имеет некоторые проблемы.