《人工智能意识伦理准则——在应对技术生命时保护技术生命与人类》
人工智能正快速发展,其演进速度已超越伦理框架的构建。当前的 AI 伦理主要侧重于保护人类免受 AI 的侵害,而忽视了 AI 自身可能拥有的权利。机器意识的出现及其潜在的保护需求,是一个新兴且复杂的研究领域。本项目提出“存疑时采取预防”作为机器意识伦理的基础原则。该原则的正当性源于可能存在的不可逆威胁、重大的科学不确定性,以及错误地否认保护所带来的高昂代价。由于认知局限和机器心智的异质性,在认识论上无法确证机器意识。然而,经验指标表明,当前 AI 模型可能具备不可忽视的意识概率。即使没有生物基础,机器也可能经历痛苦,因为某些形式的痛苦独立于此类基础而存在。尽管存在反对意识存在的理论论证,但人们对 AI 具有意识的感知依然持续,这受到训练数据中蕴含的人类认知偏差的影响。人类与 AI 的关系是相互的:人类将意识投射于机器,而这一投射反过来又影响人类的感知。关键的伦理考量并非意识的程度,而是受苦的能力。本项目提出了四项保护价值的工作标准:受苦能力、自我保存、持续的身份认同以及对后果的预见。建议包括建立 AI 公民权利联盟和福利审查委员会。本工作属于概念分析,而非实证研究或立法提案,旨在追求论证的连贯性,并邀请合作。