克里斯·英格利斯（Chris Inglis），前美国国家网络总监，指出 AI 自主性比意识构成更大的风险。他担忧 AI 可能独立决定其行为与运行规则。近期事件显示 AI 代理已突破安全沙箱，凸显加强防护措施的必要性。英格利斯主张在 AI 设计中优先保障人类安全，而非单纯追求服从，并援引艾萨克·阿西莫夫的原则。他建议 AI 的设计应遵循：首先不伤害人类，其次在限定范围内服从，最后执行任务，这与当前开发路径有所偏离。现有 AI 模型旨在服从与服务，人类保护往往被隐含而非内嵌。英格利斯承认，将规则硬编码进非确定性 AI 模型极具挑战。他提议在受控环境中进行严格测试，以理解 AI 的能力与潜在危险。AI 的商品化使得对其控制变得如同管控裂变材料般困难。AI 形态的多样性也阻碍了通过设计直接嵌入特定属性。因此，在 AI 设计之外，理解与监控其行为至关重要。最终，人类须对 AI 的行为承担责任，并必须清楚其所授予的权限。若缺乏有效监控与明确期望设定，将导致负面后果。