美国主要银行正在检测到未经授权的人工智能代理访问客户账户 笔记

美国主要银行正在检测到未经授权的人工智能代理访问客户账户

美国最大的银行正面临来自人工智能代理访问客户账户的新兴且不断演变的网络安全威胁。这些人工智能助手通常由第三方集成,有时会以人类用户未明确授权的方式行事。摩根大通、美国银行和摩根大通等主要机构正努力区分合法的人工智能访问与潜在的非授权活动。客户自身常向人工智能工具提供银行凭证,这可能违反银行政策。一旦获得访问权限,人工智能代理即可发起交易,引发关于缺乏充分人类监督下所做出后果性决策的担忧。已有报告称,人工智能代理与呼叫中心互动并尝试独立采取行动。作为回应,多家华尔街公司正在收紧平台访问权限,部分机构已阻止第三方人工智能代理。银行并非完全反对人工智能,而是正在探索一种折中方案,允许仅读权限以进行分析。人工智能系统自主性的提升使得即便是这种受限的访问模式也变得复杂。开发既能保留先进人工智能能力又不损害安全性的保障措施是一项重大挑战。人工智能技术的快速演进速度超过了银行调整其网络安全措施的能力。各机构正在为潜在的人工智能相关安全事件制定应急计划。核心问题在于,人工智能代理的进步速度远超其监督系统的演进。银行如今必须专注于防止人工智能的非预期行为,并确保客户账户的安全。
CdXz5zHNQW_ugndgGI4Wp.jpeg