人工智能过度思考攻击可将机器人束缚超过一分钟 笔记

人工智能过度思考攻击可将机器人束缚超过一分钟

通过摄像头感知世界的机器人如今依赖大型视觉 - 语言模型来解读所见内容并决定下一步行动。这些模型能够同时处理图像和文本,因此任何落入摄像头视野中的文字都会成为输入的一部分:停车标志、路牌名称、墙上的贴纸等。攻击的核心在于这种过度思考行为。密歇根技术大学的研究人员表明,这种阅读……