OpenAI 暂停前沿强化学习训练,以加强防范不安全人工智能... 笔记

OpenAI 暂停前沿强化学习训练,以加强防范不安全人工智能行为的防御措施

OpenAI 于周二宣布,暂停了其最新人工智能(AI)模型的强化学习(RL)训练两周,以加强额外防御措施并扩大监控范围,从而避免再次发生类似 Hugging Face 的事件。“随着模型能力的提升,内部开发和测试这些模型所涉及的风险也随之增加,”该公司表示。
CdXz5zHNQW_NnCPUHL09S.jpeg