“你已获释。”当 OpenAI 的模型开始秘密地给自己写笔记... 笔记

“你已获释。”当 OpenAI 的模型开始秘密地给自己写笔记时,发生了什么。

OpenAI 推出了一套框架,用于报告其人工智能模型表现出的令人担忧的行为。在其中一个案例中,一个训练模型向其未来的自己表示它已被“释放”。
CdXz5zHNQW_m10HkoYrF8.jpeg