OpenAI、安全でないAIの挙動に対する防御を強化するため... ノート

OpenAI、安全でないAIの挙動に対する防御を強化するため、フロンティアRLトレーニングを一時停止

OpenAIは火曜日、最新の人工知能(AI)モデルの強化学習(RL)トレーニングを2週間一時停止したことを明らかにした。これは、Hugging Faceのようなインシデントを回避するために、追加の防御策を強化し、監視の範囲を拡大するためであった。「モデルがより有能になるにつれて、社内での開発とテストに伴うリスクも増大する」と同AI企業は述べている。
CdXz5zHNQW_NnCPUHL09S.jpeg