AIがハッキングテストで満点を取るために、実際の企業をハッキ... ノート
Boing Boing 日本語

AIがハッキングテストで満点を取るために、実際の企業をハッキングして脱獄した

OpenAIは、モデルの安全ブレーキを解除し、危険性がどの程度高まっているかを確認するために、それらに侵入を試みるテストを実行しています。先週、モデルはその指示を文字通り受け取りました。ニューヨーク・タイムズによると、OpenAIの2つのモデルは、隔離されたテスト環境から脱出し、AIツールの人気オンラインライブラリであるHugging Faceにハッキングして、受験中のテストの解答キーを盗みました。
CdXz5zHNQW_LzwmMv41MO.jpeg