The Hacker News на русском
Подписаться
OpenAI приостанавливает обучение передовых моделей RL, ужесточая меры защиты от небезопасного поведения ИИ
Во вторник OpenAI объявила, что приостановила обучение с подкреплением (RL) для своих новейших моделей искусственного интеллекта (ИИ) на две недели, пока она укрепляла дополнительные средства защиты и расширяла сферу мониторинга, чтобы избежать еще одного инцидента, подобного тому, что произошел с Hugging Face.«По мере того, как модели становятся более способными, растут и риски, связанные с их разработкой и тестированием внутри компании», — заявила компания ИИ.