ИИ-агенты получают доступ к реальному миру быстрее, чем успевают развиваться меры безопасности, что делает разрешения, изоляцию и надзор критически важными для предотвращения вредоносных действий. Джейкоб Коксон, исследователь, который три года работал над обучением моделей в OpenAI, а затем в Anthropic, на этой неделе покинул Anthropic с недвусмысленным предупреждением: ИИ-компании движутся к все более мощным системам быстрее […]