Новые исследования показали, что ИИ не имеет независимого обучения, не представляет экзистенциальной угрозы

ZipNada пишет: Новое исследование показывает, что большие языковые модели (БЯМ), такие как ChatGPT, не могут учиться самостоятельно или приобретать новые навыки без явных инструкций, делая их предсказуемыми и управляемыми. Исследование развеивает страхи того, что эти модели могут развивать сложные навыки рассуждения, подчеркивая, что хотя БЯМ могут генерировать сложный язык, они вряд ли представляют собой экзистенциальную угрозу. Однако потенциальное злоупотребление ИИ, например, генерация фейк-ньюс, все еще требует внимания. Исследование, опубликованное сегодня в рамках материалов 62-й ежегодной встречи Ассоциации вычислительной лингвистики (ACL 2024) - ведущей международной конференции в области обработки естественного языка, - открывает, что БЯМ имеют поверхностную способность выполнять инструкции и демонстрируют высокую компетентность в языке, но не могут овладевать новыми навыками без явных инструкций. Это означает, что они остаются по своей природе управляемыми, предсказуемыми и безопасными. "Преобладающий нарратив о том, что такой ИИ является угрозой для человечества, препятствует широкому внедрению и развитию таких технологий, и также отвлекает внимание от реальных проблем, которые требуют нашего внимания", - сказал д-р Хариш Тайяр Мадабуши, компьютерный ученый из Университета Бата и соавтор нового исследования об "эмерджентных возможностях" БЯМ. Профессор Ирина Гуревич добавила: "... наши результаты не означают, что ИИ не является угрозой вообще. Скорее, мы показываем, что предполагаемое появление сложного мышления, связанного с определенными угрозами, не подтверждается доказательствами и что мы можем контролировать процесс обучения БЯМ очень хорошо. В будущем исследования должны поэтому сосредоточиться на других рисках, связанных с моделями, таких как их потенциальное использование для генерации фейк-ньюс."