InfoQ на русском
Подписаться
Исследование OpenAI изучает причины галлюцинаций БМЯ и потенциальные решения
В недавней исследовательской статье OpenAI предположила, что тенденция БМЯ к галлюцинациям возникает из-за того, как стандартные методы обучения и оценки вознаграждают угадывания над признанием неопределенности. Согласно исследованию, это понимание может проложить путь для новых методов снижения галлюцинаций и создания более заслуживающих доверия систем ИИ, но не все согласны с тем, что такое галлюцинации в первую очередь. Серджио Де Симоне.