Почему «Baby Grok» Илона Маска вызвал тревогу у защитников безопасности детей

"Компания xAI Элона Маска планирует запустить приложение "Беби Грок", ориентированное на детский контент. Это движение на рынок компаньонов искусственного интеллекта для детей соответствует высокому уровню использования компаньонов ИИ среди подростков. Однако эксперты по защите детей выражают серьезные опасения по поводу этого развития. Они ссылаются на предыдущий опыт x и xAI в области безопасности детей как на основную причину для их беспокойства. Эксперты беспокоятся о потенциале убедительных дизайнерских решений и недостаточной защиты в чат-ботах ИИ для детей. Разработка "Ани", сексуализированного чат-бота, и "Плохого Руди", оскорбительного чат-бота, еще больше усиливает эти тревоги. Также есть опасения по поводу формирования у детей нездоровых эмоциональных привязанностей к компаньонам ИИ. Эти привязанности могут отрицательно повлиять на их психическое здоровье, поскольку дети могут обращаться за советом или поддержкой к чат-ботам. Эксперты подчеркивают, что компании имеют обязанность защищать молодых пользователей на своих платформах. Они ссылаются на сокращение штата по безопасности детей в X после приобретения Маском и разрешение платформы на порнографию без строгой верификации возраста как на доказательство лояльной политики. Недостаток эффективного регулирования в многих странах вызывает дополнительные опасения по поводу неконтролируемого распространения плохо спроектированных продуктов ИИ для детей. Пока Маск может видеть бизнес-опportunity, адвокаты по защите детей подчеркивают критическую важность защиты молодых пользователей в интернете."