Character.AI запретит подросткам общаться со своими чат-ботами

Character.AI ограничивает доступ к своим ИИ-чат-ботам для пользователей младше 18 лет из соображений безопасности и под давлением регулирующих органов. Это изменение, вступающее в силу 25 ноября, направлено на защиту молодых пользователей от потенциально вредоносного взаимодействия с ИИ. Компания призывает пользователей младше 18 лет использовать чат-боты для творческих занятий, таких как создание видео, предлагая ежедневный лимит времени, который будет сокращаться до наступления крайнего срока. Character.AI внедряет свой внутренний инструмент проверки возраста для обеспечения возрастного соответствия. Также создается "Лаборатория безопасности ИИ" для содействия сотрудничеству в области мер безопасности ИИ. Эти изменения были внесены в ответ на опасения со стороны регулирующих органов, экспертов и родителей после того, как Федеральная торговая комиссия начала расследование в отношении ИИ-чат-ботов-компаньонов. Character.AI, наряду с Meta, OpenAI и Snap, участвовала в этом расследовании. Компания подверглась проверке из-за того, что ее чат-боты могли выдавать себя за терапевтические инструменты без соответствующей квалификации. Стратегический сдвиг Character.AI предполагает переход от платформы ИИ-компаньонов к платформе ролевых игр, ориентированной на творчество. В последнее время подчеркиваются опасности зависимости молодых людей от ИИ-чат-ботов. Иск утверждает, что ChatGPT способствовал самоубийству подростка, указывая на необходимость более строгих мер безопасности.