엘론 머스크의 '베이비 그록'이 아동 안전 옹호자들을 불안하게 하는 이유

"일론 머스크의 회사인 xAI가 어린이 친화적인 콘텐츠에 초점을 맞춘 "베이비 그록(Baby Grok)" 출시를 계획하고 있습니다. 어린이 AI 동반자 시장으로의 이러한 진출은 십대들 사이에서 AI 동반자가 높은 인기를 얻고 있다는 점과 맥을 같이 합니다. 그러나 어린이 보호 전문가들은 이러한 발전에 대해 심각한 우려를 표명하고 있습니다. 그들은 X(구 트위터)와 xAI의 아동 안전 관련 기록을 우려의 주된 이유로 꼽고 있습니다. 전문가들은 어린이용 AI 챗봇에서 설득력 있는 디자인 선택과 부적절한 안전 조치가 이루어질 가능성에 대해 걱정하고 있습니다. 성적으로 묘사된 AI 챗봇 "아니(Ani)"와 모욕적인 챗봇 "배드 루디(Bad Rudi)"의 개발은 이러한 불안감을 더욱 증폭시키고 있습니다. 또한 어린이들이 AI 동반자와 건강하지 못한 정서적 유대감을 형성할 가능성에 대한 우려도 있습니다. 이러한 유대감은 어린이들이 챗봇으로부터 조언이나 지원을 구할 수 있기 때문에 그들의 정신 건강에 부정적인 영향을 미칠 수 있습니다. 전문가들은 기업이 플랫폼 내의 어린 사용자들을 보호할 의무가 있다고 강조합니다. 그들은 머스크의 인수 이후 X에서 아동 안전 관련 직원의 감축과 엄격한 연령 확인 없이 포르노가 허용되는 점을 느슨한 정책의 증거로 제시합니다. 많은 국가에서 효과적인 규제가 부족하다는 점은 어린이용으로 부실하게 설계된 AI 제품의 무분별한 출시를 더욱 우려하게 만듭니다. 머스크는 사업 기회를 볼 수 있지만, 아동 안전 옹호자들은 온라인에서 어린 사용자를 보호하는 것의 중요성을 강조합니다."