중국의 새로운 오픈 소스 모델, AI 해킹 위협 가속화 노트
RSS Axios

중국의 새로운 오픈 소스 모델, AI 해킹 위협 가속화

GLM-5.2, 중국의 새로운 오픈소스 AI 모델이 정교한 공격을 악의적인 행위자들에게 더 쉽게, 더 저렴하게 만들 수 있는 고급 해킹 능력으로 인해 우려를 낳고 있습니다. 이 모델은 에이전트 능력 면에서 Claude Opus 4.8 및 OpenAI의 GPT-5.5와 같은 선도적인 미국 모델과 경쟁하지만, 운영 비용은 절반에 불과합니다. 보안 평가 결과, 사이버 보안 조사 및 취약점 발견 벤치마크에서 강력한 성능을 보였습니다. 연구원들은 GLM-5.2가 GPT-5.5 및 Opus 4.8의 불법적인 증류일 수 있으며, 이것이 빠른 발전을 설명한다고 제안합니다. 상업용 모델과 달리 GLM-5.2는 다운로드 및 수정이 가능하여 사용자가 안전 제어를 제거하고 상업적 감독 없이 운영할 수 있습니다. 해커들은 러시아어 포럼에서 악의적인 목적으로 GLM-5.2를 탈옥하는 방법에 대해 활발히 논의하고 있습니다. 이 모델은 숙련된 인간 공격자와 유사한 측면 이동 및 익스플로잇 체이닝을 허용하는 개인 맞춤형 공격을 가능하게 합니다. 공격자는 또한 모델이 자체 제한 사항을 우회하는 방법을 설명하도록 할 수 있습니다. ChatGPT와 같은 상업용 플랫폼에 비해 오픈소스 모델 오용을 막을 메커니즘이 적으며, 상업용 플랫폼에서는 제공업체가 사용자를 감지하고 차단할 수 있습니다. GLM-5.2는 해커들에게 장벽을 제거하여 피싱 이메일 생성기 및 사기 스크립트와 같은 맞춤형 악성 도구를 로컬에서 구축할 수 있도록 합니다. 현재 AI 생성 익스플로잇이 매우 정교하지는 않지만, AI 및 LLM을 통한 규모 증가 가능성은 커지고 있습니다. Z.ai는 연말까지 Anthropic의 Fable과 경쟁할 오픈소스 모델을 출시할 계획이며, 다른 중국 기업들도 고급 모델을 개발하고 있습니다.
CdXz5zHNQW_tg7lOx3HTw.jpeg