'중국 모델이 무서워?' 노트

'중국 모델이 무서워?'

벤 톰슨은 미국의 오픈 가중치 모델 제작자들이 중국 대안에 의존하는 중요한 문제를 강조합니다. 미국 기업들은 프론티어 랩의 서비스 약관으로 인해 제약을 받고 있으며, 이로 인해 그들의 모델은 열등해지고 중국 중개자를 통해 이미 증류된 모델을 다시 증류해야 하는 상황에 놓입니다. 톰슨은 증류를 둘러싼 내재된 부정적인 시각에 의문을 제기하며, LLM 자체가 인터넷 지식의 증류물임을 지적합니다. 그는 오픈 가중치 모델이 혁신을 촉진한다고 주장하며 프론티어 랩이 적응할 것이라고 믿습니다.그러나 이 과정에 대한 중국 의존은 문제가 있습니다. 톰슨은 모델 훈련을 위한 데이터 수집을 공정 이용으로 선언하고 미국 기업의 증류를 제한하는 서비스 약관을 금지하는 미국 법률을 제안합니다. 그는 본질적으로 API 쿼리인 증류를 방지하는 것은 실질적으로 불가능하다고 강조합니다. 대신, 그는 랩을 보호하면서도 그들의 학습이 더 넓은 혁신에 연료를 공급하도록 보장하는 사전 예방적 저작권 정책을 옹호합니다.K3와 같은 선도적인 중국 모델이 단순히 증류의 산물이 아니라는 점을 인정하면서도, 톰슨은 그것이 그들의 빠른 개발 주기에서 중요한 구성 요소라고 말합니다. 중국 기업들은 서비스 약관을 무시하고 모든 모델을 오픈으로 취급합니다. 따라서 저작권을 존중하는 서구 기업들은 K3와 같은 중국 출시를 기다려야 합니다. 톰슨은 상황의 역설적인 본질을 고려할 때 OpenAI와 Anthropic이 제기한 모델 증류에 대한 반대에 대해 회의적인 입장을 표명합니다.