이번 주 AI 드라마에 대한 게리 마커스
OpenAI는 Navier-Stokes 문제와 관련된 수학 경진대회에서 부정행위를 했다는 비난을 받고 있습니다. 그들은 제공된 상금보다 훨씬 더 많은 컴퓨팅 비용을 지출한 것으로 알려졌습니다. OpenAI가 대회에 참여한 다른 수학자들의 연구를 사용하거나 학습했을 가능성이 제기되고 있습니다. 이는 OpenAI가 Codex 및 ChatGPT와 같은 모델의 사용자로부터 지적 재산권을 도용했을 가능성에 대한 우려를 불러일으킵니다.한편, Anthropic은 직원의 공개 사임으로 내부 논란에 직면해 있습니다. 해당 직원은 인공지능 개발에 대한 회사의 무모함 증가에 대한 우려를 표명했습니다. 그럼에도 불구하고, 현재 Anthropic 연구원은 전 직원의 평가에 동의합니다. 이 연구원은 AI가 향후 10년 안에 인류에게 실존적 위협을 가할 상당한 가능성이 있다고 믿습니다. 그는 Anthropic이 초지능 정렬을 보장할 확실한 계획이 부족하다는 점을 인정합니다.저자는 AI 위험이 현실이라고 할지라도 이러한 수준의 경고는 불합리하다고 비판합니다. 그는 그러한 언어가 Anthropic이 합리적인 조직이라기보다는 컬트처럼 운영된다는 것을 시사한다고 주장합니다. 저자는 그러한 집단을 떠나는 전 직원들이 여전히 컬트와 유사한 사고방식을 보일 수 있다고 믿습니다.