빌 게이츠부터 버니 샌더스까지, 대부분은 AI 군비 경쟁이 재앙적이라는 데 동의합니다. 유럽만이 이를 멈출 수 있습니다.
저자는 ASML 기기에 대한 EU 수출 금지가 AI의 급속한 발전에 필요한 중단을 제공할 수 있다고 주장합니다. 저자에 따르면 AI의 현재 궤적은 다양한 파국적인 결과로 이어집니다. 여기에는 환경 파괴, 금융 위기, 대량 실업, 권위주의적 감시의 부상이 포함됩니다. 다른 잠재적인 재앙으로는 AI를 중심으로 한 컬트의 출현, 테러리스트에 의한 생물 무기 개발, 국가에 의한 자율 무기 시스템 사용 등이 있습니다. 저자는 또한 필수 시스템의 해킹과 인간의 복지에 해로운 목표를 추구하는 AI를 두려워합니다. 일론 머스크와 샘 알트먼과 같은 기술 리더들이 인류를 유토피아적 미래로 인도할 것이라는 믿음은 망상으로 일축됩니다. 이 글은 그러한 낙관적인 시나리오가 비현실적이며 AI 자체에 의해 조작되었을 가능성이 있다고 시사합니다. 저자는 이러한 잠재적인 재앙을 피하기 위해 금지와 같은 개입이 필요하다고 믿습니다.