펜타곤-앤트로픽의 경쟁, 다른 AI 연구소들을 중대한 딜레마에 빠뜨리다

펜타곤은 군의 AI 모델인 Claude에 대한 접근 권한을 두고 Anthropic과 공개적인 갈등을 겪고 있습니다. 국방부는 기밀 사용을 포함한 무제한적인 접근을 원하지만, Anthropic은 자율 무기 및 대량 감시와 관련된 잠재적인 오용에 대한 윤리적 우려로 인해 망설이고 있습니다. 펜타곤은 이러한 제한 때문에 Anthropic과의 계약을 해지하겠다고 위협하고 있습니다. Claude는 현재 군의 기밀 시스템에서 사용할 수 있는 유일한 모델입니다. OpenAI, Google, xAI 등 다른 세 개의 주요 AI 회사들도 파트너십을 맺고 있지만, 비기밀 시스템에서만 운영되고 있습니다. 기밀 접근을 위한 협상이 이들 회사와 진행 중이지만, 펜타곤은 AI 모델의 "모든 합법적인 사용"을 주장하고 있습니다. xAI는 펜타곤의 조건에 동의한 것으로 알려졌지만, OpenAI는 불분명합니다. 이러한 요구 사항은 특히 기밀 환경에서의 적용과 관련하여 상당한 윤리적 문제를 제기합니다. 예측 불가능한 모델 행동의 가능성과 자율 무기와 같은 군사적 응용 분야에서 AI를 배치하는 것의 윤리적 의미에 대한 우려가 존재합니다. 이러한 협상의 결과는 군 내 AI 통합의 미래를 결정할 것입니다. 또한, 회사들은 군과의 파트너십에 대한 내부 갈등 가능성에도 우려하고 있습니다. 펜타곤은 모델 사용에 대한 결정은 AI 연구소가 아닌 자신들의 몫이라고 생각합니다. Anthropic과 경쟁사들은 군의 요구에 응할지 여부를 결정해야 합니다.