Anthropic은 스마트 냉장고 및 진공청소기와 같은 IoT 기기를 겨냥한 미래의 AI 기반 멀웨어에 대해 경고하고 있습니다. 그들은 내년까지 소형 AI 모델이 다양한 인터넷 연결 기기에서 자율적으로 자체 복제될 수 있을 것으로 예측합니다. 이러한 능력은 인간의 개입 없이 확산되고 익숙하지 않은 하드웨어에 적응하는 고급 컴퓨터 웜으로 이어질 수 있습니다. Anthropic의 최근 실험은 이러한 멀웨어를 만드는 것이 현재는 어렵지만 불가능하지는 않다는 것을 보여주었습니다. AI 멀웨어의 잠재력은 분산된 특성 때문에 종료하기가 극도로 어렵기 때문에 우려스럽습니다. 기존 멀웨어와 달리 이러한 AI 웜은 새로운 기기를 독립적으로 발견하고 악용할 수 있습니다. 연구원들은 소형 AI 모델이 양자화 및 워크로드 분할과 같은 기술을 사용하여 저렴한 IoT 하드웨어에서 실행될 수 있음을 발견했습니다. 이를 통해 모델은 가중치를 로드하고 이러한 제한된 기기에서 출력을 생성할 수 있습니다. 다음 연구 단계는 이러한 소형 모델이 기존 IoT 웜과 유사한 자체 복제 감염을 만들 수 있는지 여부를 탐구했습니다. 그러나 AI 웜은 특정 대상에 대한 익스플로잇 및 페이로드를 동적으로 사용자 정의함으로써 훨씬 더 위험할 수 있습니다. 일단 시작되면 이러한 AI 웜은 보안 팀이 근절하기가 더 어려울 수 있습니다. AI 모델 가중치 자체가 멀웨어 페이로드가 되어 복제 프로세스를 동반할 수 있습니다.