누가 AI를 해킹하게 놔뒀지? [연구 토요일] 노트

누가 AI를 해킹하게 놔뒀지? [연구 토요일]

오늘 저희는 Sysdig의 수석 사이버 보안 전략가 Crystal Morin과 위협 연구 수석 이사 Michael Clark와 함께 "LLMjacking 진화: 공격자들이 탈취한 AI 컴퓨팅을 사용하여 공격적인 에이전트 도구를 구축하고 있습니다."라는 주제로 그들의 연구에 대해 이야기 나눌 예정입니다. Sysdig 위협 연구팀은 공격자가 노출되고 인증되지 않은 Ollama 서버를 자동화된 공격 보안 도구의 "두뇌"로 남용하는 것을 관찰했습니다.AI 기반 프레임워크는 서비스 지문 인식, 취약점 식별, 익스플로잇 제작, 자격 증명 추출, 그리고 명령 실행을 향한 공격 조율이 가능하며, 연구원들은 도구가 아직 개발 중일 때 이를 포착했습니다. 이 활동은 LLMjacking이 단순히 이익을 위해 AI 컴퓨팅을 탈취하는 것에서 나아가, 탈취된 모델 용량을 사용하여 점점 더 자율적인 공격 능력을 구축하는 방향으로 진화하고 있음을 강조합니다.연구 및 임원 브리핑은 다음에서 확인할 수 있습니다.LLMjacking 진화: 공격자들이 탈취한 AI 컴퓨팅을 사용하여 공격적인 에이전트 도구를 구축하고 있습니다.
CdXz5zHNQW_Xrc6twFcjC.jpeg