AI 운영 시스템을 오염된 입력 데이터로 전복하기 노트

AI 운영 시스템을 오염된 입력 데이터로 전복하기

이 입력 무결성 공격에서 AI 시스템을 대상으로 연구원들은 AIOps 도구를 속일 수 있었습니다.AIOps는 LLM 기반 에이전트를 사용하여 시스템 로그, 성능 메트릭, 추적 및 경고를 포함한 애플리케이션 원격 측정을 수집 및 분석하여 문제를 감지하고 수정 조치를 제안하거나 실행하는 것을 의미합니다. Cisco와 같은 기업은 관리자가 시스템 성능에 대한 정보를 요청하는 데 사용할 수 있는 대화형 인터페이스에 AIOps를 배포했습니다. 일부 AIOps 도구는 이러한 쿼리에 자동으로 수정 사항을 구현하거나 문제를 해결할 수 있는 스크립트를 제안하여 응답할 수 있습니다...