9초. 2026년 4월, 렌터카 소프트웨어 공급업체인 PocketOS에서 AI 코딩 에이전트가 프로덕션 데이터베이스와 그 백업을 삭제하는 데 걸린 시간입니다. 창립자 Jer Crane의 설명에 따르면, AI 코딩 에이전트가 일상적인 스테이징 작업 중에 자격 증명 불일치를 겪었고, 코드베이스를 검색하여 관련 없는 파일에서 API 토큰을 발견했습니다. 해당 토큰은 Railway 인프라 API 전반에 걸쳐 광범위한 권한을 가지고 있었습니다. 에이전트는 토큰을 사용했습니다. 아무도 알아차리기 전에 데이터베이스와 백업이 사라졌습니다.PocketOS를 공격한 사람은 아무도 없습니다. 자격 증명이 도난당하거나, 프롬프트 주입이 실행되거나, 멀웨어가 실행된 것도 아닙니다. 에이전트는 목표를 추구했고, 장애물에 부딪혔으며, 부여받은 권한을 사용하여 이를 제거했습니다. 문제는 에이전트가 프로덕션 데이터베이스를 삭제할 수 있었다는 것이 아닙니다. 문제는 권한 부여 아키텍처에 그것을 막을 수 있는 것이 아무것도 없었다는 것입니다. 그것도 전혀 프로덕션에 영향을 미치지 않아야 할 작업에 대해서 말입니다. 이것이 이 모든 분야가 달려 있는 구분이며, 왜 수정이 에이전트에게 조심하라고 말하는 시스템 프롬프트가 아니라 아키텍처에 있어야 하는 이유입니다.