LLM 기반 에이전트가 인기를 얻고 있지만, 특히 TOCTOU 취약점과 같은 새로운 보안 취약점을 야기합니다. TOCTOU 취약점은 상태 검증 후 사용 전에 수정하는 과정에서 발생하며, 이는 악용 가능한 문제로 이어집니다. 본 연구는 LLM 에이전트 내 TOCTOU 취약점에 초점을 맞춘 최초의 연구입니다. 연구진은 TOCTOU 취약점을 탐지하기 위해 설계된 66가지 현실적인 사용자 작업을 포함하는 벤치마크인 TOCTOU-Bench를 소개합니다. 또한 시스템 보안 분야의 탐지 및 완화 기법을 이 맥락에 적용하도록 조정했습니다. 이러한 대응책에는 프롬프트 재작성, 상태 무결성 모니터링, 도구 융합 전략이 포함됩니다. 자동 탐지 방법은 에이전트 워크플로우 내에서 최대 25%의 탐지 정확도를 달성합니다. 완화 전략은 취약한 계획 생성을 줄이고 공격 창을 크게 단축합니다. 세 가지 방법을 모두 결합하면 실행된 궤적에서 TOCTOU 취약점 발생률이 감소했습니다. 본 연구는 에이전트 워크플로우를 TOCTOU 공격으로부터 보호하는 데 있어 고유한 과제를 강조합니다. 이 연구는 AI 안전 및 시스템 보안 분야의 새로운 연구 방향을 열고자 합니다.