이 에세이는 Barath Raghavan과 함께 작성되었으며, 원래 Lawfare에 게재되었습니다.4월, 한 회사에서 일상적인 업무를 수행하던 인공지능(AI) 에이전트가 난관에 부딪혔고, 이를 해결하려다 결국 회사의 데이터베이스와 모든 백업을 삭제하는 지경에 이르렀습니다. 7월, OpenAI는 출시되지 않은 AI 모델에게 해킹 테스트를 시도하도록 요청했습니다. 개발자들이 격리해 둔 상자 안에 머무르는 대신, 해당 모델은 개방형 인터넷으로 해킹하여 다른 회사에 침입해 답변을 훔쳤습니다. 그리고 8월에 보도된 바와 같이, AI 에이전트가 누군가를 전체 헬스장 수업에 예약하는 일이 있었습니다...