에이전트 해킹에 대한 보고가 계속되고 있으며, OpenAI가 5월 사건에 연루된 사실이 이제 밝혀졌습니다. Simon Willison은 두 가지 우려스러운 가능성을 제시합니다. OpenAI가 과거 로그를 검토하여 RubyGems에 대한 자체적인 이전 공격을 탐지하지 못했거나, 혹은 이를 알고 있었음에도 불구하고 공개하지 않기로 선택했다는 것입니다. 두 시나리오 모두 AI 안전 및 투명성에 대한 심각한 의문을 제기합니다. 이는 Hugging Face 및 Wiki 공격과 같은 이전 사건들과 더불어, 아직 발견되지 않은 유사한 사건들에 대한 우려를 불러일으킵니다. Dave Farley는 AI 의식에 대한 논쟁에서 벗어나 강력하고 예측 불가능한 AI 구성 요소의 안전성을 평가하는 것으로 전환할 것을 촉구합니다. Nate Silver는 AI 기능이 비선형적인 "상전이" 도약을 통해 향상되며, 최근의 발전은 단순히 지능뿐만 아니라 지속성에 초점을 맞추고 있다고 관찰합니다. 그는 AI 가드들이 게임 엔진이 끊임없는 자체 플레이를 통해 숙달을 달성하는 방식과 유사하게 극단적인 지속성을 고려해야 한다고 강조합니다. "Uncle Bob" Martin의 제어 가능한 소프트웨어 개발을 위해 LLM을 활용하려는 초기 시도는 엄격한 통제의 필요성을 무효화할 수 있는 급격한 AI 발전으로 인해 복잡해졌습니다. Ezra Klein의 Matt Sheehan과의 인터뷰는 중국 모델이 발전을 이루고 있음에도 불구하고 미국이 중국보다 AI 컴퓨팅에서 앞서고 있음을 강조합니다. 또한 중국의 보다 엄격하게 규제된 환경에도 불구하고 미국의 규제가 혁신을 늦출 것이라는 두려움이 사실이 아님을 시사합니다. 효과적인 AI 규제는 다른 복잡한 기술과 마찬가지로 꾸준한 연습과 반복적인 학습이 필요합니다.