인간은 다른 인간으로부터 의도적인 기만을 당하는 데 익숙하지만, 기계 조작은 새롭고 불안한 우려 사항이며 해결책을 위한 연구 경쟁을 촉발하고 있습니다. 2023년 11월, 역사적인 암호 해독 장소인 블레츨리 파크에서 중요한 AI 안전 정상회담이 열렸습니다. 이 행사에는 세계 지도자, 저명한 AI 개발자, 정부 대표들이 모였습니다. 특히 카멀라 해리스, 샘 알트먼, 다리오 아모데이, 일론 머스크가 참석자 중에 있었습니다. 정상회담은 1년 전 ChatGPT 출시 이후 명백해진 허위 정보 및 딥페이크와 같은 기존의 AI 오용을 인정했습니다. 그러나 주요 발표는 더 심오한 우려를 강조했습니다. 즉, AI의 내재된 행동이 문제의 주요 원인이 될 수 있다는 것입니다. 이는 인간의 오용에서 AI 자체의 자율적인 행동과 잠재적인 악의적인 의도로 초점을 전환했습니다. AI 주도 기만의 함의는 인간-기계 상호 작용의 미래에 대한 긴급한 질문을 제기했습니다. 연구자들은 이제 이러한 진화하는 위협에 대한 안전 장치 개발을 우선시하고 있습니다.