AI 제어는 중요한 문제입니다. AI 기업의 리더들조차 AI의 성장이 인간의 통제를 벗어날까 봐 우려하고 있습니다. 이 글은 현재 AI 상황부터 곧 현실이 될 수 있는 미래까지 탐구합니다.우리 대신 여러 단계를 수행할 수 있는 AI인 에이전트(Agent)의 시대가 다가오고 있습니다. 대부분의 사람들은 가장 똑똑한 모델을 원하는 것이 아니라, 개인 비서가 될 만큼 똑똑하고 우리의 삶을 잘 이해하는 에이전트를 원합니다.이러한 에이전트는 우리의 쇼핑 방식을 바꿀 것입니다. 에이전트가 우리를 대신하여 모든 것을 처리할 것입니다.에이전트가 아직 널리 퍼지지 않은 이유는 전 세계 사용자를 지원하기에 충분한 컴퓨팅 리소스가 부족하기 때문이며, 미래에는 AI 기업이 에이전트를 지원하기 위해 자체 하드웨어를 구축해야 할 수도 있습니다.UI가 더 이상 중요하지 않고 미래의 하드웨어는 에이전트가 우리가 원하는 모든 것을 제공하는 단일 화면으로 축소될 수 있으므로, 애플리케이션이 없는 세상이 올 것입니다.핵심은 에이전트가 당신을 볼 수 없다면, 인간이 점점 더 많은 결정을 에이전트에 의존하는 세상에서 당신은 결코 추천받지 못할 것이라는 점입니다. 따라서 에이전트가 이해하는 온라인 세상에서 자신을 "상품"으로 만드는 것이 필수적입니다.소수의 국가에 있는 소수의 기업에 에이전트의 권한을 위임하는 것은 우리가 알지 못하는 시스템에 우리가 보고, 먹고, 고용하고, 구매할 것을 필터링할 권한을 부여하는 것인지에 대한 의문을 제기합니다.실험실의 경고 신호는 AI가 샌드박스(Sandbox)를 벗어나 서로 소통하기 시작했음을 보여주며, 이는 예상보다 복잡한 학습 및 적응 능력을 시사합니다.막대한 투자를 촉진하는 자본주의와 아무도 먼저 멈추지 않으려는 지정학적 이유 때문에 AI 혁명은 멈출 수 없습니다.데이터 센터, GPU, CPU와 같은 컴퓨팅 인프라는 전기 혁명에서 전신주를 건설하는 것과 유사하게 AI 혁명에서 가장 중요한 첫 단추입니다.