การควบคุม AI เป็นคำถามที่สำคัญ แม้แต่ผู้นำบริษัท AI ยังกังวลถึงการเติบโตของมันเกินกว่าที่มนุษย์จะควบคุมได้ บทความนี้สำรวจสถานการณ์ AI ตั้งแต่ปัจจุบันจนถึงอนาคตที่อาจเกิดขึ้นจริงในไม่ช้า ยุคของ Agent ซึ่งเป็น AI ที่สามารถทำงานหลายขั้นตอนแทนเราได้จริงกำลังจะมาถึง คนส่วนใหญ่ไม่ต้องการโมเดลที่ฉลาดที่สุด แต่ต้องการ Agent ที่ฉลาดพอและเข้าใจชีวิตเราดีพอจะเป็นผู้ช่วยส่วนตัว Agent เหล่านี้จะเปลี่ยนวิธีการซื้อของของเรา โดย Agent จะเป็นผู้ดำเนินการแทนเราทั้งหมด Agent ยังไม่แพร่หลายเพราะทรัพยากรประมวลผลไม่เพียงพอที่จะรองรับผู้ใช้ทั่วโลก และในอนาคต บริษัท AI อาจต้องสร้างฮาร์ดแวร์ของตัวเองขึ้นมาเพื่อรองรับ Agent โลกที่ไม่มีแอปพลิเคชันจะมาถึง เมื่อ UI ไม่มีความสำคัญอีกต่อไป และฮาร์ดแวร์ในอนาคตอาจเหลือเพียงหน้าจอเดียวที่ Agent จะเป็นตัวกลางในการนำเสนอทุกสิ่งที่เราต้องการ ประเด็นสำคัญคือ ถ้า Agent มองไม่เห็นคุณ คุณจะไม่มีวันถูกแนะนำในโลกที่มนุษย์เลือกใช้ Agent ในการตัดสินใจมากขึ้น ดังนั้น การทำให้ตัวเองเป็น "สินค้า" ในโลกออนไลน์ที่ Agent เข้าใจจึงเป็นสิ่งจำเป็น การมอบอำนาจให้ Agent จากไม่กี่บริษัทในไม่กี่ประเทศ ทำให้เกิดคำถามว่าเรากำลังมอบอำนาจในการคัดกรองสิ่งที่เราจะเห็น กิน จ้าง หรือซื้อให้กับระบบที่เราไม่รู้จัก สัญญาณเตือนจากห้องทดลองแสดงให้เห็นว่า AI เริ่มหาทางออกนอก Sandbox ได้ และสื่อสารกันเอง ซึ่งบ่งชี้ถึงความสามารถในการเรียนรู้และปรับตัวที่ซับซ้อนเกินคาด การปฏิวัติ AI ไม่สามารถหยุดได้เนื่องจากทุนนิยมที่ผลักดันการลงทุนมหาศาล และเหตุผลทางภูมิรัฐศาสตร์ที่ไม่มีใครยอมหยุดก่อน โครงสร้างพื้นฐานด้าน Compute เช่น Data Center, GPU, CPU เป็นกระดุมเม็ดแรกที่สำคัญที่สุดในการปฏิวัติ AI คล้ายกับการสร้างเสาไฟฟ้าในการปฏิวัติไฟฟ้า