AI 'babası' Yoshua Bengio, UK'de AI felaketlerini önlemek için bir projeye katıldı

Yoshua Bengio, tanınmış bir AI araştırmacısı, Birleşik Krallık hükümeti tarafından finanse edilen bir proje olan Safeguarded AI'ye katılmaktadır. Bu projede, kritik alanlarda dağıtılan AI sistemlerine güvenlik mekanizmalarını entegre etmek amaçlanmaktadır. Safeguarded AI, AI sistemlerinin gerçek dünya üzerindeki etkileri hakkında nicel garantiler, örneğin risk puanları, sunmayı amaçlamaktadır. Proje, bilimsel dünya modellerini ve matematiksel kanıtları kullanarak AI modellerinin güvenliğini doğrulamayı hedefliyor. Bengio, gelecekteki AI sistemlerinin ciddi zarara neden olmasını önlemeyi amaçlamaktadır, çünkü şu anda onların güvenli davranışını garantilemek için yeterli teknikler bulunmamaktadır. Safeguarded AI projesi, diğer AI ajanlarının güvenlik risklerini anlamak ve azaltmak için bir "bekçi" AI oluşturmayı amaçlamaktadır. ARIA, yüksek riskli sektörlerdeki kuruluşlara, AI güvenlik mekanizmalarından yararlanabilecek uygulamalar geliştirmeleri için fonlar sunmaktadır. ARIA, ayrıca Safeguarded AI'nin güvenlik mekanizmalarının geliştirilmesini denetlemek için kar amacı gütmeyen bir organizasyon kurmayı amaçlamaktadır. Safeguarded AI projesi, Birleşik Krallık'ın AI güvenliği alanındaki öncü konumunu güçlendirmeye yönelik bir adımdır. Bengio, projenin, ileri AI sistemlerinin risklerini ele almak için uluslararası işbirliğini teşvik edeceğini ummaktadır.