AI:n 'jumala-isä' Yoshua Bengio on liittynyt Britannian projektiin, joka pyrkii ehkäisemään AI-katastrofeja

Yoshua Bengio, tunnettu tekoälytutkija, liittyy Britannian hallituksen rahoittamaan hankkeeseen nimeltä Safeguarded AI, joka pyrkii sisällyttämään turvamekanismit tekoälyjärjestelmiin. Hankkeen tavoitteena on rakentaa tekoälyjärjestelmä, joka voi tarkistaa muiden tekoälyjärjestelmien turvallisuuden kriittisillä alueilla käytössä. Safeguarded AI:n tavoitteena on tarjota kvantitatiiviset vakuudet, kuten riskipisteet, tekoälyjärjestelmien todellisista maailmassa aiheuttamista vaikutuksista. Hankkeessa yhdistetään tieteelliset maailmanmallit ja matemaattiset todistukset tekoälymallien turvallisuuden vahvistamiseksi. Bengio haluaa varmistaa, että tulevaisuuden tekoälyjärjestelmät eivät aiheuta vakavaa vahinkoa, koska nykyiset menetelmät eivät ole riittäviä niiden turvallisuuden vakuuttamiseksi. Safeguarded AI -hankkeessa luodaan "portinvartija"-tekoäly, joka ymmärtää ja vähentää muiden tekoälyagenttien turvallisuusriskejä. ARIA tarjoaa rahoitusta organisaatioille korkean riskin sektoreilla, joilla voisi olla hyötyä tekoälyn turvallisuusmekanismeista. ARIA suunnittelee myös perustavansa voittoa tavoittelemattoman organisaation valvomaan Safeguarded AI:n turvallisuusmekanismien kehittämistä. Safeguarded AI -hankkeeseen kuuluu Britannian pyrkimykseen asettua tekoälyn turvallisuuden edelläkävijäksi. Bengio toivoo, että hanke edistää kansainvälistä yhteistyötä edistääkseen kehittyneiden tekoälyjärjestelmien riskejä vastaan.