Google werkt zijn zoekalgoritme bij om AI-diepvals te bestrijden

Google werkt aan een update van zijn zoekalgoritme en de procedure voor verwijderingsverzoeken om slachtoffers van ongewenste seksueel expliciete AI-deepfakes beter te helpen. "Wanneer gerapporteerde AI-deepfakes worden geïdentificeerd, zal Google Search automatisch verwante zoekresultaten filteren die in de toekomst kunnen verschijnen, zodat gebruikers niet herhaaldelijk soortgelijke afbeeldingen of duplicaten van een afbeelding bij Google hoeven te rapporteren," meldt PCMag. Bovendien zal Google websites die herhaaldelijk non-consensuele deepfakes hosten, degraderen en streeft ernaar om consensuele en non-consensuele expliciete inhoud te onderscheiden. Uit het rapport: Google zegt dat de update van zijn zoekalgoritme de kans vermindert dat expliciete deepfakes in de zoekresultaten verschijnen. De zoekmachine zal ook proberen om echt seksueel expliciet materiaal dat met toestemming is gemaakt (zoals het werk van pornoacteurs, bijvoorbeeld) en AI-genererend materiaal dat zonder toestemming is gemaakt, te onderscheiden. Maar Google zegt dat dit een "technische uitdaging" is, dus deze inspanningen mogen niet helemaal accuraat of effectief zijn. Desondanks claimt Google dat de veranderingen die het al heeft aangebracht in Search, hebben geleid tot een vermindering van meer dan 70% in de heropkomst van dergelijke deepfakes. "Met deze veranderingen kunnen mensen lezen over de impact die deepfakes hebben op de samenleving, in plaats van pagina's met echte non-consensuele nepbeelden," aldus Google.