Nieuw onderzoek onthult dat AI onafhankelijk leren mist, vormt geen existentiële bedreiging

ZipNada schrijft: Nieuw onderzoek toont aan dat grote taalmodellen (LLMs) zoals ChatGPT niet onafhankelijk kunnen leren of nieuwe vaardigheden kunnen verwerven zonder expliciete instructies, waardoor ze voorspelbaar en controleerbaar blijven. Het onderzoek ontkracht angsten dat deze modellen complexe redeneerbaarheid zullen ontwikkelen, benadrukt dat hoewel LLMs geavanceerde taal kunnen genereren, het onwaarschijnlijk is dat ze existentiële bedreigingen zullen vormen. Echter, het potentieel misbruik van AI, zoals het genereren van nepnieuws, vereist nog steeds aandacht. Het onderzoek, vandaag gepubliceerd als deel van de proceedings van de 62ste jaarlijkse bijeenkomst van de Association for Computational Linguistics (ACL 2024) - het belangrijkste internationale congres voor natuurlijke taalverwerking - onthult dat LLMs een oppervlakkige vaardigheid hebben om instructies te volgen en uitmuntendheid in taal te tonen, maar dat ze geen potentieel hebben om nieuwe vaardigheden te leren zonder expliciete instructie. Dit betekent dat ze inherent controleerbaar, voorspelbaar en veilig blijven. "De overheersende narratief dat dit type AI een bedreiging voor de mensheid is, voorkomt de brede adoptie en ontwikkeling van deze technologieën en leidt de aandacht af van de echte problemen die onze aandacht nodig hebben," zei Dr. Harish Tayyar Madabushi, computerwetenschapper aan de Universiteit van Bath en co-auteur van het nieuwe onderzoek naar de 'emergente vaardigheden' van LLMs. Professor Iryna Gurevych voegde toe: "...onze resultaten betekenen niet dat AI geen bedreiging is. In plaats daarvan tonen we aan dat het veronderstelde ontstaan van complex denken, geassocieerd met specifieke bedreigingen, niet door bewijs wordt ondersteund en dat we het leerproces van LLMs heel goed kunnen controleren. Toekomstig onderzoek moet zich daarom richten op andere risico's die door de modellen worden veroorzaakt, zoals hun potentieel om nepnieuws te genereren."