Nuove ricerche rivelano che l'IA manca di apprendimento indipendente, non rappresenta alcuna minaccia esistenziale

ZipNada scrive: Nuove ricerche rivelano che i grandi modelli di linguaggio (LLM) come ChatGPT non possono imparare in modo indipendente o acquisire nuove abilità senza istruzioni esplicite, rendendoli prevedibili e controllabili. Lo studio smentisce le paure che questi modelli sviluppino complesse capacità di ragionamento, sottolineando che mentre gli LLM possono generare linguaggio sofisticato, è improbabile che rappresentino minacce esistenziali. Tuttavia, il potenziale uso improprio dell'IA, come la generazione di notizie false, richiede ancora attenzione. Lo studio, pubblicato oggi come parte dei procedimenti del 62° Annual Meeting of the Association for Computational Linguistics (ACL 2024) - la principale conferenza internazionale sulla elaborazione del linguaggio naturale - rivela che gli LLM hanno una capacità superficiale di seguire le istruzioni e eccellere nella competenza linguistica, ma non hanno alcun potenziale per padroneggiare nuove abilità senza istruzione esplicita. Ciò significa che rimangono intrinsecamente controllabili, prevedibili e sicuri. "Il narrativa dominante che questo tipo di IA è una minaccia per l'umanità impedisce l'adozione e lo sviluppo diffuso di queste tecnologie, e distoglie l'attenzione dai veri problemi che richiedono la nostra attenzione", ha affermato il dottor Harish Tayyar Madabushi, scienziato informatico presso l'Università di Bath e coautore del nuovo studio sulle "abilità emergenti" degli LLM. La professoressa Iryna Gurevych ha aggiunto: "... i nostri risultati non significano che l'IA non sia una minaccia affatto. Piuttosto, dimostriamo che l'emergere di complesse abilità di pensiero associate a specifiche minacce non è supportato dalle prove e che possiamo controllare il processo di apprendimento degli LLM molto bene dopo tutto. La ricerca futura dovrebbe quindi concentrarsi su altri rischi rappresentati dai modelli, come la loro potenziale utilizzo per generare notizie false."