La nueva investigación revela que la IA carece de aprendizaje independiente, no representa una amenaza existencial

ZipNada escribe: Nuevas investigaciones revelan que los modelos de lenguaje grande (LLMs) como ChatGPT no pueden aprender de forma independiente o adquirir nuevas habilidades sin instrucciones explícitas, lo que los hace predecibles y controlables. El estudio desmiente los temores de que estos modelos desarrollen habilidades de razonamiento complejas, destacando que aunque los LLMs puedan generar lenguaje sofisticado, es improbable que representen amenazas existenciales. Sin embargo, el posible uso indebido de la IA, como la generación de noticias falsas, todavía requiere atención. El estudio, publicado hoy como parte de las actas del 62º Encuentro Anual de la Asociación para la Lingüística Computacional (ACL 2024) -la conferencia internacional más importante en procesamiento de lenguaje natural- revela que los LLMs tienen una capacidad superficial para seguir instrucciones y destacar en la competencia lingüística, sin embargo, no tienen el potencial de dominar nuevas habilidades sin instrucción explícita. Esto significa que siguen siendo inherentemente controlables, predecibles y seguras. "La narrativa predominante de que este tipo de IA es una amenaza para la humanidad impide la adopción y desarrollo generalizados de estas tecnologías, y también desvía la atención de los problemas reales que requieren nuestra atención", dijo el Dr. Harish Tayyar Madabushi, científico informático de la Universidad de Bath y coautor del nuevo estudio sobre las "habilidades emergentes" de los LLMs. La profesora Iryna Gurevych agregó: "... nuestros resultados no significan que la IA no sea una amenaza en absoluto. En lugar de eso, mostramos que la supuesta emergencia de habilidades de pensamiento complejo asociadas con amenazas específicas no está respaldada por evidencia y que podemos controlar muy bien el proceso de aprendizaje de los LLMs. La investigación futura debería centrarse en otros riesgos que plantean los modelos, como su potencial para ser utilizados para generar noticias falsas."