Pesquisa recente revela que a IA carece de aprendizado independente, não representa ameaça existencial

ZipNada escreve: Novas pesquisas revelam que modelos de linguagem de grande porte (LLMs) como o ChatGPT não podem aprender de forma independente ou adquirir novas habilidades sem instruções explícitas, tornando-os previsíveis e controláveis. O estudo desmente os temores de que esses modelos desenvolvam habilidades de raciocínio complexo, enfatizando que, embora os LLMs possam gerar linguagem sofisticada, é improvável que representem ameaças existenciais. No entanto, o potencial uso indevido da IA, como a geração de notícias falsas, ainda requer atenção. O estudo, publicado hoje como parte dos anais do 62º Encontro Anual da Associação para o Processamento de Linguagem Natural Computacional (ACL 2024) - o principal congresso internacional em processamento de linguagem natural -, revela que os LLMs têm uma habilidade superficial para seguir instruções e se destacar em proficiência linguística, mas não têm potencial para dominar novas habilidades sem instrução explícita. Isso significa que eles permanecem fundamentalmente controláveis, previsíveis e seguros. "A narrativa predominante de que esse tipo de IA é uma ameaça à humanidade impede a adoção e desenvolvimento generalizados dessas tecnologias, e também desvia a atenção dos problemas reais que requerem nossa atenção", disse o Dr. Harish Tayyar Madabushi, cientista da computação da Universidade de Bath e co-autor do novo estudo sobre as "habilidades emergentes" dos LLMs. A professora Iryna Gurevych acrescentou: "... nossos resultados não significam que a IA não seja uma ameaça de forma alguma. Em vez disso, mostramos que a suposta emergência de habilidades de pensamento complexo associadas a ameaças específicas não é respaldada por evidências e que podemos controlar muito bem o processo de aprendizado dos LLMs. A pesquisa futura deve, portanto, se concentrar em outros riscos apresentados pelos modelos, como seu potencial uso para gerar notícias falsas."