Neue Forschungsergebnisse zeigen, dass KI unabhängiges Lernen fehlt und keine existenzielle Bedrohung darstellt

ZipNada schreibt: Neue Forschungsergebnisse zeigen, dass große Sprachmodelle (LLMs) wie ChatGPT nicht eigenständig lernen oder neue Fähigkeiten erwerben können, ohne explizite Anweisungen zu erhalten, was sie vorhersehbar und kontrollierbar macht. Die Studie entkräftet Ängste, dass diese Modelle komplexe Denkprozesse entwickeln, betont jedoch, dass während LLMs komplexe Sprache generieren können, sie unwahrscheinlich existenzielle Bedrohungen darstellen. Es gibt jedoch immer noch Anlass, sich mit dem Missbrauch von KI zu befassen, zum Beispiel durch die Erstellung von Fake-Nachrichten. Die Studie, die heute im Rahmen der Proceedings des 62. Annual Meeting of the Association for Computational Linguistics (ACL 2024) veröffentlicht wurde - dem führenden internationalen Kongress für natürliche Sprachverarbeitung - zeigt, dass LLMs eine oberflächliche Fähigkeit haben, Anweisungen zu folgen und Sprachkenntnisse zu erwerben, aber keine Fähigkeit, neue Fähigkeiten ohne explizite Anweisung zu erwerben. Das bedeutet, dass sie inhärent steuerbar, vorhersehbar und sicher bleiben. "Die vorherrschende Erzählung, dass dieser Typ von KI eine Bedrohung für die Menschheit darstellt, verhindert die breite Anwendung und Entwicklung dieser Technologien und lenkt auch die Aufmerksamkeit von den tatsächlichen Problemen ab, auf die wir uns konzentrieren müssen", so Dr. Harish Tayyar Madabushi, Informatiker an der University of Bath und Co-Autor der neuen Studie über die "emergenten Fähigkeiten" von LLMs. Professorin Iryna Gurevych fügte hinzu: "... unsere Ergebnisse bedeuten nicht, dass KI überhaupt keine Bedrohung darstellt. Stattdessen zeigen wir, dass die behauptete Entwicklung komplexer Denkprozesse, die mit bestimmten Bedrohungen assoziiert sind, durch keine Beweise gestützt ist und dass wir den Lernprozess von LLMs sehr gut kontrollieren können. Zukünftige Forschung sollte sich daher auf andere Risiken konzentrieren, die von den Modellen ausgehen, wie zum Beispiel das Potenzial, Fake-Nachrichten zu generieren."