RSS Martin Fowler
Folgen
Einige Gedanken zu LLMs und Softwareentwicklung
Der Autor teilt Gedanken zu LLMs und KI, bereitet sich auf einen Urlaub vor und reflektiert über Branchentrends. Umfragen zum Einfluss von KI in der Softwareentwicklung übersehen oft die unterschiedliche Nutzung von LLMs, was potenziell zu verzerrten Ergebnissen führen kann. Der Autor äußert Unsicherheit über die Zukunft des Programmierens und fordert zum Experimentieren mit LLMs sowie zum Teilen von Erfahrungen auf. Er glaubt, dass der KI-Boom eine Blase ist, ähnlich wie frühere technologische Fortschritte, aber mit dem Potenzial für bleibenden Wert trotz des eventualen Platzens. Der Autor wird an der GOTO Copenhagen Konferenz teilnehmen und sich mit Kollegen aus der Branche wieder verbinden. LLMs werden als Halluzinationsmaschinen betrachtet, was die Notwendigkeit unterstreicht, Ausgaben zu überprüfen und mehrere Prompts zu berücksichtigen. Die Softwaretechnik könnte sich weiterentwickeln, um Nichtdeterminismus zu integrieren, ähnlich wie andere Ingenieurdisziplinen. Der Autor stellt fest, dass sich LLMs wie unzuverlässige Junior-Kollegen verhalten und irreführende Ergebnisse liefern können. Abschließend hebt der Autor die erhöhten Sicherheitsrisiken hervor, die durch LLMs entstehen, insbesondere in Bezug auf agentenbasierte Browser-Erweiterungen.