RSS Die nächste Generation
Folgen
Meinung: Einem nicht verifizierten KI-Agenten zu vertrauen, ist, als würde man einem betrunkenen Absolventen die Schlüssel übergeben.
KI-Agenten werden mittlerweile weltweit in zentrale Geschäftsfunktionen integriert. Schon bald könnten diese Agenten unser Leben planen, wichtige Entscheidungen treffen und Deals in unserem Namen verhandeln. Die Aussicht ist spannend und ehrgeizig, wirft aber auch die Frage auf: Wer beaufsichtigt sie eigentlich? Über die Hälfte (51 %) der Unternehmen hat KI-Agenten eingesetzt, und Salesforce-CEO Marc Benioff hat sich zum Ziel gesetzt, bis Ende des Jahres eine Milliarde Agenten zu erreichen. Trotz ihres wachsenden Einflusses fehlt es auffallend an Verifizierungstests. Diesen Agenten werden kritische Aufgaben in sensiblen Sektoren wie dem Bankwesen und dem Gesundheitswesen ohne angemessene Aufsicht anvertraut. KI-Agenten erfordern...
