"Innen die KI-Anweisungen, die DOGE verwendete, um "zu mampfen" Verträge im Zusammenhang mit der Gesundheit von Veteranen"

"Das Department of Government Efficiency (DOGE) verwendete ein AI-Skript, um Verträge für das Department of Veterans Affairs (VA) im Rahmen des Exekutivbefehls von Präsident Trump zu überprüfen, um unnötige Verträge zu stornieren. Das AI-Skript, geschrieben von Sahil Lavingia, erhielt unklare und widersprüchliche Anweisungen, was zu Fehlern führte. Das Skript sollte Verträge stornieren, die nicht "direkt die Patientenversorgung unterstützen", aber weder Lavingia noch das Modell hatten das Wissen, um solche Entscheidungen zu treffen. Experten fanden zahlreiche Fehler im Code, einschließlich der Verwendung älterer Modelle, die nicht für diese Aufgabe geeignet waren, und die Tendenz des Modells, Vertragsbeträge zu "halluzinieren". Die Experten kritisierten auch die Verwendung von Standard-AI-Modellen mit wenig Kontext über die Funktionsweise des VA. Lavingia räumte die Fehler ein und gab eine fehlende Zeit und geeignete Werkzeuge. Das AI-Modell erhielt Anweisungen, die unklar und manchmal widersprüchlich waren, was zu Fehlern bei der Kennzeichnung von Verträgen für die Stornierung führte. Experten sagten, dass die Fehler des Modells auf einem Mangel an Verständnis über die Funktionsweise des VA und was "direkte Patientenversorgung" ausmacht, beruhten. Die Fehler führten dazu, dass Verträge für wichtige Dienstleistungen wie Internet-Konnektivität für die Stornierung gekennzeichnet wurden. Insgesamt kamen die Experten zu dem Schluss, dass die Verwendung von AI auf diese Weise fehleranfällig ist und nicht ohne sorgfältigere Planung und Expertise hätte versucht werden sollen."