Anthropic gibt seinen KI-Modellen eine begrenzte Fähigkeit, Ihren Computer zu steuern

Anthropic hat sein Claude 3.5 Sonnet-Modell aufgerüstet, um einen Benutzer-Computer zu steuern und auf das Internet zuzugreifen, was einen bedeutenden Schritt in den Fähigkeiten von KI-Modellen markiert. Diese neue Funktion ermöglicht es Claude, Aufgaben wie das Erstellen einer persönlichen Website oder die Planung einer Reise auszuführen. Die neuen Fähigkeiten werden über eine API als öffentliche Beta-Version an Entwickler ausgerollt, während das Unternehmen Feedback zu seiner Leistung und Nützlichkeit sucht. Allerdings weckt diese erhöhte Macht Bedenken hinsichtlich potenzieller Risiken, und Anthropic rät Benutzern, den Zugriff des KI auf sensible Daten und Websites zu beschränken und menschliche Bestätigung für Entscheidungen mit realen Konsequenzen zu fordern. Wenn KI-Modelle autonomer werden, können sie Bequemlichkeit bringen, aber auch potenziellen Schaden. Andere KI-Unternehmen werden voraussichtlich in naher Zukunft folgen.