Das Special Competitive Studies Project (SCSP), eine gemeinnützige und überparteiliche Initiative zur Stärkung der langfristigen KI-Wettbewerbsfähigkeit Amerikas, hat eine eindringliche Warnung vor der rasanten Entwicklung agentischer künstlicher Intelligenz (KI) ausgesprochen. Im Gegensatz zu herkömmlichen KI-Systemen, die auf Eingaben reagieren, kann agentische KI eigenständig Ziele setzen, Pläne erstellen und mehrstufige Aufgaben mit minimaler menschlicher Aufsicht ausführen. Laut SCSP-Experten beginnt KI dabei, bessere KI zu entwickeln, was möglicherweise eine sich selbst beschleunigende Schleife erzeugt, in der die KI-Fähigkeiten weit über die derzeitigen Prognosen hinaus eskalieren.
Ylli Bajraktari, Präsident des SCSP, betonte in einem aktuellen Newsletter zu agentischer KI die Sicherheitsimplikationen: „Ein Agent, der komplexe bürokratische Systeme navigieren, ausbeutbare Schwachstellen identifizieren und handeln kann, ohne eine eindeutige Attributionsspur zu hinterlassen, stellt eine qualitative Ausweitung der gegnerischen Fähigkeiten dar“, erklärte er. Bajraktari warnte, dass Gegner agentische KI-Systeme voraussichtlich dort einsetzen werden, wo die Governance am schwächsten ist, und sie für Nötigung, Spionage und Einflussoperationen nutzen werden.
Entgegen gängiger politischer Annahmen konzentriert sich eine wirksame Governance agentischer KI nicht auf das KI-Modell selbst, sondern auf das darum herum aufgebaute „Gerüst“, erklärten SCSP-Experten. Dieses Gerüst umfasst Verbindungen, die das Modell mit der realen Infrastruktur wie E-Mail, Buchungssystemen und Finanzplattformen verknüpfen; Gedächtnis, das es dem System ermöglicht, im Laufe der Zeit zu lernen und sich anzupassen; Planungsfähigkeiten, die große Ziele in kleinere Aufgaben aufteilen; Berechtigungsstrukturen, die den Systemzugriff definieren; sowie Leitplanken, die festlegen, was das System ablehnen wird, wie Ausgabenlimits oder obligatorische menschliche Genehmigungen.
Die Rechenschaftspflicht bleibt eine kritische Herausforderung, wobei die Governance in drei Schlüsselbereichen hinterherhinkt. Erstens ist die Verantwortung oft nicht nachvollziehbar, wenn KI autonom handelt – es gibt keine klare Möglichkeit festzustellen, wer was autorisiert hat. Zweitens bewerten aktuelle Rahmenwerke in der Regel nur, ob eine Aufgabe abgeschlossen wurde, nicht ob sie sicher ausgeführt wurde oder Schaden verursacht hat. Drittens erstellt agentische KI persönliche Profile, indem sie sensible Daten über Verhaltensmuster, Präferenzen und Schlussfolgerungen sammelt, was möglicherweise über das hinausgeht, was Einzelpersonen teilen möchten.
Trotz dieser Bedenken betont das SCSP, dass agentische KI keine Technologie ist, die gefürchtet oder aufgeschoben werden sollte. „Institutionen, die Priorität darauf legen, agentische KI zu verstehen, zu formen und zu lenken, werden nicht nur ihre eigene Wettbewerbsposition bestimmen, sondern auch den Charakter des Umfelds beeinflussen, in dem agentische KI global agiert“, so die Experten. Für die Vereinigten Staaten ist eine proaktive Governance unerlässlich, um Risiken zu mindern und das Potenzial der Technologie zu nutzen. Weitere Informationen finden Sie unter scsp.ai.
