Wenn künstliche Intelligenz von digitalen Schnittstellen in die physische Welt wechselt, steigen die Risiken erheblich. Eine neue Übersichtsarbeit, veröffentlicht in der Zeitschrift Machine Intelligence Research, untersucht die Sicherheits- und Ethikrisiken, wenn Vision-Language-Modelle (VLMs) und Vision-Language-Action-Modelle (VLAs) verkörperte Systeme wie autonome Fahrzeuge, Drohnen, Serviceroboter und Industriemaschinen steuern. Diese Systeme können wahrnehmen, denken und handeln, aber sie führen auch Schwachstellen ein, bei denen Fehler zu physischen Schäden führen können.
Die Übersichtsarbeit, durchgeführt von Forschern des Instituts für Automation der Chinesischen Akademie der Wissenschaften, des University College London, der Minzu-Universität China und der Chinesischen Akademie für Elektronik und Informationstechnologie, kartiert die Fehlerpunkte in Wahrnehmung, Planung, Befehlsbefolgung und Mensch-Roboter-Interaktion. Sie identifiziert Risiken wie Halluzinationen, synthetische Fälschungen, adversarial Angriffe, Datenschutzlecks und unsichere Ausführung. Beispielsweise könnte ein Modell Objekte beschreiben, die aufgrund verzerrter Trainingsdaten oder schwacher cross-modaler Ausrichtung nicht existieren, was zu falschen Entscheidungen eines Roboters führt. Bösartig erstellte Eingaben wie gefälschte Verkehrsschilder oder geklonte Stimmen können Wahrnehmung und Planung manipulieren, während winzige adversarial Störungen oder versteckte Hintertüren Sicherheitskontrollen umgehen können.
Die Autoren betonen, dass diese Risiken nicht isoliert sind. In einem Chatbot können Fehler zu Fehlinformationen führen; in einem autonomen Fahrzeug oder Industrieroboter können sie zu Kollisionen, beschädigter Ausrüstung oder fehlgeschlagenen Missionen führen. Bestehende Sicherheitsvorkehrungen sind oft benchmark-spezifisch, fragmentiert oder zu rechenintensiv für den Echtzeiteinsatz. Die Übersichtsarbeit fordert einheitliche, adaptive Verteidigungsmaßnahmen, die die gesamte Pipeline von der Sensoreingabe bis zur physischen Aktion abdecken.
Um diese Bedrohungen zu bekämpfen, organisieren die Forscher Verteidigungsstrategien in verbundene Schichten. Dazu gehören Halluzinationsfilterung und visionsgestützte Ausrichtung zur Verbesserung der Wahrnehmungsgenauigkeit; cross-modale Fälschungserkennung, Wasserzeichen und Herkunftsverfolgung zur Überprüfung der Authentizität; Verteidigung gegen adversarial Störungen, Hintertüren und Jailbreaks; datenschutzerhaltende Techniken wie differenzielle Privatsphäre, sichere Mehrparteienberechnung und homomorphe Verschlüsselung; sowie Sicherheitsvorkehrungen für Navigation, Kommunikation und physische Steuerung. Zusätzlich schlagen sie vor, kausale Erklärungen, Absichtsabgleich und Risikobewertung zu nutzen, um Robotern zu helfen, mehrdeutige Anweisungen zu interpretieren, Gefahren vorherzusehen und Aktionen zu korrigieren.
Die zentrale Erkenntnis ist, dass kein einzelner Filter ein verkörpertes System sichern kann. Der Schutz muss dem gesamten Pfad von der Sensoreingabe über die Modelllogik, die Systemarchitektur bis zur physischen Ausführung folgen. Die Autoren argumentieren, dass die Herausforderung nicht nur darin besteht, Modelle genauer zu machen, sondern sicherzustellen, dass Systeme sicher bleiben, wenn Sensoren, Spracheingaben und Betriebsbedingungen unvollkommen sind. Sie befürworten die Kombination von Verteidigungsmaßnahmen anstelle isolierter Patches, mit transparenten Risikometriken, kontinuierlicher Überwachung und menschlicher Aufsicht für kritische Entscheidungen.
Für Entwickler und Regulierungsbehörden bietet die Übersichtsarbeit eine praktische Checkliste zur Bewertung verkörperter Systeme vor der großflächigen Bereitstellung. Zukünftige Plattformen könnten interpretierbares Denken, Angriffserkennung, datenschutzerhaltende Berechnung und dynamische Sicherheitskontrollen unter reproduzierbaren, offenen Bewertungsprotokollen integrieren. Die Autoren fordern Designs, die vier Dimensionen gemeinsam berücksichtigen: technische Robustheit, regulatorische Übereinstimmung, soziale Gerechtigkeit und ökologische Nachhaltigkeit.
Ein solcher Ansatz könnte sichereren autonomen Transport, Gesundheitsassistenz, Lagerautomatisierung, industrielle Inspektion und kollaborative Robotik unterstützen und gleichzeitig die Verantwortung bei Fehlern leichter nachvollziehbar machen. Die Übersichtsarbeit warnt jedoch davor, dass starke Laboregebnisse möglicherweise nicht sauber auf laute, kulturell vielfältige und ressourcenbeschränkte Umgebungen übertragbar sind. Fortschritt hängt von interdisziplinärer Zusammenarbeit und Tests ab, die nicht nur den Aufgabenerfolg messen, sondern auch sicheres Verhalten unter Stress.
Die Studie ist mit der DOI 10.1007/s11633-025-1626-x veröffentlicht und erscheint in einer Sonderausgabe zur Sicherheit und Ethik generativer KI. Die Forschung wurde teilweise von der National Natural Science Foundation of China, dem Strategic Priority Research Program der Chinesischen Akademie der Wissenschaften und dem Engineering and Physical Sciences Research Council (EPSRC) in Großbritannien unterstützt.
