Eine in Frontiers of Engineering Management (2025) veröffentlichte systematische Übersichtsarbeit hat die Doppelnatur großer Sprachmodelle (LLMs) kartiert und identifiziert sie als leistungsstarke Werkzeuge für Innovation, die gleichzeitig erhebliche Sicherheits- und ethische Risiken mit sich bringen. Die von einem Team der Shanghai Jiao Tong University und der East China Normal University durchgeführte Forschung analysierte 73 Schlüsselarbeiten aus über 10.000 Dokumenten, um eine umfassende Bewertung von Bedrohungen von Cyberangriffen bis hin zu sozialen Verzerrungen zu liefern. Die Studienergebnisse, verfügbar unter https://doi.org/10.1007/s42524-025-4082-6, unterstreichen, dass die rasche Einführung von LLMs wie GPT, BERT und T5 in Bildung, Gesundheitswesen und digitaler Verwaltung dringende Aufmerksamkeit sowohl für technische Abwehrmaßnahmen als auch für ethische Überwachung erfordert.
Die Übersichtsarbeit kategorisiert LLM-bezogene Bedrohungen in zwei Hauptbereiche: missbrauchsbasierte Risiken und bösartige Angriffe, die auf die Modelle selbst abzielen. Missbrauch umfasst die Erzeugung hochgradig flüssiger Phishing-E-Mails, automatisiertes Malware-Scripting, Identitätsspoofing und die großangelegte Produktion falscher Informationen. Bösartige Angriffe erfolgen sowohl auf Daten-/Modellebene – wie Modellinversion, -vergiftung und -extraktion – als auch auf Benutzerinteraktionsebene durch Techniken wie Prompt-Injection und Jailbreaking. Diese Methoden können potenziell auf private Trainingsdaten zugreifen, Sicherheitsfilter umgehen oder Modelle dazu zwingen, schädliche Inhalte auszugeben, was direkte Bedrohungen für die Datensicherheit und das öffentliche Vertrauen darstellt.
Als Reaktion auf diese sich entwickelnden Bedrohungen bewertet die Studie aktuelle Verteidigungsstrategien, die drei Haupttechniken umfassen. Parameterverarbeitung zielt darauf ab, die Angriffsfläche durch Entfernen redundanter Modellparameter zu reduzieren. Eingabevorverarbeitung umfasst das Umschreiben von Benutzerprompts oder die Erkennung adversarieller Trigger ohne Notwendigkeit einer Modellneuanpassung. Adversarielles Training, einschließlich Red-Teaming-Frameworks, simuliert Angriffe, um die Robustheit des Modells zu verbessern. Die Forschung hebt auch Erkennungstechnologien wie semantisches Watermarking und Werkzeuge wie CheckGPT hervor, die modellgenerierten Text mit Genauigkeitsraten von bis zu 98–99 % identifizieren können. Die Autoren stellen jedoch fest, dass Abwehrmaßnahmen häufig hinter der Geschwindigkeit sich entwickelnder Angriffstechniken zurückbleiben, was auf einen dringenden Bedarf an skalierbaren, kosteneffektiven und mehrsprachig adaptiven Lösungen hinweist.
Über technische Schutzmaßnahmen hinaus betont die Studie, dass ethische Governance ebenso entscheidend ist. Die Forscher argumentieren, dass Risiken wie Modellhalluzinationen, eingebettete soziale Verzerrungen, Datenschutzlecks und die Verbreitung von Fehlinformationen gesellschaftliche Herausforderungen darstellen und nicht nur technische Probleme. Um Vertrauen in LLM-basierte Systeme zu fördern, muss die zukünftige Entwicklung Prinzipien der Transparenz, überprüfbaren Inhaltsrückverfolgbarkeit und interdisziplinären Aufsicht integrieren. Die Umsetzung ethischer Überprüfungsrahmen, Datensatz-Audit-Mechanismen und öffentlicher Aufklärungsbildung wird als wesentlich erachtet, um Missbrauch zu verhindern und gefährdete Bevölkerungsgruppen zu schützen.
Die Implikationen dieser Forschung erstrecken sich über mehrere Sektoren. Effektive Abwehrsysteme könnten Finanzinstitute vor ausgeklügelten Phishing-Schemata schützen, die Verbreitung medizinischer Fehlinformationen reduzieren und die wissenschaftliche Integrität wahren. Techniken wie wasserzeichenbasierte Rückverfolgbarkeit und Red-Teaming könnten sich zu Industriestandards für verantwortungsvolle Modellbereitstellung entwickeln. Die Studie kommt zu dem Schluss, dass die sichere und ethische Entwicklung von LLMs die gesellschaftliche Akzeptanz künstlicher Intelligenz grundlegend prägen wird. Die Forscher befürworten zukünftige Arbeiten, die sich auf verantwortungsvolle KI-Governance, einheitliche regulatorische Rahmenbedingungen, sicherere Trainingsdatensätze und verbesserte Modelltransparenzberichterstattung konzentrieren. Mit koordinierten Anstrengungen haben LLMs das Potenzial, zu zuverlässigen Werkzeugen zu reifen, die Bildung, digitale Gesundheitsversorgung und Innovationsökosysteme unterstützen, während die Risiken im Zusammenhang mit Cyberkriminalität und sozialen Fehlinformationen minimiert werden.
