Premetric.ai hat eine Pre-Deployment-Governance-Plattform für künstliche Intelligenz (KI) gestartet, die Organisationen dabei helfen soll, Risiken, Auswirkungen und Notwendigkeit von KI-Systemen zu bewerten, bevor diese entwickelt oder eingesetzt werden. Diese Ankündigung erfolgt zu einem Zeitpunkt, an dem regulatorische und gesellschaftliche Prüfungen von KI weltweit zunehmen. Premetric positioniert sich damit in einer von ihnen als kritisch, aber unterentwickelt beschriebenen Ebene des KI-Lebenszyklus: der vorgelagerten Entscheidungsfindung.
Pre-Deployment-Governance für KI bezieht sich auf die strukturierte Bewertung, ob ein KI-System gebaut oder eingesetzt werden sollte, basierend auf seinen potenziellen Risiken, gesellschaftlichen Auswirkungen und der Übereinstimmung mit organisatorischen und regulatorischen Standards. Während sich die meisten bestehenden KI-Governance-Ansätze auf die Überwachung von Systemen nach dem Einsatz konzentrieren, führt Premetric eine Entscheidungsintelligenz-Ebene ein, die aktiv wird, bevor Code geschrieben oder Modelle trainiert werden. "KI-Governance war bisher weitgehend reaktiv", sagte Dost Mushtaq, CEO von Premetric.ai. "Wenn die meisten Kontrollen angewendet werden, sind die risikoreichsten Entscheidungen bereits getroffen. Premetric existiert, um Governance vorgelagert zu verlagern – an den Punkt, an dem Organisationen entscheiden, ob ein KI-System überhaupt existieren sollte."
Die Premetric-Plattform ermöglicht es Organisationen, strukturierte Risikobewertungen durchzuführen, die mit aufkommenden globalen Standards wie dem EU-KI-Gesetz und dem NIST-KI-Risikomanagement-Rahmenwerk übereinstimmen. Sie führt mehrstufige Bewertungs-Workflows ein, die KI-Anwendungsfälle nach Risikostufen klassifizieren, potenzielle Schäden bewerten und überprüfbare Entscheidungsprotokolle für interne und regulatorische Prüfungen generieren. Diese Workflows sind so konzipiert, dass sie sich in bestehende Produkt- und Compliance-Prozesse integrieren lassen, sodass Governance als Gate-Mechanismus und nicht als nachträgliche Prüfebene fungiert. Weitere Details zur Methodik der Plattform sind unter https://premetric.ai/platform verfügbar.
Laut frühen Anwendern aus dem Finanzdienstleistungs- und Gesundheitssektor schließt die Plattform eine wachsende Lücke zwischen regulatorischen Erwartungen und der operativen Realität. "Wir haben seit Jahren robuste Modellvalidierungsprozesse, aber nichts, was uns dabei hilft, zunächst zu entscheiden, ob ein Anwendungsfall überhaupt weiterverfolgt werden sollte", sagte Dr. Elena Markovic, ehemalige KI-Governance-Leiterin einer großen europäischen Bank und Beraterin von Premetric. "Premetric operationalisiert diese fehlende Ebene auf eine Weise, die mit dem Denken der Regulierungsbehörden über KI-Risiken übereinstimmt."
Der Start erfolgt vor dem Hintergrund zunehmender globaler Dynamik hin zu formeller KI-Regulierung. Rahmenwerke wie das EU-KI-Gesetz und Prinzipien der OECD betonen Risikoklassifizierung, Rechenschaftspflicht und Transparenz, überlassen die Umsetzungsdetails jedoch den Organisationen. Premetric übersetzt diese hochrangigen Anforderungen in konkrete Entscheidungsprozesse und ermöglicht es Unternehmen so, nicht nur nachzuweisen, dass ihre KI-Systeme konform sind, sondern dass sie verantwortungsvoll konzipiert wurden.
Branchenanalysten beginnen, Pre-Deployment-Governance als eine eigenständige und notwendige Kategorie innerhalb der breiteren KI-Governance-Landschaft zu identifizieren. "Wir beobachten das Aufkommen einer neuen Kontrollebene, die sich auf Go/No-Go-Entscheidungen für KI-Systeme konzentriert", sagte Marcus Chen, Senior Analyst am Institut für verantwortungsvolle Technologiepolitik. "Anbieter, die diese Entscheidungen auf strukturierte, überprüfbare Weise operationalisieren können, werden eine zentrale Rolle bei der KI-Einführung in Unternehmen spielen."
Premetric.ai bedient Organisationen, die in hochsensiblen Bereichen tätig sind, in denen KI-Risiken erheblich sind, darunter Finanzen, Gesundheitswesen und öffentlicher Sektor. Die Dienstleistungen des Unternehmens sind ab sofort für den Unternehmenseinsatz verfügbar. Weitere Informationen finden Sie unter https://www.premetric.ai.
