Ursula von der Leyen hat sich klar positioniert: Die KI-Entwicklung soll gebremst, der EU AI Act international als Sicherheitsrahmen etabliert werden. Als konkrete Risiken nennt sie autonome Hacking-Vorfälle und selbstverbessernde Modelle – beides keine Science-Fiction mehr, sondern Realität in aktuellen Frontier-Laboren.
Der EU AI Act definiert Risikokategorien für KI-Systeme – Hochrisiko-Anwendungen unterliegen ab 2025 strengen Anforderungen.
Was ist neu?
Von der Leyen plant, die führenden KI-Labore – gemeint sind Akteure wie OpenAI, Google DeepMind, Anthropic oder Meta – zu Gesprächen nach Europa einzuladen. Ziel ist es, den EU AI Act (die europäische KI-Verordnung, seit August 2024 in Kraft) nicht nur als europäisches Regelwerk, sondern als Blaupause für globale KI-Sicherheitsstandards zu positionieren.
Konkret verweist sie auf zwei Risikobereiche, die ich aus meinen Azure-Kursen kenne und die dort zunehmend diskutiert werden:
- Autonome Hacking-Vorfälle: KI-gestützte Angriffe, die ohne menschliche Steuerung Schwachstellen finden und ausnutzen – eine direkte Bedrohung für jede Cloud-Umgebung.
- Selbstverbessernde Modelle (self-improving models): Systeme, die ihre eigenen Parameter anpassen, ohne dass Entwickler jeden Schritt kontrollieren können.
Beides sind keine theoretischen Szenarien. Microsoft selbst thematisiert autonome Angriffe in seiner Defender-Produktlinie und hat zuletzt in Microsoft Security Copilot entsprechende Erkennungsfunktionen ausgebaut.
Was bedeutet das für die Praxis?
Für IT-Professionals und Unternehmen, die bereits auf Azure OpenAI Service oder Microsoft Copilot setzen, ergeben sich konkrete Konsequenzen – auch wenn der AI Act zunächst primär Anbieter und Entwickler adressiert:
| Bereich | Aktuelle Pflichten (AI Act) | Relevanz für Azure-Nutzer |
|---|---|---|
| Hochrisiko-KI-Systeme | Dokumentation, Transparenz, menschliche Aufsicht | Betrifft eigene KI-Lösungen auf Azure, nicht nur Microsoft-Dienste |
| General Purpose AI (GPAI) | Modellkarten, Trainingsdaten-Dokumentation | OpenAI-Modelle über Azure fallen darunter – Microsoft stellt Compliance-Unterlagen bereit |
| Verbotene KI-Praktiken | Biometrische Massenüberwachung, Social Scoring | Kaum direkt relevant, aber Awareness nötig bei Custom-Entwicklungen |
Merksatz: Wer KI-Dienste in kritischen Geschäftsprozessen einsetzt – etwa in HR, Kreditwesen oder Infrastruktursteuerung – muss den Hochrisiko-Pfad des AI Act im Blick behalten. Das gilt unabhängig davon, ob die Verordnung global ausgerollt wird oder nicht.
In meinen Azure-Kursen stoßen wir regelmäßig auf die Frage, wie Unternehmen die Responsible AI-Prinzipien von Microsoft mit konkreten Compliance-Anforderungen verknüpfen. Der AI Act macht das nun verbindlich – zumindest für den europäischen Markt. Von der Leyens Vorstoß, internationale Partner einzubinden, könnte diesen Rahmen mittelfristig ausweiten.
Praxisempfehlung: Prüfen Sie jetzt, welche KI-gestützten Workloads in Ihrer Azure-Umgebung unter die Hochrisiko-Kategorien des AI Act fallen könnten. Microsoft stellt im Azure AI Foundry (früher Azure AI Studio) entsprechende Evaluierungs- und Dokumentationswerkzeuge bereit. Nutzen Sie diese nicht erst, wenn die Aufsichtsbehörden fragen.
Originalmeldung: Langsamer bitte: Von der Leyen will mit AI Act und internationalen Partnern KI-Entwicklung zügeln – The Decoder (DE)