OpenAI hat ein internes KI-Modell namens GPT-Red entwickelt, das per Self-Play-Training (ein Verfahren, bei dem das Modell gegen sich selbst trainiert) automatisiert Sicherheitslücken in KI-Systemen aufspürt. In 84 Prozent der getesteten Angriffsszenarien war GPT-Red erfolgreich – menschliche Red-Teamer (Sicherheitstester, die gezielt Angriffe simulieren) kamen nur auf 13 Prozent. Das ist kein marginaler Unterschied, das ist eine andere Dimension.
Was ist neu?
Red-Teaming gegen KI-Modelle ist keine neue Disziplin. Neu ist jedoch der Ansatz, den OpenAI hier verfolgt: GPT-Red wurde nicht auf bekannte Angriffsmuster trainiert, sondern lernt durch Self-Play kontinuierlich neue Angriffsvektoren (Angriffswege) zu entwickeln. Das Modell spielt dabei gewissermaßen gegen sich selbst – einmal als Angreifer, einmal als zu schützende Seite – und optimiert dabei seine Fähigkeit, Schwachstellen zu finden, die klassische Tests übersehen.
Die Zahlen sprechen für sich: 84 zu 13 Prozent ist kein Messrauschen. Das bedeutet, dass ein automatisiertes KI-System in der Lage ist, Angriffe auf andere KI-Modelle nicht nur zu simulieren, sondern dabei erheblich systematischer und breiter zu testen, als ein menschliches Team es in vergleichbarer Zeit könnte.
Self-Play-Training: Das Angreifer-Modell optimiert sich durch Feedbackschleifen kontinuierlich selbst.
Was bedeutet das für die Praxis – und für Microsoft-Umgebungen?
In meinen Azure-Kursen stoßen wir regelmäßig auf die Frage, wie Unternehmen die Sicherheit ihrer Azure-OpenAI-Deployments (also eigener Instanzen von OpenAI-Modellen in der Azure-Infrastruktur) überhaupt bewerten sollen. Bisher lautete die ehrliche Antwort: Manuelles Testen, Prompt-Injection-Szenarien ausprobieren, Microsoft Defender for Cloud und Content-Filter konfigurieren – und hoffen, dass das reicht.
GPT-Red zeigt nun, in welche Richtung sich das Feld entwickelt: automatisiertes, KI-gestütztes Red-Teaming wird mittelfristig zum Standard. Für IT-Professionals mit Azure-OpenAI-Deployments hat das konkrete Konsequenzen:
| Aspekt | Bisheriger Ansatz | Künftiger Ansatz (KI-gestützt) |
|---|---|---|
| Red-Teaming-Abdeckung | Manuell, begrenzte Szenarien | Automatisiert, breite Angriffsfläche |
| Testfrequenz | Projektweise, selten kontinuierlich | Kontinuierlich, in CI/CD-Pipelines integrierbar |
| Skalierung | Begrenzt durch Personalkapazität | Skaliert mit Rechenleistung |
| Reaktionszeit auf neue Angriffsmuster | Wochen bis Monate | Potenziell stunden- bis tagesaktuell |
Microsoft hat mit dem Azure AI Content Safety-Dienst und den Defender-Integrationen bereits erste Bausteine für systematisches KI-Monitoring im Einsatz. Dennoch: Ein Ansatz wie GPT-Red, der gezielt das Angriffsverhalten von KI-gegen-KI trainiert, geht deutlich über klassische Content-Filter oder statische Jailbreak-Erkennungen hinaus.
**Praxistipp:** Wer Azure OpenAI produktiv betreibt, sollte heute schon die Prompt-Shield-Funktionen in Azure AI Content Safety aktivieren und die Protokollierung über Azure Monitor einrichten. Das ist kein Ersatz für systematisches Red-Teaming – aber es ist die Basis, auf der künftige KI-gestützte Sicherheitstools aufbauen werden.
**Merksatz:** KI-Sicherheit lässt sich nicht mehr allein durch menschliche Tester gewährleisten. Automatisiertes Red-Teaming wird zur Pflicht, nicht zur Kür.
Die vollständige Meldung finden Sie hier: Originalmeldung bei The Decoder (DE)