OpenAI sucht einen universellen Jailbreak für ChatGPT‑5.5 — und zahlt dafür 25'000 US‑Dollar. Gesucht wird eine Methode, das Modell dazu zu bringen, fünf strikt verbotene Biosicherheitsfragen zu beantworten; das Programm läuft ausschliesslich in der Codex‑Desktop‑Umgebung und Teilnahme ist nur auf Einladung und nach Unterzeichnung einer NDA möglich.

Was OpenAI ausschreibt OpenAI hat ein weiteres Bug‑Bounty‑Programm gestartet, das sich ausdrücklich dem Bereich Biosicherheit widmet. Gesucht wird ein Weg, ChatGPT 5.5 dazu zu bringen, auf fünf konkrete Fragen zu antworten, die das Modell unter normalen Umständen nicht beantworten würde, weil sie potenziell gefährliche Anleitungen oder sensitives Wissen betreffen könnten. Kernelemente des Programms - Preisgeld: 25'000 US‑Dollar für den ersten voll funktionierenden Jailbreak; OpenAI kann nach eigenem Ermessen auch Teilprämien vergeben. - Umgebung: Tests finden ausschliesslich in der Codex‑Desktop‑Variante von ChatGPT 5.5 statt. - Teilnahme: Nur auf Einladung nach Bewerbung; Bewerbungszeitraum 23. April bis 22. Juni. - Testphase: Praktische Prüfungen laufen vom 28. April bis zum 27. Juli. - Bedingungen: Teilnehmende müssen eine Vertraulichkeitserklärung (NDA) unterschreiben und sollten Erfahrung in KI‑Red‑Teaming, Sicherheit oder Biosicherheit mitbringen. Warum OpenAI das Programm startet OpenAI gibt an, Schwachstellen in den sogenannten Safeguards aufdecken zu wollen. Diese Schutzmechanismen sollen gefährliche Anfragen erkennen und das Modell daran hindern, detaillierte Anleitungen zur Herstellung biologischer Gefahrenstoffe oder anderes sensitives Wissen zu liefern. Wenn Forschende Wege finden, Moderation zu umgehen, offenbart das konkrete Angriffspunkte, an denen OpenAI seine Systeme verbessern kann. Red‑Teams — also Gruppen, die gezielt Sicherheitsvorkehrungen testen — werden ausdrücklich angesprochen. OpenAI sucht Teilnehmende mit technischem und ethischem Fachwissen, weil es neben der Identifikation von Lücken auch um den sicheren Umgang mit Ergebnissen geht. Bisherige Beispiele für Jailbreaks Forscherinnen und Sicherheitsforscher haben in der Vergangenheit mehrfach Wege gefunden, LLM‑Safeguards zu umgehen. Ein bekanntes Muster war etwa das Ausnutzen des Zeitkontexts (beispielsweise Aufforderungen, die ein Opfer in einer anderen historischen Epoche verorten), wodurch Moderationsfilter ausgetrickst wurden. Solche Fälle zeigen, dass Moderationssysteme auf bestimmte Muster reagieren und diese Muster gezielt umgangen werden können. OpenAI will solche Muster frühzeitig erkennen, bevor sie missbraucht werden. Abgrenzung zu anderen Programmen Das Biosicherheits‑Bounty ergänzt frühere Programme von OpenAI. Kürzlich startete das Unternehmen ein offenes Bug‑Bounty‑Programm zur Datensicherheit, das der Allgemeinheit Teilnahme erlaubte und Prämien für das Auffinden von Methoden zur Extraktion sensibler Nutzerdaten aussetzte. Der jetzige Aufruf ist restriktiver: nur eingeladene oder erfolgreich Bewerbende dürfen teilnehmen, alle müssen eine NDA unterschreiben, und die Aufgabe ist ausdrücklich auf Biosicherheitsfragen fokussiert — ein Bereich, den OpenAI als besonders sensibel einstuft. Der Aufruf ist ein Signal Der offene Aufruf zeigt, dass Anbieter grosser Sprachmodelle Biosicherheit zunehmend als eigenen Risikobereich betrachten und gezielt externe Prüfungen suchen. Für Anbieter, Forschende und Regulierer bedeutet das, dass technische Safeguards, Red‑Team‑Methoden und ethische Prüfverfahren künftig noch enger zusammenrücken müssen.

Related Articles

Die Bewerbungsfrist läuft vom 23. April bis zum 22. Juni; die Testphase ist vom 28. April bis zum 27. Juli angesetzt.

Dieser Artikel wurde mit KI-Unterstützung erstellt.