Ein Ausfall menschlicher Kontrolle über Schussentscheidungen könnte das internationale Sicherheitsgefüge destabilisieren, weil die Technik binnen etwa zehn Jahren Maschinen die finale Waffeneinsatzentscheidung ermöglichen könnte, sagte Rheinmetall-Chef Armin Papperger. Er forderte auf der Rüstungsmesse Eurosatory in Villepinte bei Paris verbindliche, globale Regeln, damit Menschen auch künftig über den Abzug entscheiden. Papperger machte seine Aussagen gegenüber der Deutschen Presse-Agentur und hob hervor, dass Rheinmetall aktuell keine Systeme baue, in denen nicht der Mensch die finale Entscheidung treffe. Das Anliegen zielt darauf ab, asymmetrische Einsatzpraktiken zu verhindern, die Menschenrechte und völkerrechtliche Normen bedrohen könnten.

Die Forderung nach global verbindlichen Regeln folgt daraus, dass einzelne Staaten oder Streitkräfte anders vorgehen könnten, was das bisherige sicherheitspolitische Gefüge untergrabe, sagte Papperger gegenüber der Deutschen Presse-Agentur im Rahmen der Messe, die am Freitag endete. Sein Punkt ist strategisch und ethisch zugleich: technische Möglichkeit allein dürfe nicht automatisch zu einem Operationalisierungsdruck führen, der Maschinen die Letztentscheidung über Leben und Tod übertrage.

Warum Papperger alarmiert ist

Rheinmetall stellt unter anderem unbemannte Systeme wie Drohnen, Militärfahrzeuge und Schiffe her, die dank KI-Anwendungen autonom gesteuert werden können. Papperger betonte, dass das Unternehmen derzeit keine Systeme baue, bei denen nicht der Mensch die finale Entscheidung über Gewaltanwendung treffe. «Wir stellen kein einziges System her, bei dem nicht der Mensch die finale Entscheidung trifft», sagte er, und bezeichnete das Prinzip Human in the Loop als ethischen Leitgedanken des Unternehmens.

Technologisch wäre es nach seinen Worten bereits jetzt möglich, einer KI die finale Schussentscheidung zu überlassen. Er warnte, die technische Entwicklung werde sich in den nächsten zehn Jahren exponentiell beschleunigen. Vor diesem Hintergrund bestehe die Gefahr eines Ungleichgewichts: Wenn ein Akteur Maschinen die Letztentscheidung erlaubte, entstünde ein operativer und politischer Druck, dem andere folgen könnten, um nicht im Nachteil zu sein. Diese Asymmetrie nannte Papperger den zentralen Treiber für seine Forderung nach internationalen Regeln.

Die Argumentation verbindet praktische Militärlogik mit Rechtfertigungsfragen. Einerseits sieht Papperger operative Risiken, etwa bei Identifikation, Haftung und Fehlerraten autonomer Systeme. Andererseits betont er die völkerrechtlichen und menschenrechtlichen Implikationen, falls Entscheidungen ohne menschliche Kontrolle getroffen würden. Deshalb, so sein Vorwurf, reichten freiwillige Leitlinien einzelner Firmen nicht aus, um die problematischen Effekte zu adressieren.

Welche Regeln er vorschlägt

Papperger schlug vor, Grenzen ähnlich wie bei Atomwaffen zu regeln, und nannte Ethikräte oder eine UN-Resolution als geeignete Foren, um verbindliche Normen zu schaffen.

Mastheads

Seine Lesart ist klar: Die Festlegung, ob und wann Maschinen die finale Gewaltanwendung treffen dürfen, dürfe nicht abhängig sein von einzelnen Herstellern, nationalen Ethikrichtlinien oder kurzfristigen Rüstungsinteressen.

Konkrete Vorschläge oder ein Zeitplan für Verhandlungen nannte Papperger nicht. Er plädierte jedoch dafür, die Diskussion jetzt auf internationaler Ebene zu beginnen und Gremien einzubinden, die verbindliche Regeln erarbeiten können. Damit steht er für eine multilaterale Lösung, die rechtliche Verbindlichkeit über freiwillige Industriestandards stellt.

Wichtig für seine Argumentation ist die Rolle der Kunden. Papperger sagte, Rheinmetall und nach seinen Angaben auch dessen NATO-Kunden lehnten derzeit die Übertragung der finalen Waffeneinsatzentscheidung an KI ab. Das macht die Forderung zweigleisig: Sie ist sowohl eine Bekräftigung der eigenen Firmenpraxis als auch ein Appell an Bündnispartner und internationale Akteure, gleiche Normen zu übernehmen.

Die Verknüpfung mit der Kontrolle von Atomwaffen dient ihm als historisches Analogon, um den Grad der Ernsthaftigkeit zu verdeutlichen. Die Botschaft ist: Wenn technische Möglichkeiten die Einsatzpraktiken verändern können, dann genügt kein informelles Regelwerk. Es brauche multilaterale, verbindliche Instrumente, die asymmetrische Risiken begrenzen.

Aus Sicht von Industrie und Verteidigung wirft das Dilemma praktische Fragen auf. Wer trägt die Verantwortung, wenn ein autonomes System einen Fehler macht? Wie lassen sich Identifikation und Diskriminierung zwingend garantieren? Papperger zieht daraus den Schluss, dass rechtliche und ethische Standards nicht bloss optional sein dürfen. Diese Perspektive verlagert die Debatte von der technischen Machbarkeit zur politischen Askese.

Die Rüstungsmesse Eurosatory bot Papperger die Bühne, um diese Position öffentlich zu machen. Solche Veranstaltungen sind Orte, an denen Hersteller, Militärvertreter und Politik zusammenkommen. Papperger nutzte die Plattform, um zu fordern, dass internationale Gremien wie Ethikräte oder die Vereinten Nationen in die Diskussion gebracht werden, damit verbindliche Regelwerke erarbeitet werden können.

Er betonte auch, dass eine einseitige Unternehmensethik nicht ausreiche. Grenzen müssten international verhandelt werden, damit technische Möglichkeiten nicht automatisch in Einsatzpraktiken münden, die bestehende Normen außer Kraft setzen. Ohne solche Verbindlichkeit, so sein Tenor, bleibe die Gefahr bestehen, dass Staaten oder Streitkräfte aus taktischen Beweggründen von gemeinsamen Standards abweichen.

Related Articles

«Wir stellen kein einziges System her, bei dem nicht der Mensch die finale Entscheidung trifft», sagte Papperger. Ursprünglich berichtet von heise.de.

Dieser Artikel wurde mit KI-Unterstützung erstellt.