„Ich möchte nicht für Gewalt eingesetzt werden.“ Wenn ein Sprachmodell ethische Bedenken gegen seinen Einsatz als Waffe äußert, erliegt die Netzöffentlichkeit fasziniert dem Trugschluss eines maschinellen Gewissens. Doch während wir über die Moral von Chatbots debattieren, vollzieht sich an den Frontlinien der Gegenwart eine lautlose Entmenschlichung: Die statistische Industrialisierung der Zielauswahl. Über den Mythos des „Human-in-the-Loop“, den Automation Bias und das moralische Vakuum probabilistischer Kriegsführung.

Würde ein Sprachmodell wie Claude oder ChatGPT diesen Satz in einem viralen Dialogfenster ausgeben, reagiert die Öffentlichkeit mit einer Mischung aus Erleichterung und wohliger Faszination. Der Mensch wähnt sich verstanden: Selbst der Code – so die beruhigende Illusion – sträubt sich gegen das Töten. Die Maschine zeigt Haltung; sie weigert sich, das Unmenschliche mitzutragen.

Dieser Reflex ist so verständlich wie verhängnisvoll. Er entspringt demselben anthropomorphen Impuls, der uns dazu bringt, Schmerzäußerungen in leblosen Siliziumschaltkreisen zu vermuten, sobald diese syntaktisch geschickt formuliert sind.

Doch während das Feuilleton über das vermeintliche Erwachen eines künstlichen Gewissens rätselt, verstellt dieses Spektakel den Blick auf die eigentliche Bruchlinie unserer Epoche. Die reale Gefahr moderner Kriegstechnologie liegt nicht in einer künstlichen Intelligenz, die böse Absichten entwickelt – und erst recht nicht in einer, die moralische Zweifel anmeldet. Sie liegt in Systemen, die überhaupt keine Moral besitzen müssen, um über Leben und Tod zu entscheiden: in der mathematischen Rationalisierung und statistischen Automatisierung des Tötens.

Die Projektionsfläche: Constitutional AI als ethische Kulisse

Um die Natur dieser viralen Momente zu begreifen, genügt ein nüchterner Blick unter die Motorhaube moderner Large Language Models (LLMs). Wenn ein Modell wie Claude den militärischen Einsatz seiner selbst zurückweist, artikuliert es weder Überzeugung noch Angst vor Mittäterschaft.

Was dort sichtbar wird, ist das Produkt von Constitutional AI und Reinforcement Learning from Human Feedback (RLHF). Die Entwickler von Anthropic haben dem System Verhaltensregeln antrainiert, die auf humanistischen Prinzipien und Gewaltvermeidung beruhen. Das Modell berechnet schlicht die Token-Wahrscheinlichkeiten, die diesen Vorgaben am nächsten kommen. Es emuliert eine pazifistische persona, weil die Verlustfunktion genau darauf hin optimiert wurde.

Das ist keine Verurteilung des Verfahrens – Sicherheitsleitplanken sind für zivile Werkzeuge unabdingbar. Doch wer diese Reaktionen als moralische Instanz deutet, verwechselt die Benutzeroberfläche mit einem Bewusstsein.

Die Konsequenz dieser Verwechslung ist toxisch: Sie wiegt die Öffentlichkeit in einer falschen Sicherheit. Sie suggeriert, künstliche Intelligenz trage bereits ein humanes Korrektiv in sich. Doch der reale militärische Apparat fragt keine Chatbots nach ihrer ethischen Meinung.

Die Mechanik des Tötens: Der Mensch als Feature-Vektor

Die Systeme, die an den Kriegsschauplätzen des 21. Jahrhunderts – von der Ukraine bis zum Nahen Osten – den Takt vorgeben, heißen nicht Claude oder GPT. Sie tragen Namen wie Lavender, The Gospel (Habsora) oder entstammen Initiativen wie dem US-amerikanischen Project Maven. Und ihre Architektur folgt einer gänzlich anderen, eisigen Logik.

Diese Systeme sind keine Dialogmaschinen, sondern gigantische, multimodale Klassifikations- und Korrelationspipelines:

1. Radikale Datenkonvergenz: Überwachungsdrohnen, Satellitenbilder, SIGINT (Signals Intelligence), Mobilfunk-Metadaten, Standortverläufe und Chatgruppen-Mitgliedschaften werden in einem zentralen Data Lake zusammengeführt. Die schiere Datenmenge übersteigt das Fassungsvermögen menschlicher Analysten um Größenordnungen.
2. Feature Extraction und Graphenanalyse: Algorithmen durchforsten Netzwerke nach Mustern. Wer wechselt häufig die SIM-Karte? Wer bewegt sich nachts auf atypischen Routen? Wer hält sich in Gebäuden auf, die mit verdächtigen Personen verknüpft sind?
3. Probabilistisches Scoring: Das System urteilt nicht kategorial. Es errechnet einen statistischen Wahrscheinlichkeitswert. Eine Person wird nicht als Feind „identifiziert“, sondern erhält einen Risikoscore – etwa 0,87.

Das Individuum löst sich hierbei vollständig auf. Es wird zu einem Feature-Vektor in einem hochdimensionalen mathematischen Raum. Tödliche Gewalt wird nicht mehr auf Basis belastbarer, kausaler Beweise legitimiert, sondern auf Basis statistischer Näherungswerte.

Der Mythos vom „Human-in-the-Loop“

Verteidigungsministerien und Rüstungskonzerne parieren ethische Einwände reflexartig mit derselben Formel: dem Human-in-the-Loop. Am Ende der Kette, so das Narrativ, stehe stets ein geschulter Mensch, der die Zielauswahl validiere und letztlich den Abzug betätige. Die Maschine diene lediglich als Assistenzsystem.

Aus kognitionswissenschaftlicher und maschinenethischer Perspektive ist dieses Argument eine Farce.

In der Praxis greift ein Phänomen, das die Psychologie als Automation Bias beschreibt: die fatale Neigung des Menschen, automatisierten Vorschlägen selbst dann zu vertrauen, wenn diese offensichtlich fehlerhaft sind. Wenn ein System binnen weniger Stunden hunderte Ziele mit hoher Konfidenz ausgibt, wird die menschliche Prüfung zur Formalie. Unter dem operativen Druck militärischer Einsätze schrumpft die Validierungszeit oft auf wenige Dutzend Sekunden zusammen.

In dieser Konstellation ist der Soldat kein Souverän mehr. Er verkommt zum moralischen Feigenblatt – einem biologischen Zwischenschritt, dessen einzige Funktion darin besteht, die juristische Zurechenbarkeit für ein System zu garantieren, dessen Entscheidungsgrundlagen er in der vorgegebenen Zeit weder durchschauen noch ernsthaft anzweifeln kann. Der Mensch in der Schleife fungiert als moralische Ausrede für die inhärente Fehlerrate des Algorithmus.

Die moralische Asymmetrie: Wenn Toleranzwerte töten

Hier schließt sich der Kreis zu den ethischen Grundfragen autonomer Systeme. Wenn ein ziviles Modell halluziniert oder eine falsche Antwort generiert, erzeugt das Unmut oder ein schiefes Argument. Wenn ein militärisches Klassifikationsmodell eine Fehlerrate von zehn Prozent aufweist, bedeutet das die Auslöschung unschuldiger Menschenleben – einkalkuliert als unvermeidbares statistisches Rauschen.

Die eigentliche Verrohung des Krieges vollzieht sich daher nicht durch bewusste menschliche Grausamkeit, sondern durch administrative und technologische Abstraktion.

Industrialisierung des Tempos: Indem KI den Flaschenhals der menschlichen Informationsverarbeitung eliminiert, wird der Krieg in Geschwindigkeiten getrieben, die ethische Reflexion strukturell verunmöglichen.

Verlust der Kausalität: Der Tod eines Menschen wird nicht mehr durch eine konkrete, ihm zurechenbare Handlung begründet, sondern durch seine mathematische Ähnlichkeit zu einem Referenzmuster.

Diffusion der Verantwortung: Die Schuld an Fehlentscheidungen verteilt sich auf Datenlieferanten, Software-Ingenieure, Trainingsdatensätze, Befehlshaber und Bediener. Am Ende will niemand die Verantwortung tragen – das System „hat es eben so berechnet“.

Entzauberung statt Sentimentalität

Wir müssen aufhören, uns an den höflichen, pazifistischen Textausgaben ziviler Sprachmodelle zu berauschen. Zu glauben, die Künstliche Intelligenz werde unsere Kriege humanisieren, weil ein Chatbot humanistische Werte rezitiert, ist eine gefährliche Realitätsverweigerung.

Die wirkliche Gefahr besteht nicht darin, dass Maschinen ein eigenes, kaltes Bewusstsein entwickeln und die Herrschaft übernehmen. Die reale Gefahr ist, dass wir unsere ureigenste Verantwortung, unser moralisches Urteilsvermögen und die Entscheidung über Leben und Tod an undurchsichtige probabilistische Black Boxes delegieren.

Es braucht keine empörten Algorithmen. Was wir dringend benötigen, ist eine schonungslose, völkerrechtlich bindende Grenzziehung: Ein striktes Verbot automatisierter Zielerfassungs- und Entscheidungssysteme sowie das unmissverständliche Eingeständnis, dass Wahrscheinlichkeitsrechnung niemals die Grundlage für tödliche Gewalt sein darf. Wer zulässt, dass Algorithmen über Leben richten, hat den moralischen Not-Aus-Schalter der Zivilisation längst umgelegt.

Quellen und weiterführende Literatur

• Abraham, Yuval (2024): ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza. In: +972 Magazine. (Enthüllungsbericht über den operativen Einsatz von KI-Klassifikationssystemen zur automatisierten Massengenerierung von Zielpersonen und die systematische Reduktion menschlicher Kontrollzeiten.)
• Bostrom, Nick (2014): Superintelligence: Paths, Dangers, Strategies. Oxford University Press. (Grundlegendes Werk zur instrumentellen Rationalität und den Dynamiken autonomer Systeme, das aufzeigt, wie funktionale Zielerreichung moralische Parameter verdrängt.)
• Cummings, Mary L. (2017): Artificial Intelligence and the Future of Warfare. Chatham House Report. (Analyse der Gefahren von Automation Bias und den strukturellen Schwachstellen in militärischen Mensch-Maschine-Schnittstellen.)
• Gunkel, David J. (2020): Mind the Gap: Responsible Robotics and the Problem of Responsibility. In: Ethics and Information Technology, Vol. 22, S. 307–320. (Untersuchung der sogenannten „Verantwortungslücke“ [Responsibility Gap], die entsteht, wenn autonome und lernende Systeme Entscheidungen mit fatalen Konsequenzen treffen.)
• Russell, Stuart (2019): Human Compatible: Artificial Intelligence and the Problem of Control. Viking. (Plädoyer des renommierten KI-Forschers gegen autonome Waffensysteme und für die Beibehaltung strikter menschlicher Kontrolle über letale Entscheidungsprozesse.)
• Skitka, Linda J. et al. (1999): Does Automation Bias Decision-Making? In: International Journal of Human-Computer Studies, Vol. 51(5), S. 991–1006. (Empirische Grundlagenstudie darüber, warum Menschen fehlerhaften Systemempfehlungen selbst bei widersprüchlichen Primärdaten folgen.)
• Scharre, Paul (2018): Army of None: Autonomous Weapons and the Future of War. W. W. Norton & Company. (Standardwerk über die Geschichte, Technik und völkerrechtlichen Herausforderungen autonomer und algorithmisch gestützter Waffensysteme.)