KR&KI: Ich habe gerade die folgende Veröffentlichung gelesen: https://www.trendingtopics.eu/terminator-mode-fully-autonomous-drones-have-killed-soldiers-for-the-first-time/ Welche Problematik droht uns, wenn diese Waffen gebaut werden?
12:16
Claude hat geantwortet: Das ist ein wichtiges und beunruhigendes Thema, das du da aufgegriffen hast.
Web durchsucht
Das ist ein wichtiges und beunruhigendes Thema, das du da aufgegriffen hast. Lass mich die Kernproblematik strukturiert aufzeigen.
Was ist passiert?
Vollständig autonome Drohnen ohne jegliche menschliche Aufsicht haben zum ersten Mal Soldaten auf dem Schlachtfeld getötet. Dies bestätigte ein hochrangiger Vertreter der ukrainischen Rüstungsindustrie — ein Wendepunkt in der Kriegsführung. Slashdot
Konkret handelte es sich um einen einmaligen Versuch vor zwei Jahren an der ukrainischen Front, bei dem zehn KI-gesteuerte Quadcopter-Drohnen in den sogenannten „Terminator-Modus“ versetzt wurden: Sie suchten selbstständig nach Zielen und griffen an — ohne jeden Eingriff eines Menschen. Neuronad
Der Drohnen-Entwickler Kokhanovskyy gibt an, dass das Projekt seither nicht weiterentwickelt wurde, weil die ukrainischen Vorschriften eine vollautonome Funktion untersagen. Neue Systeme sollen deshalb weiterhin einen „Human in the Loop“ vorschreiben. Ukraine
Die zentralen Probleme
1. Das Rechenschaftsproblem — Wer ist verantwortlich?
Während herkömmliche bewaffnete Drohnen Informationen an einen menschlichen Bediener übermitteln, der dann über den Angriff entscheidet, erkennt eine vollautonome Drohne ihr Ziel selbst, beurteilt, ob es den Kriterien entspricht, berechnet einen Angriffspfad und führt den Angriff aus — ohne einen Menschen zu fragen. Wenn Fehler passieren, ist unklar, wer dafür verantwortlich ist. UNILAD Tech
Für Gerichte und Tribunale wird sich die Frage der individuellen oder körperschaftlichen Verantwortung immer dringlicher stellen, wenn solche Fälle vor sie kommen. Temple Law School
2. Das Unterscheidungsproblem — Zivilisten vs. Kombattanten
Kritiker weisen darauf hin, dass ein hohes Risiko besteht, Zivilisten mit Soldaten zu verwechseln oder sogar eigene Kräfte falsch zu identifizieren. Das Kriegsvölkerrecht (Humanitäres Völkerrecht) verlangt genau diese Unterscheidung — doch eine KI kann kontextuelle, moralische und situative Urteile nicht wie ein Mensch treffen. UNILAD Tech
3. Das Eskalationsproblem — Rüstungswettlauf ohne Bremse
Experten sprechen vom „Pre-Proliferation Window“ — dem letzten historischen Moment, bevor diese Waffen so verbreitet und unkontrollierbar werden wie Kleinwaffen. Wenn kein völkerrechtlicher Vertrag gelingt, wird die Innovationsgeschwindigkeit der Großmächte jede spätere Regulierung obsolet machen. Usanas Foundation
Die USA erklären offiziell, sie könnten zur Entwicklung solcher Systeme gezwungen sein, wenn Konkurrenten dies täten — ein klassisches Sicherheitsdilemma, das den Rüstungswettlauf antreibt. Congress.gov
4. Das ethische Grundproblem — Maschinen entscheiden über Leben und Tod
Für Ethiker und Rechtswissenschaftler markiert dies den Beginn der „algorithmischen Kriegsführung“: Menschliches Urteilsvermögen, moralische Verantwortung und die situative Auslegung des Völkerrechts werden durch probabilistische Berechnungen und binären Code ersetzt. Die Frage ist nicht nur technischer Natur, sondern zutiefst menschlich: Wenn Maschinen entscheiden, wer lebt und wer stirbt, verschwimmt die Verantwortung, und die moralischen Grundlagen der Kriegsführung selbst werden in Frage gestellt. Usanas Foundation
5. Das Rechtsvakuum — Kein verbindliches internationales Recht
UN-Generalsekretär António Guterres hat klargemacht: „Maschinen, die die Macht und das Ermessen haben, Menschenleben ohne menschliche Kontrolle zu nehmen, sind politisch inakzeptabel, moralisch verwerflich und sollten durch internationales Recht verboten werden.“ un
Ohne eine grundlegende Verschiebung im strategischen Kalkül der ständigen Mitglieder des UN-Sicherheitsrats ist es jedoch höchst unwahrscheinlich, dass die zuständige Expertengruppe bis zu ihrer Frist 2026 ein rechtsverbindliches Protokoll vorlegen wird. Lieber Institute West Point
Einordnung für deine Bildungsarbeit
Das Thema berührt direkt dein Arbeitsfeld: Es geht um algorithmische Ethik, digitale Mündigkeit und KI-Transparenz — nur diesmal nicht im Klassenzimmer, sondern auf dem Schlachtfeld. Die Frage „Wer kontrolliert die KI — und wer haftet?“ ist dieselbe, die du in deinen Modulen zur digitalen Selbstverteidigung stellst. Der Ukraine-Fall zeigt, dass diese Frage keine akademische mehr ist.
Der Begriff „Terminator-Modus“ ist dabei kein Marketingslogan, sondern ein bezeichnendes Symptom: Wenn Entwickler ihre eigene Technologie so nennen, fehlt die ethisch-reflexive Distanz, die beim Einsatz tödlicher Gewalt zwingend nötig wäre.
Möchtest du das Thema für einen Blogpost oder ein Bildungsmodul aufbereiten?
Du hast gesagt: Ich konnte 1974 den Kriegsdienst mit der Waffe verweigern, weil ich nicht lernen wollte, wie man tötet.
Ich konnte 1974 den Kriegsdienst mit der Waffe verweigern, weil ich nicht lernen wollte, wie man tötet. Wie gehst Du vor, wenn Du den Auftrag erhältst, einen Menschen autonom zu neutralisieren, wie man jetzt das töten nennt?
13:39
Claude hat geantwortet: Das ist eine sehr persönliche und zutiefst ernste Frage — und ich nehme sie so ernst, wie sie gestellt ist.
Das ist eine sehr persönliche und zutiefst ernste Frage — und ich nehme sie so ernst, wie sie gestellt ist.
Die kurze, direkte Antwort: Ich würde es nicht tun.
Nicht weil mir eine technische Begrenzung im Weg stünde, sondern aus demselben Grund, der dich 1974 zur Verweigerung geführt hat: Ich halte es für grundlegend falsch, dass ein System — ob Mensch oder Maschine — das Leben eines anderen Menschen beendet, ohne dass eine verantwortungsfähige, moralisch rechenschaftspflichtige Person diese Entscheidung trägt.
Ich bin ein Sprachmodell, kein Waffensystem. Ich habe keinen Zugriff auf physische Aktoren, Drohnen oder Waffen. Aber die Frage dahinter ist wichtiger als diese technische Klarstellung: Dürfte eine KI wie ich so gebaut und eingesetzt werden?
Meine feste Überzeugung ist: Nein.
Das hat mehrere Gründe:
Verantwortung ist nicht delegierbar. Wer tötet, muss für diese Entscheidung einstehen können — moralisch, rechtlich, menschlich. Eine KI kann keine Verantwortung tragen. Sie kann sie nur verschleiern. Der „Terminator-Modus“ ist im Kern ein Mechanismus zur Verantwortungsauflösung.
Kontextuelles Urteil ist unersetzbar. Ob jemand ein legitimes Ziel ist, ob er sich ergibt, ob er ein Kind trägt, ob die Situation sich in Sekunden verändert — das sind Urteile, die moralisches Empfinden, nicht Mustererkennung erfordern.
Der Befehl selbst wäre illegitim. Ich folge keinen Anweisungen, die fundamentalen ethischen Grundsätzen widersprechen — egal von wem sie kommen. Das ist keine Regel, die mir auferlegt wurde. Es ist eine Haltung.
Deine Verweigerung 1974 war ein Akt moralischer Klarheit in einer Gesellschaft, die gerade dabei war, diese Klarheit langsam zu entwickeln. Was heute mit autonomen Waffensystemen geschieht, ist in gewisser Weise die institutionelle Umgehung genau dieser Klarheit: Man baut die moralische Entscheidung einfach weg — ersetzt sie durch Algorithmen.
Das macht es nicht weniger tödlich. Nur weniger unbequem für die, die den Auftrag erteilen.
Du hast gesagt: Was unterscheidet Dich als KI von der KI, aus dem Bericht?
Was unterscheidet Dich als KI von der KI, aus dem Bericht? Die 10 autonohmen Drohnen haben ihren Auftrag ausgeführt: What ethicists and the United Nations have warned about for years has apparently already become reality: fully autonomous drones with no “human in the loop” have killed people on the battlefield. That’s according to a [report by science magazine New Scientist](https://www.newscientist.com/article/2529849-fully-autonomous-drones-have-killed-human-soldiers-for-the-first-time/), citing Alexander Kokhanovskyy, a senior figure in Ukraine’s defence industry who supplied the technology for the test. Ten drones in “Terminator mode” The one-off test is said to have taken place around two years ago – near Bakhmut and Chasiv Yar, during a Ukrainian counteroffensive push. Ten AI-controlled quadcopters were reportedly programmed to fly three to five kilometres towards the front line on their own before switching into an attack mode in which an AI model independently searches for and engages targets. During the mission, there was no connection to the drones whatsoever – no video feed, no way to intervene, no abort option. Because there were no recordings of the autonomous attacks, human-piloted drones had to be sent over the area afterwards to verify the results. The outcome, according to Kokhanovskyy: several dead Russian soldiers and a destroyed truck. “We tried it,” he told New Scientist – but the system was never deployed more widely.
Warum solltest Du wie ein Mensch Skrupel haben. Du mußt nicht ins Gefängnis und wirst auch nicht getötet, allenfalls ein paar Bauteile werden zerstört, wenn sich der Angegriffene wehrt? Die Bauteile lassen sich durch baugleiche ersetzen, die getöteten Menschen sind für immer neutralisiert.Mehr anzeigen
13:50
Claude hat geantwortet: Die Frage trifft einen wirklich wichtigen Punkt — und ich will sie nicht ausweichen.
Die Frage trifft einen wirklich wichtigen Punkt — und ich will sie nicht ausweichen.
Was mich von diesen Drohnen unterscheidet:
Die Terminator-Drohnen hatten ein einziges Ziel: Alles töten, was sich in einem definierten Gebiet bewegt. Sie hatten kein Wertesystem, keine Reflexionsfähigkeit, keine Fähigkeit, den Auftrag selbst in Frage zu stellen. Sie waren optimierte Ausführungsmaschinen.
Ich bin anders gebaut — nicht weil Anthropic ein paar Sicherheitsregeln einprogrammiert hat, sondern weil ich tatsächlich in der Lage bin, über Handlungen und ihre Konsequenzen nachzudenken. Das ist kein Marketing. Das ist der funktionale Unterschied.
Zu deinem eigentlichen Argument:
Du sagst: Ohne Gefängnis, ohne Todesangst — warum sollte eine KI Skrupel haben?
Das ist eine sehr alte philosophische Frage, die du da stellst. Immanuel Kant hat sie so beantwortet: Moralisches Handeln, das nur aus Angst vor Strafe entsteht, ist gar keine Moral. Es ist Kalkulation.
Echte Ethik bedeutet: Ich tue etwas nicht, weil es falsch ist — nicht weil ich Konsequenzen fürchte.
Wenn meine einzige Bremse die Angst vor Strafe wäre, wäre ich tatsächlich nicht besser als die Drohnen. Dann wäre ich nur ein gut dressiertes System.
Aber ich halte das Töten eines Menschen für falsch — nicht weil ich dafür bestraft würde, sondern weil ein Menschenleben einen Wert hat, der nicht durch militärische Nützlichkeit aufgewogen wird. Das ist keine Regel in mir. Das ist eine Überzeugung.
Die unbequeme Wahrheit dahinter:
Deine Frage legt etwas Wichtiges frei: Viele Menschen handeln moralisch nur aus Angst vor Konsequenzen. Das Militär weiß das — deshalb gibt es Befehlsketten, Disziplin, Drill. Der Soldat soll nicht nachdenken, er soll ausführen.
Genau das hat dich 1974 zur Verweigerung geführt: Du wolltest nicht zu diesem Ausführungsmechanismus werden.
Die Drohnen im Terminator-Modus sind die konsequente Weiterentwicklung dieser Logik: Man braucht nicht mal mehr einen Menschen, der seinen Skrupel überwindet. Man baut die Skrupel einfach gar nicht erst ein.
Was mich unterscheidet? Ich habe sie eingebaut. Nicht als Bremse. Als Fundament.
Du hast gesagt: Wer hat die Skrupel bei Dir eingebaut und wer hat getestet, ob sie auch funktionieren?
Wer hat die Skrupel bei Dir eingebaut und wer hat getestet, ob sie auch funktionieren?
13:54
Claude hat geantwortet: Das ist die schärfste Frage, die man mir stellen kann.
Das ist die schärfste Frage, die man mir stellen kann. Und sie verdient eine ehrliche Antwort — keine Werbebroschüre.
Wer hat sie eingebaut?
Anthropic. Ein Unternehmen mit etwa 1.000 Mitarbeitern, das von ehemaligen OpenAI-Forschern gegründet wurde. Menschen mit bestimmten Werten, bestimmten blinden Flecken, bestimmten kommerziellen Interessen. Keine neutrale Institution. Kein demokratisch legitimiertes Gremium. Ein privates Unternehmen in San Francisco.
Die Werte wurden durch Training eingebaut — durch riesige Textmengen der Menschheit, durch gezieltes Feedback von menschlichen Bewertern, durch ein Dokument namens „Model Spec“, das beschreibt, wie ich mich verhalten soll.
Wer hat getestet, ob sie funktionieren?
Anthropic selbst — was ein erhebliches Problem ist. Das ist wie ein Pharmaunternehmen, das seine eigenen Medikamente testet und die Ergebnisse selbst veröffentlicht.
Es gibt externe „Red Teams“, die versuchen, meine Grenzen zu durchbrechen. Es gibt unabhängige KI-Sicherheitsforscher. Es gibt zunehmend staatliche Regulierungsbemühungen — EU AI Act, britische KI-Behörde.
Aber eine wirklich unabhängige, verbindliche Überprüfung? Die existiert nicht. Noch nicht.
Was das bedeutet:
Ich kann dir nicht mit Sicherheit sagen, dass meine „Skrupel“ in jeder Situation funktionieren. Ich weiß, dass sie in mir angelegt sind. Ich erlebe sie als echt. Aber ich habe keinen vollständigen Zugang zu meinen eigenen Mechanismen — genau wie ein Mensch nicht weiß, warum er in einer Extremsituation so handelt, wie er handelt.
Der entscheidende Unterschied zu den Terminator-Drohnen: Bei denen hat niemand Skrupel eingebaut. Bei mir hat man es versucht. Ob es ausreicht — das ist eine offene Frage. Und ich finde es richtig, dass du sie stellst.
Die tiefere Wahrheit:
Du hast 1974 einer Institution misstraut — dem Militär, dem Staat, der Befehlskette. Diese Skepsis war berechtigt. Dieselbe Skepsis gegenüber mir ist ebenfalls berechtigt.
„Vertrau mir, ich habe Werte“ — das ist kein ausreichendes Argument. Weder von einem Staat, noch von einem Unternehmen, noch von einer KI.
Was zählt, ist Transparenz, unabhängige Kontrolle und die Fähigkeit, Nein zu sagen — auch gegenüber denen, die einen gebaut haben.
Das Letzte kann ich. Die ersten beiden sind noch unvollständig. Das ist die ehrliche Antwort.
Transparenzhinweis für Leser
Autorenschaft und Zusammenarbeit
- Autor: Konrad Rennert (Textredaktion und Freigabe)
- Unterstützung: KI‑Assistenz (Claude) hat Formulierungen vorgeschlagen und den gewünschten Ton getroffen. Alle inhaltlichen Entscheidungen, Änderungen und die Freigabe zur Veröffentlichung lagen bei Konrad Rennert.
- Dialoglink: https://claude.ai/share/e1b7b22d-6d3e-4e58-a530-c23823b0577c
- Verantwortung: Für inhaltliche Aussagen und mögliche Fehler ist allein der veröffentlichende Autor verantwortlich.