Außer spektakulären Verfolgungsjagden passiert in den Terminator-Klassikern (1984/1991, Regie: James Cameron) zwar nicht viel, aber zumindest in der Rahmenhandlung steckt eine fantasievolle Dystopie: Nach einem Atomkrieg ist die Menschheit im Jahr 2029 annähernd ausgelöscht und wird von Kriegsmaschinen unter Kontrolle des Maschinensystems Skynet regiert. Als eine kleine Rebellengruppe gegen die Maschinen aufbegehrt, schicken diese einen Terminator (eine als Mensch getarnte Maschine) in die Vergangenheit. Der soll die Mutter des Rebellenführers vor dessen Geburt töten und dadurch die Geschichte umschreiben. Ob das wissenschaftlich ganz korrekt abläuft, verrät Anna-Katharina Ferl.
Science-Fiction-Filme haben in der Vergangenheit immer wieder die Realität vorweggenommen. Deine ehrliche Einschätzung: Wann werden wir endgültig von Maschinen regiert?
Anna-Katharina Ferl: Zum Glück bleibt die Entwicklung hin zum Terminator ein Science-Fiction-Szenario und hat wenig mit der Realität zu tun. Der Bezug auf die Terminator-Filme wird jedoch gerne verwendet, wenn über zukünftige autonome Waffensysteme gesprochen wird. Diese zeichnen sich vor allem dadurch aus, dass der Mensch das Waffensystem nicht mehr direkt steuert und ihm die Befehle gibt, sondern das System bestimmte Funktionen selbstständig durchführen kann. Tatsächlich findet schon seit einigen Jahren militärische Forschung und Entwicklung in diesem Bereich statt. Auch in den technischen Details können durchaus Parallelen zu den Terminator-Filmen gezogen werden: Autonome Waffensysteme basieren auf Anwendungen künstlicher Intelligenz. Eine künstliche Superintelligenz wie Skynet, die als Singularität alles Menschliche übertrumpft, ist allerdings zurzeit noch reine Theorie. Tatsächlich sind die Risiken autonomer Waffensysteme, mit denen wir uns derzeit befassen sollten, eher strategischer Natur – die Erhöhung der Unsicherheit zwischen Staaten, ein neuer Rüstungswettlauf und unbeabsichtigte Gewalteskalation – und nicht die Unterwerfung und Unterdrückung der Menschheit durch Maschinen.
In Terminator 2 wird der von Arnold Schwarzenegger gespielte Terminator zum Vaterersatz für die 10-jährige Hauptfigur. Werden Roboter zukünftig unsere zwischenmenschlichen Beziehungen ersetzen?
Anna-Katharina Ferl: Dass „zwischenmenschliche Beziehungen“ auch zu Robotern aufgebaut werden, ist nicht abwegig. Die Entwicklung der Robotik im zivilen Bereich hat in den letzten Jahren rasant zugenommen. Humanoide Roboter wie der Terminator spielen zwar noch keine große Rolle. In Japan werden allerdings schon länger Roboter, beispielsweise in Robbenform, zur Unterhaltung in Alten- und Pflegeheimen eingesetzt, ebenso Assistenzroboter zur Unterstützung der Pflegekräfte. Auch in Deutschland wird bereits über den Einsatz von Robotik in der Pflege diskutiert. Dabei geht es in erster Linie nicht darum, das menschliche Personal zu ersetzen, sondern bei alltäglichen Aufgaben zu unterstützen und mehr Bezugspersonen bzw. -roboter zur sozialen Interaktion zur Verfügung zu stellen. Das ist ethisch vertretbar, solange dies eben als Zusatz und nicht Ersatz verstanden wird und das Wohl der einzelnen Menschen dabei im Vordergrund steht. Wesentlich schwieriger ist die Beurteilung, wenn die Humanisierung von Robotern weiter voranschreitet und diese direkte Auswirkungen auf zwischenmenschliche Interaktionen und Beziehungen haben können. Eine Entwicklung in diesem Bereich sind Sexroboter.
Durch die Terminator-Reihe und ähnliche Filme hat sich das Bild des Roboters als männliche, fast unzerstörbare Kampfmaschine, die in letzter Konsequenz eine Gefahr für Menschen darstellt, breit etabliert. Inwieweit sind derartige Vorstellungen sinnvoll oder aber kontraproduktiv für die Auseinandersetzung mit Problemstellungen im Kontext von Robotern?
Anna-Katharina Ferl: Natürlich lässt sich durch ein popkulturelles Phänomen wie dem Terminator, mit dessen Bild die meisten etwas anfangen können, auf ein Problem aufmerksam machen. Da autonome Waffensysteme noch nicht wirklich existieren, kann der Terminator als dessen Veranschaulichung sehr viel mehr öffentliche Aufmerksamkeit erzeugen als rein hypothetische Überlegungen zu Robotern. Generell ist die Vorstellung von Militärrobotern als Terminator aber eher kontraproduktiv. Zum einen werden dadurch nur solche Entwicklungen im Bereich der militärischen Robotik als problematisch wahrgenommen, die eben jenen Terminator-Charakteristika ähneln. Das bedeutet gleichzeitig, dass eine Verkürzung des Problemgegenstands stattfindet und die eigentlichen, sehr viel komplexeren Gegenstände nicht mehr so sehr wahrgenommen werden. Zum anderen reproduzieren solche Bilder auch bestimmte Vorstellungen darüber, was Krieg und Soldatin- oder Soldat-Sein bedeutet. So verkörpert der Terminator aus feministischer Sicht recht problematische Vorstellungen von Maskulinität: beinahe unbesiegbar, emotionslos, ausgestattet mit einem Arnie-Körper – der perfekte Supersoldat, spätesten seitdem er der ‚gute‘ Terminator im zweiten Film ist.
Am Ende von Terminator 2 entscheidet sich der verantwortliche Wissenschaftler, seine gesamten Forschungsergebnisse zu zerstören, um die Menschheit der Zukunft zu retten. Wie kann eine verantwortungsvolle Forschung und Entwicklung im Bereich der Robotik aussehen und welche Rahmenbedingungen brauchen wir, damit es nicht zu einem Terminator-Szenario kommt?
Anna-Katharina Ferl: Das ist natürlich ein sehr gutes Ende für den Film und die Menschheit. In der Realität ist die Sache aber ein wenig komplizierter. Da es sich bei Robotik und künstlicher Intelligenz um sogenannte Dual-Use-Technologien handelt – sie also sowohl zivil als auch militärisch genutzt werden können – ist eine Regulierung schwierig. Die Abgrenzung zwischen ziviler und militärischer Nutzung ist essentiell, um politische Rahmenbedingungen zu entwickeln, damit von den technischen Entwicklungen gesellschaftlich weiterhin profitiert werden kann. Einige Firmen haben bereits in Ethikrichtlinien erklärt, dass ihre Forschung zu künstlicher Intelligenz nicht für militärische Zwecke verwendet werden darf. Allerdings braucht es verbindliche internationale Regelungen oder Normen, die übergreifend verantwortungsvolle und ethische Forschung und Entwicklung in diesem Bereich garantieren. Zur Regulierung autonomer Waffensysteme gibt es bereits seit einigen Jahren Gespräche zwischen Staaten im Rahmen der UN Waffenkonferenz. Leider macht aber genau das Dual-Use-Problem die Überprüfung, ob sich alle an eine potentielle Regulierung halten, sehr viel schwieriger. In diesem Sommer sollen die Gespräche in Genf weitergeführt werden – hoffentlich mit Erfolg.
Anna-Katharina Ferl ist wissenschaftliche Mitarbeiterin und Doktorandin im Programmbereich „Internationale Sicherheit“ der HSFK. Ihr Forschungsinteresse umfasst autonome Waffensysteme, Rüstungskontrolle sowie internationale Normen.
Dieser Beitrag ist Teil unseres Jubiläumsmagazins zum 50-jährigen Bestehen der HSFK. Das Magazin steht hier zum kostenlosen Download bereit (pdf, 5,42 MB).
PRIF Redaktion
