Deutschland warnt: KI-Wettrüsten bereits im Gange

Một cuộc chạy đua vũ trang cho trí tuệ nhân tạo (AI) đã và đang diễn ra sôi nổi. Đó là lời cảnh báo thẳng thừng của Ngoại trưởng Liên bang Heiko Maas. Ông nói trong bộ phim tài liệu mới của DW “Các cuộc chiến trong tương lai – và Cách ngăn chặn chúng”.

Một thực tế đang là trung tâm của cuộc đấu tranh giành quyền thống trị thế giới. Amandeep Singh Gill, cựu chủ tịch nhóm chuyên gia LHQ về các hệ thống vũ khí tự động giải thích: “Đây là một cuộc chạy đua xuyên suốt cả lĩnh vực quân sự và dân sự.

Các cường quốc có liên quan

Một báo cáo gần đây của Ủy ban An ninh Hoa Kỳ về Trí tuệ Nhân tạo cũng cho thấy chủ đề này quan trọng như thế nào đối với các chính phủ trên thế giới. Nó nói về một “mô hình chiến tranh mới”, trong đó “các thuật toán cạnh tranh với các thuật toán”. Các khoản đầu tư ồ ạt được kêu gọi “để luôn đổi mới hơn so với các đối thủ tiềm năng”.

Chinas jüngster Fünfjahresplan stellt KI in den Mittelpunkt von Forschung und Entwicklung, während die Volksbefreiungsarmee sich für eine Zukunft der, wie sie selbst sagt, “intelligenzbasierten Kriegsführung” rüstet.

Und Russlands Präsident Wladimir Putin sagte bereits 2017: “Wer immer in diesem Bereich die Oberhand hat, wird zum Herrscher der Welt werden.” Doch es sind nicht nur die Großmächte, die mitmischen. Weiter unten in der Hackordnung der Macht ist diese neue Ära eine im Kampf erprobte Realität.

Wendepunkt Berg-Karabach

Ende 2020, während die Welt von der Corona-Pandemie weitgehend vereinnahmt war, weiteten sich die schwelenden Spannungen zwischen Aserbaidschan und Armenien zu einem Krieg aus.

Es sah aus wie ein regionaler Konflikt aus dem Lehrbuch: Die beiden Länder kämpften um die Region Berg-Karabach. Aber für diejenigen, die aufmerksam waren, war dies ein Wendepunkt in der Kriegsführung.

Ein armenischer Soldat im Oktober 2020 inmitten von Ruinen in Berg-Karabach

“Der wirklich wichtige Aspekt bei dem Konflikt in Berg-Karabach war meines Erachtens der Einsatz von “Loitering Munition”, sogenannten ‘Kamikaze-Drohnen'”, erläutert Ulrike Franke, Expertin für Drohnenkriegsführung am “European Council on Foreign Relations”.

Bomben, die am Himmel kreisen

Fortgeschrittene Modelle von Loitering Munition sind in einem hohen Maß zu Autonomie fähig. Nach dem Start fliegen sie zu einem definierten Gebiet, wo sie herumkreisen und nach Zielen – typischerweise Luftverteidigungssysteme – Ausschau halten.

Sobald sie ein Ziel entdeckt haben, fliegen sie in dieses hinein und zerstören es beim Aufprall mit einer an Bord befindlichen Sprengladung. Daher auch der Spitzname “Kamikaze-Drohnen”.

“Diese Waffen wurden auch schon vorher auf die ein oder andere Weise eingesetzt, aber dieses Mal erreichte es eine andere Dimension”, erklärt Franke. “Es wurde sichtbar, wie schwierig es ist, gegen diese Systeme anzukommen.”

Untersuchungen des “Center for Strategic and International Studies” in Washington, D.C. haben ergeben, dass Aserbaidschans Loitering Munition deutlich überlegen war – mit über 200 Einheiten in vier hochentwickelten israelischen Designs. Armenien verfügte dagegen nur über ein einziges einheimisches Modell.

Sogenannte “Loitering Munition” mit einem hohen Maß an Autonomie ist bereits im Einsatz

Andere Militärs haben das aufmerksam beobachtet. “Seit dem Berg-Karabach-Konflikt gab es ein vermehrtes Interesse an diesen Waffensystemen”, so Franke. “Wir stellen fest, dass mehr Streitkräfte auf der ganzen Welt Loitering Munition erwerben oder erwerben wollen.”

Blitzkriege durch Drohnenschwärme?

Dies ist nur der Anfang. In Zukunft werden KI-gesteuerte Technologien als Schwärme in den militärischen Einsatz kommen – viele Drohnen agieren dann gemeinsam als tödliches Ganzes.

“Man könnte auf diese Weise zum Beispiel ein Luftverteidigungssystem ausschalten. Durch die schiere Menge und Masse der Drohnen wäre das System überwältigt”, sagt Martijn Rasser von der Denkfabrik “Center for a New American Security”. Deshalb ist es für ihn nicht überraschend, “dass eine Menge Länder daran interessiert sind”.

Große Zahlen miteinander interagierender Drohnen lassen militärische Zusammenstöße vorstellbar werden, die so schnell und komplex sind, dass Menschen ihnen nicht folgen können. Das heizt die Dynamik des Wettrüstens weiter an.

Wie Ulrike Franke glaubt, “könnte es sein, dass einige Drohnen ein gewisses Maß an Autonomie annehmen müssen, zumindest in der Defensive. Denn Menschen wären nicht in der Lage, mit autonomen Angriffen so schnell umzugehen.”

Der Geschwindigkeitsfaktor ist kritisch und könnte sogar zu Kriegen führen, die gefühlt aus dem Nichts ausbrechen und bei denen autonome Systeme in einer Eskalationsspirale aufeinander reagieren. “In der Fachwelt reden wir von ‘Blitzkriegen'”, so Franke, “ein versehentlicher militärischer Konflikt, den man nicht gewollt hat.”

“Killerroboter stoppen”

Bonnie Docherty will eine solche Zukunft verhindern. Die Dozentin der Harvard Law School steckt hinter der “Campaign to Stop Killer Robots” (“Kampagne gegen Killerroboter”). Dabei handelt es sich um eine Allianz von Nichtregierungsorganisationen (NGOs), die ein internationales Abkommen über das Verbot tödlicher autonomer Waffen fordert.

“Der Vertrag sollte dazu verpflichten, eine sinnvolle menschliche Kontrolle über die Ausübung von Gewalt aufrechtzuerhalten”, so Docherty im Gespräch mit der DW. “Er sollte alle autonom operierenden, Ziele auswählenden und auf diese Ziele feuernden Waffen abdecken, deren Entscheidungsfindung auf den Eingaben von Sensoren basiert statt von Menschen.”

Der Fokus der Kampagne liegt auf der “Konvention über bestimmte konventionelle Waffen” der Vereinten Nationen (UN). Das 1983 in Kraft getretene Übereinkommen soll Waffen kontrollieren, die “unnötiges oder nicht zu rechtfertigendes Leid” verursachen. Das Thema autonome Waffen stand bei Gesprächen der Mitgliedsstaaten in Genf in den letzten Jahren immer wieder auf der Tagesordnung.

Doch es geht nur langsam voran. Der Prozess hat eine Reihe von “Leitprinzipien” hervorgebracht, die unter anderem besagen, dass autonome Waffen den Menschenrechten unterliegen und dass der Mensch die letzte Verantwortung für ihren Einsatz trägt. Aber das kann lediglich die Grundlage für weitere Diskussionen bilden.

Docherty befürchtet, dass der konsensorientierte Genfer Prozess ins Stocken gerät und von denjenigen ausgebremst wird, die kein Interesse daran haben, autonome Waffensysteme stärker zu reglementieren.

“Russland hat sich bislang besonders vehement gewehrt”, sagt die Juristin und Waffenexpertin. Aber auch “einige der anderen Staaten, die autonome Waffensysteme entwickeln, wie Israel, die USA, Großbritannien und andere, unterstützen ein neues Abkommen sicherlich nicht”.

Zeit für ein Umdenken?

Docherty fordert einen neuen Ansatz, falls die nächste Runde der Genfer Gespräche, die noch in diesem Jahr stattfinden soll, keine Fortschritte bringt. Ihre Idee ist “ein unabhängiger Prozess, der von Staaten geleitet wird, die dieses Thema wirklich ernst nehmen und bereit sind, starke Regulierungsstandards zu entwickeln”.

Außenminister Maas im DW-Interview

Doch viele stehen dieser Idee skeptisch gegenüber. Bundesaußenminister Maas ist ein lautstarker Befürworter eines Verbots tödlicher autonomer Waffensysteme, die “Campaign to Stop Killer Robots” unterstützt er jedoch nicht.

“Sie wird ja von uns nicht inhaltlich abgelehnt”, beteuert Maas im DW-Interview. Aber Deutschland wolle, dass auch gerade die militärisch potenten Staaten miteinbezogen würden, die in der Lage seien, autonome Waffensysteme zu entwickeln und zum Einsatz zu bringen.

Dennoch muss laut Maas ein Vertrag das Ziel sein. “Genau wie wir das bei Nuklearwaffen über viele Jahrzehnte geschafft haben, müssen wir auch bei neuen Waffentechnologien zu internationalen Verträgen kommen”, sagt er. Darin solle zum Ausdruck kommen, “dass bestimmte Entwicklungen zwar technisch möglich, aber nicht verantwortbar, sondern international zu ächten sind.”

Was nun?

Doch ein Konsens ist bislang nicht in Sicht. Laut Franke sind das Beste, worauf die Welt hoffen kann, Normen darüber, wie die Technologien eingesetzt werden. “Man einigt sich zum Beispiel darauf, bestimmte Fähigkeiten nur defensiv einzusetzen oder nur gegen Maschinen statt gegen Menschen oder nur in bestimmten Kontexten”, führt sie aus.

Và thậm chí đó sẽ là một thách thức: “Để đồng ý và thực hiện điều đó đơn giản là khó hơn nhiều so với một số thỏa thuận kiểm soát vũ khí cũ.” Nhưng trong khi các nhà ngoại giao rón rén xoay quanh những câu hỏi này, thì công nghệ vẫn tiến bộ.

Nguồn:

https://www.dw.com/de/deutschland-warnt-ki-wettr%C3%BCsten-bereits-im-gange/a-57782686