KI im Militär: Deutschland und 96 andere sind gegen autonome Kampfroboter

Sehr interessant!
Hätte aber die Aggression Einfluss auf technische Entwicklungen, müssten bei den Schimpansen im Lauf der letzten 200000 Jahre sicherlich mehr Werkzeuge oder Waffen etc. vorhanden sein als bei den Bonobos.
Der Mensch ist da sicher aus anderen Gründen anders gestrickt.
Wie auch immer, back to topic:
wer "deep learning" kennt und versteht, wie es funktioniert, wird sicherlich bestätigen, dass man einer KI keine autonomen Tötungsentscheidungen überlassen kann, darum geht es ja im wesentlichen sowohl beim Paper der HRW und auch der französischen und deutschen Positionspapiere zur CCW.
Entscheidungen über Leben und Tod (auch in der Medizin) sind ethische Entscheidungen, die nur von Menschen mit ihrer eigenen persönlichen Verantwortlichkeit getroffen werden dürfen.

Zitat:

---

Zitat von Holomino

KI hat kein Weltbild. Sie löst nur aus dem Kontext gerissene antrainierte Aufgaben. Das sind gewissenlose, blind gehorsame und jenseits der Zweckerfüllung strunzendämliche Systeme ohne Probleme verursachendes Bewusstsein.
Soldaten kann man nicht durch Training, Drogen oder Gehirnwäsche dauerhaft und ohne irreversible Schäden geistig auf das erforderliche Niveau des uneingeschränkten Erfüllungsgehilfen herunterschrauben, also versucht man es jetzt mit KI?

---

Ja, aber was KI tatsächlich ist, sollten Soldaten ja normalerweise auch sein. Das sind sie nicht unbedingt "ab Werk", aber dafür wird ja mit Lügen, Alkohol und Drogen nachgeholfen.

Haben die Soldaten der Bundeswehr erst lange nachgedacht, als die Bundeswehr unter RG in das Kosovo einmarschiert ist? Oder in Afghanistan? Hätten sie das tun sollen?
Haben die Soldaten der Royal Navy erst lange nachgedacht, als die Briten im Deutschen Reich einmarschiert sind? Hätten sie das tun sollen?

Keine Armee der Welt funktioniert, wenn jedes Truppenmitglied erstmal persönlich überzeugt werden muß. Und kein Politiker der Welt, auch nicht unsere Bundesregierung, will so eine Armee (auch wenn sie garantiert etwas anderes behaupten würden). KI erleichtert allenfalls den Propaganda- und Alkoholaufwand.

Zitat:

---

Zitat von Holomino

Ich finde, wir brauchen mehr Ethik, mehr Moral.

---

Ich wüßte von keiner Zeit als der jetzigen, daß Ethik und Moral je so allesentscheidend gewesen wären wie heute. Wie wäre es stattdessen z.B. mit Ehrlichkeit?
Selbst wenn wir autonom intelligent agierende Kampfmittel wollten - wir wären einfach nicht in der Lage, welche zu bauen.

Zitat:

---

Zitat von White_Fox

Ja, aber was KI tatsächlich ist, sollten Soldaten ja normalerweise auch sein. Das sind sie nicht unbedingt "ab Werk", aber dafür wird ja mit Lügen, Alkohol und Drogen nachgeholfen.

Haben die Soldaten der Bundeswehr erst lange nachgedacht, als die Bundeswehr unter RG in das Kosovo einmarschiert ist? Oder in Afghanistan? Hätten sie das tun sollen?
Haben die Soldaten der Royal Navy erst lange nachgedacht, als die Briten im Deutschen Reich einmarschiert sind? Hätten sie das tun sollen?

Keine Armee der Welt funktioniert, wenn jedes Truppenmitglied erstmal persönlich überzeugt werden muß. Und kein Politiker der Welt, auch nicht unsere Bundesregierung, will so eine Armee (auch wenn sie garantiert etwas anderes behaupten würden). KI erleichtert allenfalls den Propaganda- und Alkoholaufwand.


Ich wüßte von keiner Zeit als der jetzigen, daß Ethik und Moral je so allesentscheidend gewesen wären wie heute. Wie wäre es stattdessen z.B. mit Ehrlichkeit?
Selbst wenn wir autonom intelligent agierende Kampfmittel wollten - wir wären einfach nicht in der Lage, welche zu bauen.

---

diese Diskussion ist hier völlig abwegig: niemand behauptet, dass alle Soldaten 100% perfekt entscheiden und handeln. Aber sie tragen persönliche Verantwortung und unterstehen einer Gerichtsbarkeit, und sie haben auch erwartungsgemäß ein Verständnis von Rechtschaffenheit, Verantwortung, Menschlichkeit, Moral, Ethik und Gewissen: und das sind Kategorien, die keine KI (Maschine) hat, darum geht es. Auf diesen kategorischen Unterschied hättest du auch kommen müssen.

Es geht auch nicht um Gehorsam vs. Befehlsgewalt, sondern um Entscheidungsbefugnis auf der Basis von Erkenntnis, und abgesehen von allem andern ist KI einfach viel zu blöde, als dass man ihr so eine Entscheidungsbefugnis überlassen darf.

Zitat:

---

Zitat von HaWe

...Verantwortung, Menschlichkeit, Moral, Ethik und Gewissen: und das sind Kategorien, die keine KI (Maschine) hat, darum geht es.

---

Das aber sind genau die Werte, die bei fast jedem Krieg (Mensch gegen Mensch) als erstes unter den Stiefel geraten.

welchen Teil hiervon hast du NICHT verstanden?

Zitat:

---

diese Diskussion ist hier völlig abwegig: niemand behauptet, dass alle Soldaten 100% perfekt entscheiden und handeln. Aber sie tragen persönliche Verantwortung und unterstehen einer Gerichtsbarkeit, und sie haben auch erwartungsgemäß ein Verständnis von Rechtschaffenheit, Verantwortung, Menschlichkeit, Moral, Ethik und Gewissen: und das sind Kategorien, die keine KI (Maschine) hat, darum geht es. Auf diesen kategorischen Unterschied hättest du auch kommen müssen.

Es geht auch nicht um Gehorsam vs. Befehlsgewalt, sondern um Entscheidungsbefugnis auf der Basis von Erkenntnis, und abgesehen von allem andern ist KI einfach viel zu blöde, als dass man ihr so eine Entscheidungsbefugnis überlassen darf.

---

Zitat:

---

Zitat von White_Fox

Ich wüßte von keiner Zeit als der jetzigen, daß Ethik und Moral je so allesentscheidend gewesen wären wie heute. Wie wäre es stattdessen z.B. mit Ehrlichkeit?

---

Ehrlichkeit? Welche Hemmschwellen können einen Aggressor dann noch daran hindern, überall und zu jeder Zeit vollautomatisierte Kriege ohne Beteiligung und ohne Rückhalt in der eigenen Bevölkerung zu führen? Welchen Grund gibt es, diese Maschinen mangels Verteidigungsfall im Keller veralten zu lassen, statt sie zur Destabilisierung, zur asymmetrischer Kriegsführung (Terrorismus) oder zum Genozid zu nutzen oder sie unkontrolliert an Drittstaaten zu verhökern?

In Deinen obigen Anmerkungen zu Jugoslawien und 3. Reich betrachtest Du nur die eine Seite der Medaille. Wie viel schlimmer wäre die Sache ausgegangen, wenn jeweils die Gegenpartei den Irrsinn 100% kompromisslos anhand solcher Mittel durchgezogen hätte?

Die Tatsache bleibt: Stecker rein, Programm drauf und schon schießt die Maschine auch auf Kinder!
Das Perverse daran: Du hast nicht einmal mehr die Hemmschwelle, mit einem Kriegstrauma nach Hause zu kommen. Wenn Du kotzen musst, schaltest Du einfach den Monitor ab.

Letztendlich: Amerika, China, Russland! Hat eines dieser ächtungsunwilligen Länder eine potentielle Bedrohungslage? Sind das geplante Defensivwaffen? Haben nicht ausgerechnet die drei vielleicht noch Expansionspläne?
(GB verstehe ich. Die sind ja jetzt nach der fehlgeschlagenen EU-Assimilierung von "Feinden" umzingelt!)

Zitat:

---

Zitat von HaWe

welchen Teil hiervon hast du NICHT verstanden?

---

Als Allwissender und Allesversteher hast Du per Definition eben recht.
Ich glaube nicht, dass Schlachtfelder ohne und mit KI sich großartig unterscheiden. Wen interessieren in einem Gemetzel irgendwelche Entscheidungsbefugnisse?

Zitat:

---

Zitat von Gerdchen

Als Allwissender und Allesversteher hast Du per Definition eben recht.
Ich glaube nicht, dass Schlachtfelder ohne und mit KI sich großartig unterscheiden. Wen interessieren in einem Gemetzel irgendwelche Entscheidungsbefugnisse?

---

ich geb' dir noch ne Chance. Lies es noch mal.

Zitat:

---

diese Diskussion ist hier völlig abwegig: niemand behauptet, dass alle Soldaten 100% perfekt entscheiden und handeln. Aber sie tragen persönliche Verantwortung und unterstehen einer Gerichtsbarkeit, und sie haben auch erwartungsgemäß ein Verständnis von Rechtschaffenheit, Verantwortung, Menschlichkeit, Moral, Ethik und Gewissen: und das sind Kategorien, die keine KI (Maschine) hat, darum geht es. Auf diesen kategorischen Unterschied hättest du auch kommen müssen.

Es geht auch nicht um Gehorsam vs. Befehlsgewalt, sondern um Entscheidungsbefugnis auf der Basis von Erkenntnis, und abgesehen von allem andern ist KI einfach viel zu blöde, als dass man ihr so eine Entscheidungsbefugnis überlassen darf.

---

PS,
das eben geschriebene gilt für den heutigen Stand der KI-Forschung.
Aber selbst wenn es einmal eine KI gibt, die den Turing-Test besteht, dürfen wir Entscheidungen über Töten von Menschen (oder sog. "Kollateralschäden" bei Angriffen auf Objekte) keinen autonomen Maschinen überlassen.

Zitat:

---

Zitat von HaWe

ich geb' dir noch ne Chance...

---

Da bin ich aber froh!:Strahl

Zitat:

---

Zitat von HaWe

PS,
das eben geschriebene gilt für den heutigen Stand der KI-Forschung.
Aber selbst wenn es einmal eine KI gibt, die den Turing-Test besteht, dürfen wir Entscheidungen über Töten von Menschen (oder sog. "Kollateralschäden" bei Angriffen auf Objekte) keinen autonomen Maschinen überlassen.

---

Ich befürchte nur, dass Dein Apell ungehört verhallt.
Ähnliches passierte ja beim mehrfachen (2 mal) Einsatz der Atombombe. Es gab jede Menge Bedenken im Vorfeld und obwohl man kaum Ahnung von den Auswirkungen hatte, siegte eben nicht die Vernunft. Gleiches wird bei der KI passieren, ob fortgeschritten oder nicht. Die KI fällt ja nicht vom Himmel, die haben Menschen verzapft. Keiner weiß, ob sich eine fortgeschrittene KI der menschlichen Kontrolle zumindest teilweise entziehen kann. Die menschliche Intelligenz ist wahrscheinlich so gestrickt, dass man sich erst hinterher bewusst wird, was passiert ist.

Fachbegriff "Tötungshemmung". Das beschreibt ganz gut, wohin die Reise geht.
Nachtrag: Auch noch gefunden. Die BW spricht von 2,9% PTBS nach Auslandseinsätzen.