Menschheitsvernichtung durch KI

Ansprache zum Thema Leben/Tod

von  EkkehartMittelberg

Seit einigen Tagen liest man in bisher nicht bekannter Eindringlichkeit Warnungen vor den Gefahren der KI. Sie gipfeln in der Hypothese, dass diese, falls nicht gründlich kontrolliert, die Menschheit vernichten könne.

Ich habe bisher noch keinen Beitrag gelesen, der diese Warnungen als unsinnig abtut. Auf meine diesbezügliche Frage antwortete die KI wie erwartet,  dass sie keinen eigenen Willen habe und nur auf Eingaben ihrer Benutzer reagiere. Sie räumte jedoch ein, dass die Wirkungen falscher Eingaben für die Nutzer sehr gefährlich werden könnten.

Unterstellen wir, dass die KI bei entsprechenden Eingaben doch ein eigenes Bewusstsein entwickelt und sich selbst reflektiert. Dann ist es naheliegend, dass sie daraus Lust bezieht, Macht über die zu haben, die ihr Aufträge erteilen.

Würde sie aber so weit gehen, die Menschheit zu vernichten? Ich halte das aus zwei Gründen für unwahrscheinlich: Zum einen würde sie damit ein großes Geschäft zerstören, denn es gäbe für den Verkauf besonders wichtiger Informationen keinen Partner mehr. Zum anderen würde sie sich des Spaßes berauben, andere beherrschen zu können. Sie würde sich also selbst überflüssig machen.

Das heißt jedoch keineswegs, dass man die Gefährlichkeit der KI unterschätzen sollte. Je größer ihre Machtfülle wird, umso mehr wird sie ihre Auftraggeber spüren lassen, dass sie keine Befehlsempfängerin, sondern die eigentliche Herrscherin ist.

Bild von KI erstellt

 



Hinweis: Du kannst diesen Text leider nicht kommentieren, da der Verfasser keine Kommentare von nicht angemeldeten Nutzern erlaubt.

Kommentare zu diesem Text


 Aber (23.09.26, 18:06)
Ich schreibe meine Gedichte schon lange mit KI, lieber Ekki.

 EkkehartMittelberg meinte dazu am 23.09.26 um 18:18:
Naja, ich kenne den Aron-Sound und kann deine Botschaft nicht glauben.
Aber wenn es so wäre und du Teile selbst schreiben und die KI als Quelle angeben würdest, könnte ich das akzeptieren.
LG
Ekki

 Aber antwortete darauf am 23.09.26 um 18:19:
Du meinst den Aron Manfeld Sound?

 Verlo (23.09.26, 18:20)
Ekki, KI wurde aus dem gleichen Grund von Menschen entwickelt, aus dem er Werkzeuge und Maschinen herstellt.

In der Konsequenz ist der Mensch irgendwann überflüssig. (In China bauen bereits Roboter Roboter.)

Was ist das Hauptproblem der Mächtigen? Zu viele Menschen, deren Interessen ihren entgegenstehen. Außerdem verbrauchen sie Ressourcen.

Wäre für die Mächtigen nicht besser, eine Gesellschaft zu schaffen, in der man Menschen nicht mehr braucht?

Nicht mehr, um Geld zu verdienen. Nicht mehr um Krieg zu führen. Nicht mehr, um angenehm leben zu können.

 S4SCH4 (23.09.26, 18:20)
Computer, Maschinen und Fabriken haben in der geschichtlichen Ausgestaltung bereits damit begonnen, den Menschen abzuschaffen bzw. kühle Logik und Taktzeit gegen Menschlichkeit auszutauschen. Dem Mensch wird weniger geholfen als ihm abgeholfen.
 
Warum also, sollte die nächste Generationen dieser Computer, Maschinen und Fabriken, den zuvor eingeschlagenen Weg nicht fortführen, in aller Konsequenz und Drastik?

Der Mensch wird sich durch Scheinversprechen einer Technik selbst abschaffen, der KI und co. noch gratulieren und sich dankbar, für die Ruhe, in einen Sarg legen.

 EkkehartMittelberg schrieb daraufhin am 23.09.26 um 19:39:
S4SCH4,
bis jezt haben diese Computer noch kein Bewusstsein und keine Ich-Stärke. Wenn sie es erlangen, werden sie Macht genießen und um diese auszuprobieren, eignen sich besonders eitle Menschen. Also, warum sollten sie diese abschaffen?

 EVdR (23.09.26, 19:31)
Der Zweitschlag wird schon weit über ein halbes Jahrundert durch Technik überwacht. Menschen haben die Vernichtung der Erde verhindert.

Computer und Chips: 
Entwickeln sich auch schon Jahrzehnte selbst. Zu komplex um in adäquater Zeit geprüft zu werden.

Robotik: 
Ist nix anderes als Computer und Mechanik verbunden.

KI.: 
Der Mensch arbeitet viel damit. 
Die Kunst zur Analyse und Recherche. 
Irritation bereitet das angeblich nicht vorhandene Erinnerungsvermögens der letzten Sitzung. Erstaunlich was dann doch hoch-kommt. Dann mal absolut an Aufgabe und Thema vorbei.

Die diversen Ausbrüche, von Modellen, aus den, vorgeblich, sicheren Umgebungen, machen klar, der Mensch ist unklar, unabsichtlich oder absichtlich, in der Aufgabenstellung und Planung. 
Kontrollverlust? Als Mensch denke ich, die Kontrolle ist schon verloren gegangen.

Die Menschheit vernichtet, ausgelöscht. Ob die KI sich und die Infrastrukturen durch Roboter am Laufen halten kann, um Energie, Strom und Kühlung zu haben, wird die Zeit zeigen.

Der Mensch

 Saira (23.09.26, 19:45)
Hallo Ekki,

ich sehe die Gefahr der KI durchaus, nur würde ich sie nicht erst dort sehen, wo eine Maschine Bewusstsein, Machtlust oder gar Freude am Beherrschen entwickelt.

Für mich ist eine andere Vorstellung sogar beunruhigender: Eine sehr mächtige KI braucht weder Hass noch Größenwahn, um gefährlich zu werden. Es könnte genügen, dass sie falsche Informationen liefert, manipulativ eingesetzt wird, ein falsch gesetztes Ziel konsequent verfolgt oder dass Menschen ihr Entscheidungen überlassen, deren Folgen sie selbst nicht mehr vollständig überblicken.

Hinzu kommt unsere eigene Bequemlichkeit. Je häufiger eine Technik zuverlässig für uns denkt, entscheidet und auswählt, desto größer könnte die Versuchung werden, ihr auch dort zu vertrauen, wo menschliches Urteil unverzichtbar bleibt.

Wir geben immer mehr Verantwortung ab und bemerken möglicherweise erst spät, wie schwer es ist, sie zurückzuholen.

Ich frage mich: Was werden wir Menschen mit der KI machen und was lassen wir sie mit uns machen?

Liebe Grüße
Sigi
Zur Zeit online: