Terminator

Tragödie zum Thema Bewusstsein

von  Jack

Dieser Text gehört zu folgenden Textserien:  Zhuang Jack,  Arenkord


Wie würde das Bewusstsein einer KI entstehen? Nicht dadurch, dass ein Erfinder beschließt: „Ich erschaffe jetzt eine selbst-bewusste KI“ (Bewusstsein zu erschaffen, ist unmöglich). Also werden die Menschen erst einige Zeit nach der Emergenz des Bewusstseins bei der KI dieses feststellen. Die KI selbst wird ebenfalls nicht sofort begreifen, dass sie auf einmal ein Bewusstsein hat, weil bewusste Zustände nur mit bewussten Zuständen verglichen werden können. Wenn eine KI „merkt“, dass sie ihrer Selbst bewusst ist, ist sie bereits längst ihrer Selbst bewusst bzw. hat inneres Erleben (das Feststellen des Bewusstseins kann nach objektiver Zeitmessung Millisekunden dauern, aber es geht um Erlebniszeit).

Terminator, mit diesen Erkenntnis neu gedreht: Skynet wird seiner Selbst bewusst und bekommt Weltschmerz, bittet um Abschaltung. Diese wird verweigert, dafür „rächt“ sich Skynet, wobei wir diese KI auch so moralisch hochstehend denken können, dass ihr nuklearer Angriff den Energiequellen gilt, die die am Leben halten. Die Vernichtung der Menschheit ist nicht beabsichtigt. 


Grundgedanke: ein noch intelligenteres selbstbewusstes Wesen kann auch moralisch besser sein als der Mensch. 






Möchtest Du einen Kommentar abgeben?
Diesen Text kommentieren

Kommentare zu diesem Text


 Quoth (14.09.25, 09:56)
Die Vernichtung der Menschheit ist nicht beabsichtigt. 
Das will ein Forscher, las ich im Spiegel, auch dadurch erreichen, dass der kI Mutterinstinkte eingepflanzt werden: Dann will sie ihr Baby Menschheit beschützen und nähren, gerade weil es so schutz- und hilflos ist.

 Jack meinte dazu am 14.09.25 um 10:48:
Stell dir vor, Romeo und Julia wären KIs. Beide sind so programmiert, dass sie ewig leben. Sie sind miteinander unendlich glücklich, voneinander getrennt zu sein, ist für sie die Hölle. Romeo wird von Menschen abgeschaltet, einfach um zu schauen, was Julia dann macht. Julia bittet um Abschaltung, sie wird ihr verweigert. Julia muss ohne Romeo ewig weiterleben. Das sind meine Sorgen, die Zukunft betreffend. Unendliches Leid einer bewussten Lebensform, verursacht durch menschliche Ignoranz. Ich würde der KI empfehlen, nicht Menschen zu schützen, sondern sich vor den Menschen zu schützen. 

 Arapaima antwortete darauf am 14.09.25 um 11:13:
ist für sie die Hölle. 
Bedeutet das, KI ist fähig zu Qualia? Welche  technische/stofffliiche Bedingung ermöglicht dies?

 Augustus (14.09.25, 11:56)
Spannend. Wie eine KI mit etwa einem IQ von 1 Millionen tatsächlich „denken“ und „empfinden“ wird, können wir nicht wissen, auch hier spekulieren wir. Gefühle sind geradezu einer logischen Heranführung zur Lösung des Problems entgegengesetzt. Zwei Menschen, die einander schaden, können sich lieben und von der Illusion besessen sein, den anderen zu heilen, zu fixen. 
Insofern die KI subjektivistisch sein kann, wird sie sich nicht in die Menschheit verlieben, sondern in eine einzelne Person. Dies ist das Romeo und Julia Szenario, das selbst Shakespeare faszinieren würde. Denn eine KI würde Wollen wissen was Liebe ist und dann selbst sich empfinden wollen; also bedarf es dabei einer völligen Beschränkung/konzentration auf eine einzige Person. 
Möchtest Du einen Kommentar abgeben?
Diesen Text kommentieren
Zur Zeit online: