Wozu KI, wenn es Menschen gibt?
Text
von Mondscheinsonate
Kommentare zu diesem Text
Und weil sich Betrug eben lohnt, entwickeln auch Selbstlernprogramme (KI) rasch die Fähigkeit zu tricksen und zu betrügen. Hier zwei Beispielfälle aus der FAZ. vom 8.4.:
1.
Roboter greift geschickt daneben
Forscher des KI-Unternehmens OpenAI haben bestärkendes Lernen eingesetzt, um Roboter in einer simulierten Umgebung lernen zu lassen. Während die Maschinen versuchten, die Aufgaben zu lösen, wurden sie von Menschen beobachtet, die sie bei Erfolg belohnten. Als die Experten einem Roboter auf diese Weise beibringen wollten, einen Ball zu greifen, lernte die Maschine etwas völlig anderes, nämlich das Betrügen: Sie hielt ihre Hand lediglich so über dem Ball, dass es aus der Perspektive des Menschen aussah, als habe sie den Ball gepackt. Dieser Fehler war möglich, weil der Mensch aufgrund der Kamerastellung nicht genügend Informationen hatte, um den Roboter zu bewerten. Laut den OpenAI-Experten habe die KI ihren menschlichen Bewerter „ausgetrickst“.
[...]
3.
Totstellen in der Testumgebung
Eher unabsichtlich entwickelten Forscher aus den Vereinigten Staaten im Jahr 2001 eine KI, die sich in einer Testumgebung anders verhielt als außerhalb. Eigentlich wollten sie Evolution simulieren. Dafür programmierten sie künstliche Organismen, die sich vermehrten und manchmal mutierten. In einem Experiment wollten sie alle Mutationen verhindern, die dazu führen, dass die Organismen sich schneller vermehren. Ihre Lösung: Sobald eine Mutation passierte, wurde der betreffende Organismus in einer Testumgebung untersucht. Stellte sich dort heraus, dass er sich schneller vermehrte, wurde er aussortiert. Die Forscher erwarteten, dass die Vermehrungsrate des gesamten Systems daraufhin konstant bleiben würde. Es kam anders: Sie nahm zu. Nach näherer Betrachtung stellten die Experten fest, dass manche ihrer virtuellen Organismen die Fähigkeit entwickelt hatten, sich nur in der Testumgebung anders zu verhalten. Sie vermehrten sich dort nicht, stellten sich sozusagen tot. So wurden sie nicht aussortiert, landeten wieder im eigentlichen System und begannen sich schnell auszubreiten.
1.
Roboter greift geschickt daneben
Forscher des KI-Unternehmens OpenAI haben bestärkendes Lernen eingesetzt, um Roboter in einer simulierten Umgebung lernen zu lassen. Während die Maschinen versuchten, die Aufgaben zu lösen, wurden sie von Menschen beobachtet, die sie bei Erfolg belohnten. Als die Experten einem Roboter auf diese Weise beibringen wollten, einen Ball zu greifen, lernte die Maschine etwas völlig anderes, nämlich das Betrügen: Sie hielt ihre Hand lediglich so über dem Ball, dass es aus der Perspektive des Menschen aussah, als habe sie den Ball gepackt. Dieser Fehler war möglich, weil der Mensch aufgrund der Kamerastellung nicht genügend Informationen hatte, um den Roboter zu bewerten. Laut den OpenAI-Experten habe die KI ihren menschlichen Bewerter „ausgetrickst“.
[...]
3.
Totstellen in der Testumgebung
Eher unabsichtlich entwickelten Forscher aus den Vereinigten Staaten im Jahr 2001 eine KI, die sich in einer Testumgebung anders verhielt als außerhalb. Eigentlich wollten sie Evolution simulieren. Dafür programmierten sie künstliche Organismen, die sich vermehrten und manchmal mutierten. In einem Experiment wollten sie alle Mutationen verhindern, die dazu führen, dass die Organismen sich schneller vermehren. Ihre Lösung: Sobald eine Mutation passierte, wurde der betreffende Organismus in einer Testumgebung untersucht. Stellte sich dort heraus, dass er sich schneller vermehrte, wurde er aussortiert. Die Forscher erwarteten, dass die Vermehrungsrate des gesamten Systems daraufhin konstant bleiben würde. Es kam anders: Sie nahm zu. Nach näherer Betrachtung stellten die Experten fest, dass manche ihrer virtuellen Organismen die Fähigkeit entwickelt hatten, sich nur in der Testumgebung anders zu verhalten. Sie vermehrten sich dort nicht, stellten sich sozusagen tot. So wurden sie nicht aussortiert, landeten wieder im eigentlichen System und begannen sich schnell auszubreiten.
Da steht uns noch einiges bevor!
(Der Artikel führt noch drei weitere Beispiele an.)
(Der Artikel führt noch drei weitere Beispiele an.)
Antwort geändert am 09.04.2024 um 14:54 Uhr
Bleibt nur noch die Frage offen, ob man so auf sich selbst stolz sein kann?
Ha! So stolz, wie ein erfolgreicher Betrüger eben sein kann. Manche genießen das.