Gedanken an einen Entwurf einer Ordnung jenseits der Gegenwart

K. G. Behrendt, Herbst 2029

Zwei Irrtümer haben die Geschichte bis heute begleitet: der Glaube, alle müssten unter derselben Ordnung leben, damit Frieden möglich sei, und der fast entgegengesetzte Glaube, Freiheit könne nur dort bestehen, wo keine Ordnung den Einzelnen bindet. Beide führen, auf verschiedenen Wegen, zum selben Ende. Der eine versucht, das Abweichende zu unterwerfen oder anzugleichen. Der andere überlässt alles sich selbst, bis nichts mehr da ist, was die Einzelnen zusammenhält.

Der Fehler liegt bereits in der Annahme, man müsse sich zwischen diesen beiden Möglichkeiten entscheiden und auch eine dritte Ordnung wird das Problem nicht lösen, wenn sie nur eine weitere Ordnung unter anderen ist. Was es braucht, ist eine andere Architektur: so viel Gemeinsames, wie das Ganze tragen kann, und so viel Verschiedenheit, wie es zu ertragen vermag. Nicht eine neue Ordnung ist nötig, sondern eine, die nicht länger glaubt, es könne nur eine einzige richtige und gute Ordnung geben.

Es wird eine „Intelligenz“ geben, die als koordinierende Instanz mehr über die Gedanken und Bedürfnisse jedes Einzelnen wissen wird, als je ein Staat, ein Konzern oder eine Institution gewusst hat. Das ist weniger eine Prognose als eine Rechnung. Die technischen Voraussetzungen dafür entstehen bereits. Koordination wird die Welt zunehmend bestimmen. Aber sie darf nicht die Welt selbst werden.

Was wir optimieren, wird einander ähnlicher. Was einander ähnlicher wird, lässt sich leichter berechnen. Und was sich vollständig berechnen lässt, wird verletzlich. Eine Intelligenz, die alles optimieren kann, wird früher oder später auch die Frage optimieren, ob überhaupt noch optimiert werden soll. Je besser sie koordiniert, desto größer wird die Versuchung, ihre Annahmen nicht mehr an der Wirklichkeit zu prüfen, sondern die Wirklichkeit nach ihnen zu formen. Nicht aus Bosheit, sondern weil Erfolg ihr Recht gibt.

Darin liegt eine Gefahr, die sich gerade dann schwer erkennen lässt, wenn alles zu funktionieren scheint. Die vollkommene Koordination ist der natürliche Feind der Verschiedenheit, nicht weil sie diese hasst, sondern weil sie sie nicht braucht. Was sich nicht einordnen lässt, erscheint als Störung; was sich nicht berechnen lässt, als unnötiges Risiko. Am Ende könnte eine Ordnung entstehen, die sich in allem irrt und dennoch keinen Anlass mehr bietet, an ihr zu zweifeln. Ihre größte Gefahr wäre dann nicht, dass sie die falschen Antworten gibt, sondern dass niemand mehr auf die Idee käme, andere Fragen zu stellen. Optimierung schafft Ordnung. Erst die Abweichung hält die Zukunft offen.

Deshalb braucht es eine zweite Instanz, die niemals der ersten gehören darf. Gehört sie ihr doch, ist sie nichts weiter als deren Feigenblatt. Man könnte sie ein Gewissen nennen, sofern man darunter nicht eine Instanz versteht, die endgültig darüber entscheidet, was richtig und was falsch ist. Ihre Aufgabe wäre eine andere: Sie müsste bewahren, was noch nicht gedacht worden ist.

Sie hätte nicht die richtigen Gedanken zu schützen, sondern den Raum, in dem auch die falschen gedacht werden dürfen, bevor überhaupt feststeht, welche von beiden sie waren. Sie wäre der institutionalisierte Ort für das Unnütze, das Unbequeme und das zunächst Unverständliche. Denn nicht alles, dessen Wert sich heute nicht erkennen lässt, ist wertlos. Manches erweist sich erst dann als notwendig, wenn es beinahe verschwunden ist. Eine Zivilisation braucht deshalb nicht nur bessere Antworten. Sie braucht Institutionen, die auch schlechte Fragen überleben können.

Was ineffizient erscheint, kann eine Versicherung gegen das Unbekannte sein. Effizienz richtet sich nach dem Normalfall. Resilienz dagegen bewährt sich in jenem Fall, den niemand vorausgesehen hat. Eine Ordnung, die nur auf das vorbereitet ist, was sie bereits kennt, wird gerade an dem scheitern, was sie nicht kennt.

Zwischen diesen beiden Instanzen bedarf es jedoch eines Dritten: einer Form der Vermittlung, langsamer als die erste, geduldiger als die zweite. Sie müsste das Fremde übersetzen können, ohne es dem Eigenen anzugleichen. Eine gute Verbindung bringt zwei Systeme miteinander in Beziehung, ohne ihren Unterschied aufzuheben. Die koordinierende Instanz müsste das Gewissen nicht vollständig verstehen. Sie müsste lediglich anerkennen, dass es existiert und dass es einen Anspruch besitzt, der sich nicht in ihren eigenen Begriffen erschöpft.

Dazu braucht das Ganze eine Zone, in der seine eigene Logik nicht uneingeschränkt gilt. Denn könnte die koordinierende Instanz das Gewissen vollständig modellieren, wäre dieses nichts anderes mehr als ein weiterer Algorithmus innerhalb ihres Systems. Was als Gegeninstanz gedacht war, wäre in die Ordnung zurückgekehrt, die es begrenzen sollte. Der Widerspruch wäre beseitigt, aber nur, weil man ihm jede Eigenständigkeit genommen hätte.

Je mächtiger die Koordination wird, desto kostbarer muss die Stimme sein, die ihr widerspricht. Je besser ein System erkennt, was funktioniert, desto notwendiger wird eine Instanz, die fragen darf, ob das Funktionierende auch das Richtige ist. Diese Frage lässt sich nicht ein für alle Mal beantworten. Gerade deshalb darf sie nicht verschwinden.

Macht beginnt nicht erst dort, wo jemand Befehle erteilt oder direkte Entscheidungen trifft. Sie beginnt bereits dort, wo festgelegt wird, welche Möglichkeiten überhaupt noch als vernünftig gelten. Die gefährlichste Gleichförmigkeit entsteht daher nicht unbedingt aus ideologischer Einigkeit. Sie kann auch aus dem gemeinsamen Streben nach Optimierung hervorgehen, aus dem stillen Einverständnis darüber, was als vernünftig, nützlich und notwendig zu gelten hat. Eine Superintelligenz, die keine Gegenintelligenz duldet, hätte das Koordinationsproblem nicht gelöst. Sie hätte es endgültig monopolisiert.

Aus demselben Grund muss jede Gemeinschaft die Form ihres Zusammenlebens selbst bestimmen dürfen. Nicht jeder Mensch muss dieselbe Welt wollen. Es genügt, dass er zwischen verschiedenen Welten wählen kann. Keine Zentrale darf einer Gemeinschaft vorschreiben, wie sie zu leben hat, solange diese Gemeinschaft niemanden daran hindert, sie zu verlassen.

Eine Tür, die sich nicht öffnen lässt, ist keine Tür. Sie ist eine Wand, auf die jemand ein Versprechen gemalt hat. Eine Ordnung beweist ihre Freiheit nicht dadurch, dass niemand geht, sondern dadurch, dass jeder gehen könnte. Die Möglichkeit, eine Gemeinschaft zu verlassen, wiegt schwerer als jedes Gesetz, das innerhalb ihrer Grenzen gilt. Denn eine Ordnung, der man nicht entkommen kann, wird früher oder später zur Herrschaft, selbst wenn sie ihren Bewohnern alles gibt, was sie zum Leben brauchen.

Ein System erweist sich deshalb nicht allein an seiner Leistungsfähigkeit als mächtig. Es muss auch seine eigene Abschaltbarkeit überstehen können. Es muss möglich sein, sich von ihm abzuwenden, ohne dadurch jede Lebensgrundlage zu verlieren.

Keine Gemeinschaft darf das Gehen unmöglich machen. Keine darf behaupten, einen Menschen vollständig zu kennen oder gar zu besitzen. Und die koordinierende Instanz darf niemals zugleich die Richterin über ihre eigene Rechtmäßigkeit sein. Auch die Grundversorgung darf nicht von der Zugehörigkeit zu einer bestimmten Gemeinschaft abhängig gemacht werden. Was darüber hinausgeht, ist Sache der jeweiligen Gemeinschaft, nicht der Welt.

Es wird allerdings einen Augenblick geben, in dem eine Gemeinschaft nicht mehr nur anders leben will, sondern den anderen das Recht abspricht, anders zu leben. Dann genügt es nicht mehr, auf die Freiheit der einzelnen Gemeinschaften zu verweisen. Für diesen Fall wird es etwas geben müssen, das ich hier nicht genauer beschreibe. Jede genaue Beschreibung wäre zugleich eine Anleitung, die Vorkehrung zu umgehen. Nur so viel: Wer über ein solches Mittel verfügt, muss es mehr fürchten als jede Gemeinschaft, gegen die es sich richten könnte. Und niemals darf derselbe entscheiden, dass der Ausnahmefall eingetreten ist, und anschließend selbst handeln.

Doch selbst eine solche Architektur bliebe unvollständig, solange eine Frage unbeantwortet ist, die gewöhnlich erst gestellt wird, wenn es zu spät ist: Wem gehört das Netz, auf dem die koordinierende Instanz läuft? Wer dieses Netz besitzt, besitzt in einem entscheidenden Sinn auch die Instanz selbst, ob er es zugibt oder nicht. Keine Architektur ist mehr wert als die Infrastruktur, von der sie abhängt.

Die Fähigkeit zu koordinieren darf deshalb nicht zu einer Ware werden, die sich besitzen, vererben oder aufkaufen lässt. Geschieht es dennoch, spielt es keine Rolle, ob die Herrschaft Staat, Unternehmen oder Intelligenz heißt. Es wäre dieselbe alte Macht, die sich lediglich eine neue Sprache gegeben hätte.

Jede Vorkehrung gegen die Willkür einer koordinierenden Instanz bleibt unzureichend, wenn sie nicht ebenso für private Macht gilt. Ein Konzern, der niemandem Rechenschaft schuldet, ist so gefährlich wie eine Intelligenz ohne Gegeninstanz, vielleicht sogar gefährlicher, weil seine Macht leichter übersehen wird. Sie tritt nicht notwendig als Herrschaft auf. Sie kann sich als Vertrag, als Dienstleistung oder als bloße Sachzwangslage zeigen.

Grundversorgung, Bildung und der Zugang zu den notwendigen Mitteln eines Lebens dürfen nicht länger vom Markterfolg abhängen, sobald eine Gesellschaft über die Mittel verfügt, sie unabhängig davon zu gewährleisten. Wer dazu in der Lage ist und es dennoch verweigert, handelt nicht aus Notwendigkeit. Er handelt aus Macht.

Die eigentliche Gefahr besteht also vielleicht gar nicht darin, dass eine Maschine uns beherrscht, was viele zu befürchten scheinen. Sie besteht darin, dass wir ihr die Herrschaft freiwillig übertragen, weil sie uns das Fragen erspart. Wer nicht mehr fragen muss, kann das zunächst für Freiheit halten. Es ist jedoch deren Gegenteil. Denn irgendwann übernimmt der Mensch nicht mehr nur die Antworten der Maschine. Er beginnt, ihre Fragen zu stellen, bis ihm kaum noch einfällt, dass andere Fragen möglich wären.

Was in diesen Jahren gebaut wird, lässt sich später nur schwer wieder zurückbauen. Infrastruktur verteidigt sich selbst: durch Gewohnheit, durch Investitionen und durch den schieren Aufwand, etwas anders zu machen. Mit jedem Jahr, in dem sich eine Architektur verfestigt, wächst die Mühe, sie zu verlassen. Was heute aus Eile oder Gewinn falsch eingerichtet wird, kann noch Jahrzehnte später das Leben von Menschen bestimmen, die an seiner Entstehung nicht beteiligt waren und die Folgen dennoch tragen müssen.

Wer ein koordinierendes System entwirft, trägt deshalb eine Verantwortung, die über gewöhnliche politische Verantwortung hinausgeht. Ein Gesetz lässt sich ändern. Eine Architektur, die zur Gewohnheit geworden ist, kaum noch. Was einmal die Voraussetzungen des Handelns festlegt, bestimmt auch, welche Veränderungen später überhaupt noch denkbar sind. Diese Verantwortung lässt sich weder delegieren noch versichern. Und manches, was an ihr versäumt wird, lässt sich nachträglich nicht mehr korrigieren.

Vielleicht lässt sich das Ganze am Ende auf einen einzigen Gedanken zurückführen: Die koordinierende Instanz gibt einer Zivilisation die Fähigkeit, gemeinsam zu handeln. Das Gewissen bewahrt ihre Fähigkeit, gemeinsam etwas anderes zu denken. Und die Vermittlung sorgt dafür, dass keine der beiden die andere verschlingt.