Diese Woche habe ich wieder zwei Berichte über künstliche Intelligenz gesehen, und dieses Mal war mein Thema: Hat künstliche Intelligenz ein Bewusstsein oder kann sie es jemals entwickeln? Das ist natürlich eine abschreckende Frage, und ich habe zuerst einen Bericht oder ein Interview mit Geoffrey Hinton gesehen, einem Nobelpreisträger 2024, einem Spezialisten für neuronale Netze, und für ihn steht es außer Zweifel: Künstliche Intelligenz hat bereits ein Bewusstsein. Daran hat er keinen Zweifel. Der Interviewer fragt ihn dann an einer Stelle, woher er diese Gewissheit nimmt, worauf sie beruht, und dann sagt er tatsächlich ganz kurz: Nun, wir haben Tests mit neuronalen Netzen gemacht, wenn man einen Teil davon entfernt und ein Nanopartikel mit diesen Eigenschaften an seine Stelle setzt, bleibt das Bewusstsein unbeeinflusst. Ich weiß nicht, ob das eine wissenschaftliche Erklärung ist, denn ich habe sofort Fragen. Ich denke – ja, erstens gehe ich nicht davon aus, dass das am Menschen ausprobiert wurde, aber zweitens, wenn das am Menschen ausprobiert oder eventuell angewandt werden sollte, dann weiß man doch, dass, wenn ein Stück Hirngewebe abgestorben ist oder so krank ist, dass es nicht mehr funktioniert, es dann möglichst von anderem Gewebe übernommen wird. Wenn der Schaden sehr groß ist, passiert das natürlich nicht, und dann könnte man sich vorstellen, dass es großartig wäre, wenn man dann ein Nanopartikel einsetzen könnte, das diese Funktion ersetzt. Aber dann zu sagen, das sei der Beweis, dass dieses Nanopartikel auch ein Bewusstsein hat, halte ich für keine wissenschaftliche Schlussfolgerung. Denn es gibt so viele andere Möglichkeiten, wie das Bewusstsein erhalten werden kann. Das hat mich ein wenig unglücklich gemacht. Ein so hochgelehrter Herr, der sich mit wissenschaftlicher Forschung auf einem solchen Niveau beschäftigt, dass er einen Nobelpreis erhalten hat – ja, vielleicht liegt es an dem Interview, aber das überzeugt mich überhaupt nicht. Es wäre schwierig, mich zu überzeugen, aber gut, das ist eine andere Sache. Ich möchte versuchen, der Argumentation so unvoreingenommen wie möglich zu folgen, und so konnte ich hier eigentlich nicht weitermachen. Nun, wissen Sie, wenn man sich solche Interviews ansieht, sieht man auch andere, und dann kam ein Interview mit einem sehr alten Roger Penrose, der, wie ich schon sagte, dieses Buch geschrieben hat! Es wurde 1990 zum ersten Mal gedruckt, man könnte also sagen, das ist längst veraltet. Aber wenn man eine Vorstellung davon bekommen will, was künstliche Intelligenz eigentlich ist, muss man immer noch zurückgehen, auch in der Zeit, in der es noch einigermaßen fassbar war, was da passiert. Und das hat mir schon damals gefallen, weil er einen außerordentlich wissenschaftlichen Ansatz hat, aber auf der anderen Seite sehr konkrete Fragen stellt. Und in diesem Interview mit diesem alten Penrose – ich weiß nicht, aus welchem Jahr das Interview ist, aber er ist auf jeden Fall alt und er erzählt dann dem Interviewer, dass er in seinem Leben als Mathematiker, als Naturwissenschaftler einen Moment, oder vielleicht eine Reihe von Momenten und einen Wendepunkt in seiner Erkenntnis hatte, dass Verstehen nicht computable ist. Ich musste anfangs ein paar Mal hinhören: Was sagt er da? Denn er wiederholt es mehrmals, computable, es ist nicht berechenbar. Und an einer Stelle sagt er: Es wird nie gelingen, menschliches Begreifen in einen Algorithmus zu bringen, weil es nicht berechenbar ist, und dann wird man natürlich sehr neugierig, ob er dann eine Vision davon hat, was menschliches Begreifen ist. Aber zunächst möchte ich ein wenig aus dem Buch The Emperor’s New Mind von 1990 vorlesen. Ich habe hier schon einmal etwas daraus vorgelesen, aber da ging es um einen Mann, der in ein Hamburger-Restaurant kam. Dort gibt es dann bestimmte Ereignisse, und der Computer muss dann entscheiden, was die Schlussfolgerung aus diesen Geschichten ist. Es gab einen gewissen John Searle, der fand, dass die Tatsache, dass dieser Computer dann die richtigen Antworten gibt, keineswegs bedeutet, dass er auch weiß, was er tut, und er machte sich daran, das zu beweisen. Er hat das durch einen Versuch nachweisen wollen, den ich vorlesen möchte:

‚Wir müssen uns nun fragen, ob ein solches Ergebnis tatsächlich etwas darüber aussagt, ob der Computer die Geschichten versteht oder nicht.‘ Searle behauptet das sei nicht so, und weil er das Gegenteil behaupten will, hat er sich sein chinesisches Zimmer ausgedacht. In diesem werden erstens die Geschichten auf Chinesisch und nicht auf Englisch erzählt – das ist im Grunde kein wesentlicher Unterschied – und alle Operationen des Computeralgorithmus werden auf Englisch in Form einer Reihe von Anweisungen zur Manipulation chinesischer Schriftzeichen ausgeführt. In Searles Beispiel führt er alle diese Operationen selbst aus.‘ Er sitzt also in diesem Raum und führt diese Operation selbst aus, als wäre er ein Computer. Die Zeichenfolge, die die Geschichte erzählt, und die anschließenden Fragen kommen durch eine Art Briefkasten, einen verschlossenen Raum, herein. Keine andere Information kann von außen eindringen, und schließlich, wenn alle Manipulationen vorgenommen wurden“ – er tut also genau das, was der Algorithmus tut – “wird die endgültige Sequenz wieder durch den Briefkasten geleitet. Da alle Operationen nach dem Algorithmus des Programms ablaufen, wird diese letzte Sequenz ganz einfach das chinesische Zeichen für Ja oder Nein sein, je nach Frage, und die konkrete Antwort auf eine chinesische Frage oder Geschichte bilden. Das muss man sich mal auf der Zunge zergehen lassen, was für eine wunderbare Situation das ist, denn da sitzt also ein Mensch in einem Raum, ihm wird eine Geschichte in einer ihm unbekannten Sprache präsentiert, er kann sie also nicht verstehen, aber er hat ein Programm bekommen, das ihn Schritt für Schritt entscheiden lässt, ob er dazu ja oder nein sagen soll, und das tut er schließlich, und das geht dann durch diesen Briefkasten wieder raus. Nun lässt Searle keinen Zweifel daran, dass er kein Wort Chinesisch versteht“ – er hat also keine Ahnung, worum es in den Geschichten geht – “und doch gibt er, indem er alle Operationen des Algorithmus, die ihm auf Englisch vorgegeben werden, genau ausführt, eine ebenso gute Antwort wie ein Chinese, der die Geschichten versteht. Searles Standpunkt, und ich denke, er ist sehr überzeugend“, sagt Penrose, “ist, dass die bloße Ausführung eines erfolgreichen Algorithmus an sich noch kein Verständnis impliziert. Searle in seinem verschlossenen chinesischen Zimmer würde kein einziges Wort der beiden Geschichten verstehen.

Es ist ein ja fast schon spielerischer Test, bei dem man nicht wirklich einen Ausweg aus dieser Schlussfolgerung sehen kann, dass man, wenn man eine Sache nicht versteht und einfach nur der Schrittfolge folgt, es trotzdem schafft, die richtige Antwort zu geben. Natürlich hat es dazu eine Menge Kritik gegeben, die ich Ihnen ersparen will, aber ja, bleiben wir bei dem, was hier in diesem Stück auftaucht und bei der Aussage von Penrose, dass er in seinem Leben – also ich glaube, es war wirklich eine innere Erfahrung, so kommt es rüber – die Erfahrung gemacht hat: Wenn ich wissenschaftlich arbeite und ich verstehe, was ich tue, dann ist dieses Verständnis, dieser Prozess, etwas, was völlig unvereinbar ist mit allem, was wir wissen, was man berechnen könnte. Das hat er erlebt und dann denke ich: Warum hat er nicht Rudolf Steiner gefunden? Denn was passiert da? Dann bleibt er natürlich in seiner Naturwissenschaft, ganz verständlich, er geht nicht in die Geisteswissenschaft, er bleibt in der Naturwissenschaft, obwohl er sagt, Verstehen ist nicht berechenbar und er deutet sogar an einer Stelle mehr oder weniger an, dass es kein materielles Ereignis ist. Dann würde ich immer noch sagen: dann sucht die Geisteswissenschaft! Aber ich glaube, das ist ein schwieriger Schritt für jemanden, der so tief in der Naturwissenschaft steckt. Jedenfalls hat er es anscheinend nicht getan, denn er endet dann – ja nicht wirklich mit der Schlussfolgerung, aber doch mit einem Hinweis auf die Quantenphysik, dass er dort das Rätsel des Bewusstseins vermutet. Gut, das lassen wir ihm, das ist dann seine Schlussfolgerung, aber dass das, was dazwischen liegt, der Schritt des berechenbaren Geschehens der Intelligenz und des nicht berechenbaren Verstehens – ja das ist ein riesiger Schritt, da würde man jubeln und auch jubeln über die Erkenntnis, dass ein Mensch, menschliche Intelligenz, dass die wirklich nicht berechenbar ist. Und dass sie tun können, was sie wollen, dass sie die künstliche Intelligenz immer weiter und weiter und weiter und weiter verfeinern können, dass sie Verfahren finden können, um sie selbstlernend zu machen, so dass der Mensch überhaupt nicht mehr gebraucht wird – Grenzen, die ich letztes Mal versucht habe, ein wenig zu erörtern – all das können sie tun, aber was sie nicht tun können, ist, die künstliche Intelligenz durch einen funktionierenden Algorithmus mit der menschlichen Intelligenz gleichzusetzen. Aber natürlich gibt es auch eine Menge Gegner. Dieser Geoffrey Hinton jetzt in unserer Zeit hat eine ganz andere Sichtweise, der wirklich davon überzeugt ist, dass es schon lange so ist, und meine Sichtweise ist, dass man wirklich nur dann Gewissheit bekommen kann, wenn es so einen Moment im Leben gibt, wie bei Roger Penrose, dass man, während man sich mit dem Verstehen beschäftigt, eine, ja wie soll man sagen, eine Erfahrung macht, dass das Verstehen wirklich etwas Transzendentales ist, dass man da mit dem Gehirn nicht rauskommt. Denn das ist es, was es letztlich bedeutet: Verstehen ist nicht etwas, was man mit dem Gehirn macht, und der Computer hat nicht einmal ein Gehirn, sondern er hat neuronale Netze nachgeahmt. Das kann man nachahmen, aber dieser Prozess des Verstehens, der hier in diesem chinesischen Raum so schön beschrieben ist, dass er völlig fehlt und man trotzdem die richtige Antwort finden kann, dieser Prozess des Verstehens ist ein menschliches Wunder weit jenseits der Naturwissenschaft. Um das zu verstehen, braucht man die Geisteswissenschaft, und ich bin überzeugt – das wollte ich gerade sagen -, dass, wenn genügend Menschen in sich selbst erkennen, was Verstehen im Menschen eigentlich ist, dann kann die künstliche Intelligenz zwar florieren, wird aber nie die Oberhand gewinnen. Mehr dazu beim nächsten Mal.