Diese Woche habe ich wieder zwei Berichte \u00fcber k\u00fcnstliche Intelligenz gesehen, und dieses Mal war mein Thema: Hat k\u00fcnstliche Intelligenz ein Bewusstsein oder kann sie es jemals entwickeln? Das ist nat\u00fcrlich eine abschreckende Frage, und ich habe zuerst einen Bericht oder ein Interview mit Geoffrey Hinton gesehen, einem Nobelpreistr\u00e4ger 2024, einem Spezialisten f\u00fcr neuronale Netze, und f\u00fcr ihn steht es au\u00dfer Zweifel: K\u00fcnstliche Intelligenz hat bereits ein Bewusstsein. Daran hat er keinen Zweifel. Der Interviewer fragt ihn dann an einer Stelle, woher er diese Gewissheit nimmt, worauf sie beruht, und dann sagt er tats\u00e4chlich ganz kurz: Nun, wir haben Tests mit neuronalen Netzen gemacht, wenn man einen Teil davon entfernt und ein Nanopartikel mit diesen Eigenschaften an seine Stelle setzt, bleibt das Bewusstsein unbeeinflusst. Ich wei\u00df nicht, ob das eine wissenschaftliche Erkl\u00e4rung ist, denn ich habe sofort Fragen. Ich denke – ja, erstens gehe ich nicht davon aus, dass das am Menschen ausprobiert wurde, aber zweitens, wenn das am Menschen ausprobiert oder eventuell angewandt werden sollte, dann wei\u00df man doch, dass, wenn ein St\u00fcck Hirngewebe abgestorben ist oder so krank ist, dass es nicht mehr funktioniert, es dann m\u00f6glichst von anderem Gewebe \u00fcbernommen wird. Wenn der Schaden sehr gro\u00df ist, passiert das nat\u00fcrlich nicht, und dann k\u00f6nnte man sich vorstellen, dass es gro\u00dfartig w\u00e4re, wenn man dann ein Nanopartikel einsetzen k\u00f6nnte, das diese Funktion ersetzt. Aber dann zu sagen, das sei der Beweis, dass dieses Nanopartikel auch ein Bewusstsein hat, halte ich f\u00fcr keine wissenschaftliche Schlussfolgerung. Denn es gibt so viele andere M\u00f6glichkeiten, wie das Bewusstsein erhalten werden kann. Das hat mich ein wenig ungl\u00fccklich gemacht. Ein so hochgelehrter Herr, der sich mit wissenschaftlicher Forschung auf einem solchen Niveau besch\u00e4ftigt, dass er einen Nobelpreis erhalten hat – ja, vielleicht liegt es an dem Interview, aber das \u00fcberzeugt mich \u00fcberhaupt nicht. Es w\u00e4re schwierig, mich zu \u00fcberzeugen, aber gut, das ist eine andere Sache. Ich m\u00f6chte versuchen, der Argumentation so unvoreingenommen wie m\u00f6glich zu folgen, und so konnte ich hier eigentlich nicht weitermachen. Nun, wissen Sie, wenn man sich solche Interviews ansieht, sieht man auch andere, und dann kam ein Interview mit einem sehr alten Roger Penrose, der, wie ich schon sagte, dieses Buch geschrieben hat! Es wurde 1990 zum ersten Mal gedruckt, man k\u00f6nnte also sagen, das ist l\u00e4ngst veraltet. Aber wenn man eine Vorstellung davon bekommen will, was k\u00fcnstliche Intelligenz eigentlich ist, muss man immer noch zur\u00fcckgehen, auch in der Zeit, in der es noch einigerma\u00dfen fassbar war, was da passiert. Und das hat mir schon damals gefallen, weil er einen au\u00dferordentlich wissenschaftlichen Ansatz hat, aber auf der anderen Seite sehr konkrete Fragen stellt. Und in diesem Interview mit diesem alten Penrose – ich wei\u00df nicht, aus welchem Jahr das Interview ist, aber er ist auf jeden Fall alt und er erz\u00e4hlt dann dem Interviewer, dass er in seinem Leben als Mathematiker, als Naturwissenschaftler einen Moment, oder vielleicht eine Reihe von Momenten und einen Wendepunkt in seiner Erkenntnis hatte, dass Verstehen nicht computable ist. Ich musste anfangs ein paar Mal hinh\u00f6ren: Was sagt er da? Denn er wiederholt es mehrmals, computable, es ist nicht berechenbar. Und an einer Stelle sagt er: Es wird nie gelingen, menschliches Begreifen in einen Algorithmus zu bringen, weil es nicht berechenbar ist, und dann wird man nat\u00fcrlich sehr neugierig, ob er dann eine Vision davon hat, was menschliches Begreifen ist. Aber zun\u00e4chst m\u00f6chte ich ein wenig aus dem Buch The Emperor’s New Mind von 1990 vorlesen. Ich habe hier schon einmal etwas daraus vorgelesen, aber da ging es um einen Mann, der in ein Hamburger-Restaurant kam. Dort gibt es dann bestimmte Ereignisse, und der Computer muss dann entscheiden, was die Schlussfolgerung aus diesen Geschichten ist. Es gab einen gewissen John Searle, der fand, dass die Tatsache, dass dieser Computer dann die richtigen Antworten gibt, keineswegs bedeutet, dass er auch wei\u00df, was er tut, und er machte sich daran, das zu beweisen. Er hat das durch einen Versuch nachweisen wollen, den ich vorlesen m\u00f6chte:<\/p>\n
‚Wir m\u00fcssen uns nun fragen, ob ein solches Ergebnis tats\u00e4chlich etwas dar\u00fcber aussagt, ob der Computer die Geschichten versteht oder nicht.‘ Searle behauptet das sei nicht so, und weil er das Gegenteil behaupten will, hat er sich sein chinesisches Zimmer ausgedacht. In diesem werden erstens die Geschichten auf Chinesisch und nicht auf Englisch erz\u00e4hlt – das ist im Grunde kein wesentlicher Unterschied – und alle Operationen des Computeralgorithmus werden auf Englisch in Form einer Reihe von Anweisungen zur Manipulation chinesischer Schriftzeichen ausgef\u00fchrt. In Searles Beispiel f\u00fchrt er alle diese Operationen selbst aus.‘ Er sitzt also in diesem Raum und f\u00fchrt diese Operation selbst aus, als w\u00e4re er ein Computer. Die Zeichenfolge, die die Geschichte erz\u00e4hlt, und die anschlie\u00dfenden Fragen kommen durch eine Art Briefkasten, einen verschlossenen Raum, herein. Keine andere Information kann von au\u00dfen eindringen, und schlie\u00dflich, wenn alle Manipulationen vorgenommen wurden\u201c – er tut also genau das, was der Algorithmus tut – \u201cwird die endg\u00fcltige Sequenz wieder durch den Briefkasten geleitet. Da alle Operationen nach dem Algorithmus des Programms ablaufen, wird diese letzte Sequenz ganz einfach das chinesische Zeichen f\u00fcr Ja oder Nein sein, je nach Frage, und die konkrete Antwort auf eine chinesische Frage oder Geschichte bilden. Das muss man sich mal auf der Zunge zergehen lassen, was f\u00fcr eine wunderbare Situation das ist, denn da sitzt also ein Mensch in einem Raum, ihm wird eine Geschichte in einer ihm unbekannten Sprache pr\u00e4sentiert, er kann sie also nicht verstehen, aber er hat ein Programm bekommen, das ihn Schritt f\u00fcr Schritt entscheiden l\u00e4sst, ob er dazu ja oder nein sagen soll, und das tut er schlie\u00dflich, und das geht dann durch diesen Briefkasten wieder raus. Nun l\u00e4sst Searle keinen Zweifel daran, dass er kein Wort Chinesisch versteht\u201c – er hat also keine Ahnung, worum es in den Geschichten geht – \u201cund doch gibt er, indem er alle Operationen des Algorithmus, die ihm auf Englisch vorgegeben werden, genau ausf\u00fchrt, eine ebenso gute Antwort wie ein Chinese, der die Geschichten versteht. Searles Standpunkt, und ich denke, er ist sehr \u00fcberzeugend\u201c, sagt Penrose, \u201cist, dass die blo\u00dfe Ausf\u00fchrung eines erfolgreichen Algorithmus an sich noch kein Verst\u00e4ndnis impliziert. Searle in seinem verschlossenen chinesischen Zimmer w\u00fcrde kein einziges Wort der beiden Geschichten verstehen.<\/p>\n
Es ist ein ja fast schon spielerischer Test, bei dem man nicht wirklich einen Ausweg aus dieser Schlussfolgerung sehen kann, dass man, wenn man eine Sache nicht versteht und einfach nur der Schrittfolge folgt, es trotzdem schafft, die richtige Antwort zu geben. Nat\u00fcrlich hat es dazu eine Menge Kritik gegeben, die ich Ihnen ersparen will, aber ja, bleiben wir bei dem, was hier in diesem St\u00fcck auftaucht und bei der Aussage von Penrose, dass er in seinem Leben – also ich glaube, es war wirklich eine innere Erfahrung, so kommt es r\u00fcber – die Erfahrung gemacht hat: Wenn ich wissenschaftlich arbeite und ich verstehe, was ich tue, dann ist dieses Verst\u00e4ndnis, dieser Prozess, etwas, was v\u00f6llig unvereinbar ist mit allem, was wir wissen, was man berechnen k\u00f6nnte. Das hat er erlebt und dann denke ich: Warum hat er nicht Rudolf Steiner gefunden? Denn was passiert da? Dann bleibt er nat\u00fcrlich in seiner Naturwissenschaft, ganz verst\u00e4ndlich, er geht nicht in die Geisteswissenschaft, er bleibt in der Naturwissenschaft, obwohl er sagt, Verstehen ist nicht berechenbar und er deutet sogar an einer Stelle mehr oder weniger an, dass es kein materielles Ereignis ist. Dann w\u00fcrde ich immer noch sagen: dann sucht die Geisteswissenschaft! Aber ich glaube, das ist ein schwieriger Schritt f\u00fcr jemanden, der so tief in der Naturwissenschaft steckt. Jedenfalls hat er es anscheinend nicht getan, denn er endet dann – ja nicht wirklich mit der Schlussfolgerung, aber doch mit einem Hinweis auf die Quantenphysik, dass er dort das R\u00e4tsel des Bewusstseins vermutet. Gut, das lassen wir ihm, das ist dann seine Schlussfolgerung, aber dass das, was dazwischen liegt, der Schritt des berechenbaren Geschehens der Intelligenz und des nicht berechenbaren Verstehens – ja das ist ein riesiger Schritt, da w\u00fcrde man jubeln und auch jubeln \u00fcber die Erkenntnis, dass ein Mensch, menschliche Intelligenz, dass die wirklich nicht berechenbar ist. Und dass sie tun k\u00f6nnen, was sie wollen, dass sie die k\u00fcnstliche Intelligenz immer weiter und weiter und weiter und weiter verfeinern k\u00f6nnen, dass sie Verfahren finden k\u00f6nnen, um sie selbstlernend zu machen, so dass der Mensch \u00fcberhaupt nicht mehr gebraucht wird – Grenzen, die ich letztes Mal versucht habe, ein wenig zu er\u00f6rtern – all das k\u00f6nnen sie tun, aber was sie nicht tun k\u00f6nnen, ist, die k\u00fcnstliche Intelligenz durch einen funktionierenden Algorithmus mit der menschlichen Intelligenz gleichzusetzen. Aber nat\u00fcrlich gibt es auch eine Menge Gegner. Dieser Geoffrey Hinton jetzt in unserer Zeit hat eine ganz andere Sichtweise, der wirklich davon \u00fcberzeugt ist, dass es schon lange so ist, und meine Sichtweise ist, dass man wirklich nur dann Gewissheit bekommen kann, wenn es so einen Moment im Leben gibt, wie bei Roger Penrose, dass man, w\u00e4hrend man sich mit dem Verstehen besch\u00e4ftigt, eine, ja wie soll man sagen, eine Erfahrung macht, dass das Verstehen wirklich etwas Transzendentales ist, dass man da mit dem Gehirn nicht rauskommt. Denn das ist es, was es letztlich bedeutet: Verstehen ist nicht etwas, was man mit dem Gehirn macht, und der Computer hat nicht einmal ein Gehirn, sondern er hat neuronale Netze nachgeahmt. Das kann man nachahmen, aber dieser Prozess des Verstehens, der hier in diesem chinesischen Raum so sch\u00f6n beschrieben ist, dass er v\u00f6llig fehlt und man trotzdem die richtige Antwort finden kann, dieser Prozess des Verstehens ist ein menschliches Wunder weit jenseits der Naturwissenschaft. Um das zu verstehen, braucht man die Geisteswissenschaft, und ich bin \u00fcberzeugt – das wollte ich gerade sagen -, dass, wenn gen\u00fcgend Menschen in sich selbst erkennen, was Verstehen im Menschen eigentlich ist, dann kann die k\u00fcnstliche Intelligenz zwar florieren, wird aber nie die Oberhand gewinnen. Mehr dazu beim n\u00e4chsten Mal.<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
Diese Woche habe ich wieder zwei Berichte \u00fcber k\u00fcnstliche Intelligenz gesehen, und dieses Mal war mein Thema: Hat k\u00fcnstliche Intelligenz ein Bewusstsein oder kann sie es jemals entwickeln? Das ist nat\u00fcrlich eine abschreckende Frage, und ich habe zuerst einen Bericht oder ein Interview mit Geoffrey Hinton gesehen, einem Nobelpreistr\u00e4ger 2024, einem Spezialisten f\u00fcr neuronale Netze, und f\u00fcr ihn steht es au\u00dfer Zweifel: K\u00fcnstliche Intelligenz hat bereits ein Bewusstsein. Daran hat er keinen Zweifel.<\/p>\n","protected":false},"author":4,"featured_media":5095,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[21],"tags":[],"class_list":["post-5099","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nicht-kategorisiert"],"acf":[],"_links":{"self":[{"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/posts\/5099","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/comments?post=5099"}],"version-history":[{"count":2,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/posts\/5099\/revisions"}],"predecessor-version":[{"id":5165,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/posts\/5099\/revisions\/5165"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/media\/5095"}],"wp:attachment":[{"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/media?parent=5099"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/categories?post=5099"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/miekemosmuller.com\/de\/wp-json\/wp\/v2\/tags?post=5099"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}