Ook deze week heb ik weer twee reportages gekeken over de kunstmatige intelligentie en deze keer was mijn thema: heeft de kunstmatige intelligentie bewustzijn of kan die dat ooit ontwikkelen? Dat is natuurlijk een ijzingwekkende vraag en ik heb eerst een reportage of een interview gezien met Geoffrey Hinton, die is Nobelprijswinnaar in 2024, een specialist op het gebied van neutrale netwerken en voor hem is het zonder meer duidelijk: kunstmatige intelligentie heeft al bewustzijn. Hij heeft daar geen enkele twijfel over. De interviewer vraagt hem dan op een gegeven moment waar hij die zekerheid vandaan haalt, waar die op berust en dan zegt hij eigenlijk heel kort: Nou ja we hebben proeven gedaan met neurale netwerken, wanneer je een deel daarvan verwijdert en je zet daar een nanopartikel met die eigenschappen voor in de plaats, dan blijft het bewustzijn ongeschonden. Ik weet niet of dat een wetenschappelijke verklaring is, want ik heb al meteen vragen. Ik denk wel – ja in de eerste plaats neem ik niet aan dat dat bij mensen geprobeerd is, maar in de tweede plaats, wanneer dat bij mensen geprobeerd zou worden of uiteindelijk wordt toegepast, dan is het toch zo dat je weet dat wanneer een stuk hersenweefsel dood is of zo ziek is dat het niet meer functioneert, dat het dan indien mogelijk door ander weefsel wordt overgenomen. Als het heel groot is, de beschadiging, gebeurt het natuurlijk niet en dan zou je je kunnen voorstellen dat dat geweldig zou zijn wanneer je dan een nano partikel kunt inbrengen dat die functie vervangt. Maar om dan te zeggen dat dat een bewijs is dat dat nanopartikeltje ook bewustzijn heeft, dat vind ik geen wetenschappelijke conclusie. Want er zijn nog zoveel andere mogelijkheden waardoor het bewustzijn in stand gehouden wordt. Dus ik werd daar een beetje ongelukkig van. Zo’n hooggeleerde heer die zich op een zodanig niveau met het wetenschappelijke onderzoek bezighoud dat hij een Nobelprijs gekregen heeft  -ja misschien dat het aan het interview ligt, maar ik ben daar totaal niet door overtuigd. Het zou moeilijk zijn om mij te overtuigen, maar goed, het is een ander iets. Ik wil wel proberen zo onbevangen mogelijk de redenering te vervolgen en hier kon ik dus niet verder eigenlijk. Nou je weet wel, als je eenmaal zulke interviews bekeken hebt, dan krijg je ook andere te zien, en toen kwam er een interview met een heel oude Roger Penrose, die zoals ik al eerder gezegd heb dit boek geschreven heeft! Eerste druk in 1990, dus je zou kunnen zeggen, nou ja dat is al lang achterhaald. Maar als we enig zicht willen krijgen op wat kunstmatige intelligentie nu eigenlijk is, dan moet je toch terug, ook in de tijd, in de tijd dat het nog enigszins te vatten was wat daar aan het gebeuren is. En dat vond ik toen al sympathiek, omdat hij buitengewoon wetenschappelijk te werk gaat, maar aan de andere kant toch heel concrete vragen stelt. En in dit interview van deze oude  Penrose – en ik weet niet uit welk jaar dat interview is, maar in ieder geval is hij oud en hij vertelt dan aan de interviewer dat hij in zijn leven een als wiskundige, als natuurwetenschapper een moment heeft gehad, of misschien een reeks momenten en een omslag in zijn besef heeft gehad, dat understanding niet computable is. Ik moest eerst een paar keer luisteren: wat zegt hij nou? Want hij herhaalt het verschillende keren, computable, het is niet berekenbaar. En op een gegeven moment zegt hij: Het zal nooit lukken om het menselijke begrijpen in een algoritme te brengen, want het is niet computeable en dan word je natuurlijk heel erg benieuwd naar of hij dan nog een visie heeft over wat het menselijke begrijpen dan wel is. Maar ik wil eerst een stukje voorlezen uit dat boek, De nieuwe geest van de keizer, uit 1990. Ik heb al eerder hier iets daaruit voorgelezen, maar dat ging over een man die in een hamburgerrestaurant kwam. Bepaalde gebeurtenissen zijn er dan en de computer moet dan uitmaken wat nou uiteindelijk de conclusie is van die verhaaltjes. Er is een zekere John Searle geweest die vond dat het feit dat die computer dan de juiste antwoorden geeft, helemaal niet betekent dat hij ook weet wat hij doet en hij heeft dat willen aantonen. Hij heeft dat door een proefopstelling willen aantonen, dat wil ik voorlezen:

‘We dienen ons nu af te vragen of zo’n resultaat eigenlijk wel iets zegt over de vraag of de computer de verhaaltjes begrijpt of niet. Searle beweert van niet en omdat te beargumenteren heeft hij zijn Chinese kamer bedacht. Daarbij worden ten eerste de verhaaltjes in het Chinees verteld, niet in het Engels -dat is na tuurlijk geen wezenlijk verschil – en worden alle bewerkingen van het computer algoritme in het Engels uitgevoerd in de vorm van een reeks instructies om Chinese karakters te manipuleren. In het voorbeeld van Searle doet hij zelf al die bewerkingen.’ Dus hij zit in die kamer en hij doet zelf die bewerking alsof hij een computer is. ‘De reeks karakters die het verhaal vertellen en de daarop volgende vragen komen via een soort brievenbus, een afgesloten kamer binnen. Er kan geen andere informatie van buiten doordringen en tenslotte als alle manipulaties zijn uitgevoerd’ – dus hij doet precies wat het algoritme doet – ‘wordt de eindreeks weer door de brievenbus naar buiten gewerkt. Aangezien alle bewerkingen verlopen volgens het algoritme van het programma zal die eindreeks dood gewoon het Chinese karakter voor ja of nee zijn, al gelang de vraag en het concrete antwoord vormen op een Chinese vraag of een Chinees verhaal.’ Dit moet je even tot je laten doordringen, wat een wonderlijke situatie dat is, want er zit dus een mens in een kamer, die krijgt in hem onbekende taal een verhaal aangeboden, kan dat dus niet begrijpen, maar hij heeft een programma gekregen waarmee hij stap voor stap kan uitmaken of daar ja of nee op gezegd moet worden en dat doet hij dan uiteindelijk en dat gaat dan weer via die brievenbus terug naar buiten. ‘Nu laat Searle er geen misverstand over bestaan dat hij geen woord Chinees begrijpt’ – dus hij heeft geen flauw idee waar de verhalen over gaan – ‘maar toch door alle bewerkingen van het algoritme, waarvan fde uncties hem in het Engels worden gegeven, door die nauwkeurig uit te voeren geeft hij een even goed antwoord als een Chinees die de verhaaltjes wel begrijpt. Het punt van Searle, en ik vind dat hij heel sterk staat,’ zegt Penrose dan, ‘is dat louter het uitvoeren van een succesvol algoritme op zich niet betekent dat er sprake is van enig begrip. Searle in zijn afgesloten Chinese kamer zou van geen van beide verhalen ook maar een woord begrijpen.’

Het is een ja bijna ludieke proef, waarbij je toch eigenlijk geen ontkomen aan ziet aan deze conclusie, dat je, als je er geen snars van begrijpt en je volgt gewoon de reeks van stappen op, dat je het dan toch voor elkaar brengt om dat juiste antwoord te geven. Daar is natuurlijk heel veel kritiek op gekomen, die zal ik u besparen, maar ja laten we het houden bij wat hier in dit stukje naar voren komt en bij de uitspraak van Penrose dat in zijn leven dat is dus toch denk ik echt een innerlijke ervaring geweest, zo komt dat wel over – dat hij beleefd heeft: wanneer ik wetenschappelijk bezig ben en ik begrijp wat ik doe, dan is die understanding, dat proces, is iets wat volledig niet in overeenstemming is met alles wat we weten wat je zou kunnen berekenen. Dat heeft hij beleefd en dan denk ik: Waarom heeft hij Rudolf Steiner niet gevonden? Want wat gebeurt er? Vervolgens blijft hij natuurlijk in zijn natuurwetenschap, heel begrijpelijk, hij gaat niet naar de geesteswetenschap, hij blijft in de natuurwetenschap, hoewel hij zegt understanding is not computable en hij zelfs op een gegeven moment min of meer aangeeft dat het geen materieel gebeuren is. Dan zou ik toch zeggen: Zoek dan de geesteswetenschap! Maar dat is geloof ik voor iemand die zo diep in de natuurwetenschap zit een moeilijke stap. In ieder geval heeft hij dat kennelijk niet gedaan, want hij komt dan uiteindelijk met – ja niet echt met de conclusie, maar toch wel met een richtingwijzer naar de kwantumfysica, dat hij vermoedt dat daar het raadsel van het bewustzijn zou kunnen worden gevonden. Nou dat laten we bij hem, dat is dan zijn conclusie, maar dat wat ertussen ligt, de stap van het computable gebeuren van de  intelligentie en het niet computable zijn van het begrijpen – ja dat is een enorme stap, daar zou je jubelend de natuur om inlopen en ook jubelend beseffen dat een mens, de menselijke intelligentie, dat die werkelijk niet te berekenen is. En dat ze kunnen doen wat ze willen, ze kunnen de kunstmatige intelligentie verder en verder en verder en verder en verder verfijnen, ze kunnen processen vinden om dat zelflerend te maken, zodat de mens daar helemaal niet meer bij nodig is – grenzen daarvan heb ik de vorige keer enigszins geprobeerd te bespreken – dat kunnen ze allemaal doen, maar wat ze niet kunnen is kunstmatige intelligentie door een algoritme in het functioneren hetzelfde te maken als de menselijke intelligentie. Maar er zijn natuurlijk ook heel veel tegenstanders. Deze Geoffrey Hinton heeft nu in onze tijd een totaal andere visie, die is er werkelijk van overtuigd dat het al lang zo is en mijn visie is dat je eigenlijk alleen maar zekerheid kunt krijgen als er zo’n moment in je leven ontstaat als bij Roger Penrose, dat je, terwijl je bezig bent met begrijpen een, ja hoe moet je het zeggen, een ervaring krijgt dat begrijpen echt iets bovenzinnelijk is, dat je daarmee met je hersenen niet uitkomt. Want dat is wat het uiteindelijk betekent: begrijpen doe je niet met je hersenen en de computer die heeft niet eens hersenen, maar die heeft wel neurale netwerken nagebootst. Dat kan nagebootst worden, maar dat proces van het begrijpen dat zo mooi beschreven wordt hier in die Chinese kamer, dat het totaal afwezig is terwijl je toch het goede antwoord kunt vinden, dat proces van het begrijpen is een menselijk wonder dat ver ver boven de natuurwetenschap uitgaat. Om dat te kunnen begrijpen heb je de geesteswetenschap nodig en ik ben er van overtuigd – dat wilde ik gaan zeggen, mijn visie is dat wanneer voldoende mensen in zichzelf tot de erkenning komen wat begrijpen in de mens eigenlijk is, dan kan de kunstmatige intelligentie een enorme vlucht nemen, maar zal nooit overwinnen. Daarover graag een volgende keer verder.