Wiskundige modellen gebruiken om menselijke denk- en besluitvormingsprocessen te onderzoeken heeft een lange traditie. Maar het wiskundig perspectief krijgt zelden aandacht in de Nieuwsbrief. Toch zijn de uitgangspunten, analysemethoden en resultaten superinteressant. Dus: (never mind the math), here’s the delusion machine!
Waarschuwing: het hele artikel lezen wordt afgeraden voor wie een fobie heeft voor artificiële intelligentie, machine learning en statistiek. Beperk je dan beslist tot deze samenvatting en laat de Bayesiaanse statistiek en neurowetenschap maar zitten met z’n formules, figuren en plots, hidden Markov-modellen, priors and posteriors, policies, agents, belief updates, probabilistic mapping, free energy landscapes en nog veel meer. Maar kenners en liefhebbers zijn van harte geadviseerd het artikel te lezen. En voor wie denkt, ik weet er niks van, maar wil onderstaande samenvatting nèt wat beter begrijpen, kijk in oplopende moeilijkheidsgraad bijvoorbeeld naar ‘basins of attraction’ (met dank aan New Zealands PM Jacinda Ardern) , over Bayes Theorem en belief updates en over Bayes Theorem, priors, posteriors, en meer.
Zoals robots worden gebouwd die leren lopen, zo worden er machines gebouwd die (naar ons mensen gemodelleerde) denkprocessen hebben; inclusief de mogelijkheid dat de machine een paranoïde waan kan krijgen.
Mensen trekken conclusies terwijl ze lang niet alle informatie hebben: we trekken op basis van onze waarnemingen, onze kennis en (de effecten van) ons eigen handelen conclusies over ‘de wereld’, dus ook over verborgen zaken die we helemaal niet rechtstreeks hebben kunnen waarnemen. Zo bouwen de onderzoekers ook hun denkmachines en voeren er een reeks experimenten mee uit. De machine krijgt verborgen of onzekere informatie toegediend en de uiteindelijke beslisser in de machine (Eng.: de ‘agent’) moet op basis daarvan gevolgtrekkingen maken over de werkelijkheid. Concreet en versimpeld: er is één kaart, blauw of groen. De machine krijgt advies welke van de twee kaarten (blauw of groen) de juiste is om te kiezen; de machine weet niet of en in welke mate dat advies betrouwbaar is; de agent maakt elke keer een keuze voor de blauwe of groene kaart; de agent krijgt feedback of die keuze de juiste was; de onderzoekers kunnen op het parameter-mengpaneel ook kiezen om de agent affect mee te geven, namelijk een emotie (boos/rustig) en arousal (hoog/laag). De opgave voor de machine is vervolgens om een inschatting te maken over elk verborgen element: de betrouwbaarheid van het verkregen advies, de eigen affectieve toestand, de juiste kaart en de juistheid van de eigen keuze om voor de ene of de andere kaart te kiezen. Dit experiment wordt vele honderden keren in variaties herhaald. De machine leert op die manier steeds bij, het ‘update’ overtuigingen over de werkelijkheid. Het vormt zich op grond van de observeerbare uitkomsten een idee over wat er niet direct observeerbaar aan de hand is (likelihood van modellen/hypothesen berekenen) en op grond van dat model schat het op zijn beurt weer de kans op toekomstige uitkomsten (probability van uitkomsten berekenen, gegeven een hypothese).
De resultaten van deze experimentenreeks laten zien dat zoiets schijnbaar onwrikbaars en statisch als een paranoïde waan toch wel degelijk het gevolg kan zijn van subtiele veranderingen van de verschillende parameters in het model. De grootste invloed op valse gevolgtrekkingen en waanvorming gaat uit van ’verminderde waarschijnlijkheidsprecisie’ (‘reduced likelihood precision’). Dat betekent dat de agent onder gelijke uitkomsten toch wisselende conclusies (‘inferences’, die al dan niet kloppend zijn) trekt over onderliggende verborgen model en komende toestanden.
Valide & betrouwbaar niet valide & betrouwbaar valide & onbetrouwbaar niet valide& onbetrouwbaar
Daarnaast (en mede beïnvloed door de verminderde waarschijnlijkheidsprecisie) blijkt dat afnemend vertrouwen in sensorische input en toenemend vertrouwen in eigen acties (vooral gewoonten) bijdragen aan waanideeën bij de agent. Als een negatieve stemming in het model wordt gebracht, dan intensiveert de paranoia. Maar misschien de allerbelangrijkste bevinding is wel dat geen enkele verandering in één enkele parameter zowel noodzakelijk als voldoende is voor wanen; in plaats daarvan ontstaan waanideeën als gevolg van voorwaardelijke afhankelijkheden die ‘basins of attraction’ creëren. Dat betekent dat veel factoren samen een patroon maken en samen het systeem intact en stabiel houden. Tot slot hebben de onderzoekers een kunstmatig antipsychoticum in het model ingevoerd: het vertrouwen in eigen handelen werd omlaag gedraaid. Toen bleek het model te kunnen ontsnappen aan de attractors die hem in het de artificiële badkuip gevangenhielden.
Een leuk model dus, waaruit komt dat wanen mogelijk volgen op teveel op eigen gewoonten en op negatieve stemming varen en te weinig op informatie van buitenaf. Dit model is overigens niet de enige in zijn soort. Eerder is ook met computermodellen een interessante analogie gebouwd waarin verhoogde ‘salience’ werd toegevoegd aan waarnemingsdetails, met psychose-achtige ontsporingen als gevolg.
