Doemdenken van Stephen Hawking

'Artificial intelligence could be the end of humanity'. Dit zegt Stephen Hawking in een recent interview, en op het eerste gezicht heeft hij een punt. Hij zelf immers is afhankelijk van allerlei high tech apparaten die hem, met zijn superieure intelligentie tot een cyborg reduceren.

Aangekoppelde software voorspelt wat hij waarschijnlijk gaat zeggen. Geen wonder dat hij de lijn doortrekt en tot de uitspraak komt over de bedreiging die de kunstmatige intelligentie voor de mensheid zal betekenen. Maar heeft hij het rechte eind? Drie vragen zijn te stellen.

De eerste vraag is de volgende. Stel, dat hetgeen wat Hawkins zegt waar is, is er dan nog wat te veranderen? Het antwoord is simpel nee. Een voor de hand liggende vergelijking met het omineuze jaar 1984 maakt dat in een keer duidelijk. Toen leefden we zonder internet, pinautomaten, streepjescodes etc. Die tijd is ons niet meer voor te stellen. Maar met de sterke ontwikkelingen van het 'internet of things' en de hiermee samenhangende robottechnieken zijn we bezig aan een tweede ICT-revolutie. Min of meer sluipenderwijs worden allerlei nuttige zaken ontwikkeld, zoals park assist, een reuze handige gadget, die het leven van de automobilist absoluut veraangenaamt. We worden steeds meer gepamperd met dit soort zaken, waardoor de mens nog veel meer afhankelijker van technologie wordt. Dit geldt individueel en maatschappelijk. Eigenlijk, en meer abstracter, wordt de mens steeds meer gemodelleerd wordt naar de beelden, die hij zelf door middel van de computer heeft geschapen. In die zin zal de mens geheel afhankelijk zijn van zijn eigen beeld en kan daar niet meer aan ontsnappen. Alle ontwikkelingen daarna zullen steeds meer deterministisch zijn, zodat de mens zijn waarde verliest, onder andere vanwege de teloorgang van de culturele expressies. Indien dit het beeld is dat Hawkins bedoelt, heeft hij een punt.

De tweede vraag is natuurlijk of het technologische beeld van Hawking echt onvermijdbaar is. Onder de uitspraak van de astrofysicus ligt immers de stilzwijgende aanname dat de ontwikkelingen, al of niet sprongsgewijs, gemiddeld voortgaan. Van belang zijn steeds krachtiger computers, competentere software, zeer grote geheugens en vooral de voortdurende bereidheid om imposante investeringen te doen. Dit is het beeld van achter ons liggende jaren, dat zonder duidelijke argumentatie steeds verder naar de toekomst wordt doorgetrokken. Enige op dit vooruitgangsdenken is verstandig. Het is volstrekt denkbaar dat diverse soorten crises zullen optreden en niet alleen van economische aard. Disrupties van sociale aard als gevolg van een verdere tweedeling van de maatschappij zullen roet in het eten kunnen gooien. Niet iedereen zal mee kunnen doen aan de tech–maatschappij. Significant zijn de huidige signalen over ongeletterden: zij voelen zich steeds meer buitengesloten. Maar niet alleen zij, voeg daarbij alle economisch zwakkeren en het beeld is compleet. De leiders van een natie zullen ter verantwoording worden geroepen. Zij zullen maatregelen treffen maar die maken het doorgaans alleen maar ingewikkelder. De technologische vooruitgang zal hierdoor worden vertraagd, maar niet worden gestopt of ongedaan worden gemaakt.

Niet alleen disrupties van sociale en economische aard zijn te vrezen. Zij kunnen ook een gewelddadig karakter hebben, verwijzingen naar terroristische activiteiten, die een groot deel van het land plat kunnen leggen door jamming, cyber-aanvallen of het opblazen van strategische datacentra liggen voor de hand. Het risico van deze exogene verstoringen lijkt nog niet eens zo groot. Maar ze zijn niet onwaarschijnlijk. Als ze voorkomen zijn de poppen goed aan het dansen: de samenhangen in de maatschappij zijn zodanig dat een goed georganiseerde aanval van terroristische aard op de ICT–infrastructuur desastreuze gevolgen zal hebben voor de maatschappij op tal van niveaus.

De endogene risico’s, de interne verstoringen, lijken groter. De systemen zélf kunnen imploderen door inherente verstoringen als gevolg van de complexe architectuur, door te snelle en daardoor onvoldoende uitgeteste ontwikkelingen en door steeds meer storende interne actoren. De communicatieramp bij de politie is een goed voorbeeld, de kostbare debacles bij de overheid op het gebied van ICT zijn inmiddels aan het licht gekomen. Bij de overheid zijn ze bekend, bij andere sectoren in de samenleving is de situatie niet veel beter. Algemeen geldt nu eenmaal dat het aantal verstoringen steeds (exponentieel) vaker voorkomt naarmate de systemen complexer worden. Het enige dat helpt is geen ingewikkelde zaken aan te pakken. Maar wie wil dat?

Samengevat luidt het antwoord op de tweede vraag dat het nog niet eens zo zeker is dat het toekomstbeeld van Hawking vermijdbaar is. Er zijn vele beren op de weg.

De derde vraag betreft natuurlijk de individuele vrijheid. Zal deze inderdaad worden ingeperkt door allerlei nieuwe ICT-toepassingen, waaronder artificial intelligence? Er is zoveel bekend van een ieder, bij zowel de overheid als het bedrijfsleven, dat het sturen van de mens nu reeds sluipenderwijs voorkomt. Als voorbeeld natuurlijk de zorgverzekeraars: zij kunnen de risicovolle verzekerden identificeren, tot op het detail. Risicoselectie vindt plaats bij acquisitie. Richten we ons op de overheid dan moet worden geconstateerd, dat de huidige structuren van de overheidsinspanningen op het gebied van ICT, ondanks de vele feilen, oppermachtig zijn. De overheid weet veel, heel veel, van de onderdanen af, meer dan de meeste mensen lief is. Daar bestaat genoeg evidentie voor. Op dit ogenblik staan bij die structuren redelijk nette mensen aan het roer, van hoog tot laag. Ook kan worden gesteld dat de democratische controle, ook met al zijn feilen, redelijk functioneert. Maar de vraag is wat er zal gebeuren als de democratische structuren worden verlaten en door een autocratisch structuur worden vervangen. Dit is niet ondenkbaar. De machtsstructuur die dan ontstaat zal dan direct afhangen van ICT–structuren die nu reeds zijn opgebouwd en niet omkeerbaar of vernietigbaar zijn.

De derde vraag of de individuele vrijheid zal worden aangetast door de tweede ICT–revolutie is al met al niet eenvoudig te beantwoorden. Politieke waakzaamheid zal nodig zijn. Waakzaamheid, om toekomstbeelden als geschetst door Hawkins, te voorkomen.

Gegeven het bovenstaande maakt de schrijver dezes zich geen echte zorgen. Maar helemaal gerust is hij ook weer niet.

Aldus Theo de Vries.

Theo de Vries is hoogleraar aan de Universiteit Twente. Hij houdt zich onder andere bezig met onderzoek naar fraudes met behulp van moderne wiskundige technieken.

Voor mijn eerdere DDS–bijdragen zie hier.