Blik op de toekomst! Computer voorspelt agressie en kans op zelfmoordpoging, maar wat is het risico?

Er wordt bij diverse ziekenhuizen geëxperimenteerd met een algoritme (of eigenlijk een meervoud ervan), die risico-analyses maakt. Kans op agressie of zelfmoordpoging, zwangerschapsdiabetes of algemene stabiliteit van een patiënt. Dit doet het doorgaans beter dan ervaren artsen en behandelaars.

Op basis van text mining: dossiers met lappen tekst scannen op sleutelwoorden binnen een bepaalde context, maakt zo'n algoritme een kansberekening. Dit ligt natuurlijk veel complexer want bepaalde woorden hebben een minimaal effect op de uiteindelijke berekening en sommige context juist weer veel meer. Het artikel gaat echter voornamelijk in op positieve ontwikkelingen en mogelijke bezwaren van patiënten, want wie laat zich nou door een computer vertellen dat hij straks in de behandelkamer agressief kan worden?

Het probleem zit hem in het feit dat deze kunstmatige intelligentie, straks veel meer kan meten en analyseren, met een grotere nauwkeurigheid. Verzekeraars zijn hier natuurlijk zéér in geïnteresseerd! Het is nogal wat dat je straks met een hoog zekerheidspercentage in kunt schatten dat iemand een dure klant wordt of juist erg goedkoop!

In de Verenigde Staten hebben ze al met kunstmatige intelligentie de criminaliteit in bepaalde wijken met zo'n 80 procent terug weten te dringen. De strekking was dat een deel van een wijk op bepaalde tijdstippen een verhoogd risico op criminaliteit had. Een politieauto volgde het algoritme en patrouilleerde in dat deel van de wijk op het juist aangegeven moment. Er werd geen crimineel tegengehouden, maar door de aanwezigheid van de agenten was er geen sprake van criminaliteit! Klinkt prima toch?

Maar wat als een verzekeraar of werkgever op basis van jouw geslacht, leeftijd, woonsituatie, inkomen etc. gaat bepalen dat jij een veel hoger risico met je meedraagt? Gaat dat opgelost worden met een wetje dat zegt: 'Dat mag je niet doen hoor'? Gaat een overheidsinitiatief dergelijke risicogroepen proberen terug te dringen? Succes daarmee! En waarom moet straks een collega nog accepteren dat jij rookt en het bedrijf daarmee in de problemen kan brengen als je langdurig ziek wordt? Misschien moet je maar niet meer op ski-vakantie als je ieder jaar toch je been breekt en je collega's en werkgever voor de lasten laat opdraaien?

Dit gaat geheid voor problemen zorgen en het antwoord ligt écht niet bij een goed geformuleerde wet.