Tekst: Nienke Beintema | Fotografie: Dieuwertje Bravenboer
Laveren tussen de ethische valkuilen van de datagedreven wereld
4TU.techtalks | Er gaat geen dag voorbij of nieuwe technologieën zien het licht. Van robotica tot precisiemedicijnen en van IT tot klimaattechnologie: veel van de innovaties op deze terreinen brengen grote veranderingen teweeg in hoe we leven en met elkaar omgaan. Daar zitten veel voordelen aan, maar ook risico’s. Verzekeraar Achmea wil zich daar verantwoord op voorbereiden en krijgt daarbij hulp vanuit 4TU.
Niemand kan ertegen zijn: nieuwe technologieën moeten duurzaam zijn, democratisch en rechtvaardig. Ze moeten de gebruikers autonomie bieden, en veiligheid en privacy. Maar wat houden die waarden eigenlijk in? Zijn ze universeel, of voor verschillende interpretaties vatbaar? Wie bepaalt eigenlijk wat er wel en niet mag, wie besluit er over risico's bij technologische ontwerpen? En hoe worden onze normen en waarden zélf beïnvloed door technologische ontwikkelingen?
Kun je een voorbeeld geven van de complexiteit?
Karin: “Neem nu je autoverzekering. Je betaalt minder premie als je minder vaak schade hebt. Met nieuwe technologie gaat dat verder. Als je met behulp van bijvoorbeeld een app of een dongel in de auto aantoont dat je netjes autorijdt, betaal je minder premie. Daarvoor moet je data delen met je verzekeraar. Dat klinkt logisch, maar je moet zorgen dat klanten niet gedwongen worden altijd maar al hun data te delen, voor allerlei verzekeringen. Waar leg je de grens? Zodra je gaat differentiëren tussen klanten, dan botst dat met het principe dat je samen de risico’s deelt.”
Philip: “De verzekeringsbranche is ethisch heel interessant. Het gaat erom: hoe ga je collectief om met individuele risico’s? Het gaat vaak om grote financiële belangen van de verzekerde partij. Op zichzelf zijn verzekeringen een heel mooie toevoeging aan de maatschappij, maar het is belangrijk dat ze wel rechtvaardig zijn. Ze moeten wel de autonomie, integriteit en privacy van de klanten waarborgen. Als je als bedrijf volledige kennis zou hebben van je klanten, dus precies zou weten wie wanneer ziek gaat worden of hoeveel ongelukken gaat krijgen, dan zou je allerlei groepen willen uitsluiten van een verzekering. Dat kan dus niet. Hoe kun je als bedrijf je maatschappelijke verantwoordelijkheid nemen, maar tegelijkertijd geld verdienen? Dat is een interessant spanningsveld.”
Is dat nu goed geregeld?
Karin: “We hebben steeds meer data, dus gaan steeds meer differentiëren. Achmea is meer dan tweehonderd jaar geleden ontstaan, toen een kleine groep boeren in het Friese Achlum het risico op een hooibrand deelde. De boeren kenden elkaar, ze spraken elkaar aan op hun verantwoordelijkheden. Ze deden hun uiterste best om brand te voorkomen, maar als er dan toch bij iemand brand uitbrak, dan deelden ze de kosten van de schade. Nu speelt die solidariteit een stuk verder van je bed. Mensen voelen zich soms minder verantwoordelijk om schade te voorkomen. Maar ook aan de andere kant gaat het soms mis. Door verharding van de concurrentie onder autoverzekeraars, onder meer door prijsvergelijkingssites, kunnen de premies omlaag kelderen. Een mogelijk gevolg is dat die bedrijven onvoldoende geld binnenkrijgen om te kunnen uitkeren bij schade. Er ontstaat dan bijvoorbeeld een perverse prikkel om extreem op de kleine lettertjes te gaan letten. Dus je wilt ergens in het midden gaan zitten. Je wilt een product aanbieden dat fair is voor beide partijen.”
Philip: “Wat Karin hier laat zien is dat ethische dilemma’s vaak ook economische, maatschappelijke of organisatorische dilemma’s zijn.”
Hoe ga je daar dan mee om?
Philip: “Op een heel elementaire manier: door het bespreekbaar te maken. Door je normen en waarden vast te leggen. Dat kun je heel systematisch doen, en dan heel systematisch naar een oplossing toe werken. Dus het herkennen, analyseren en bespreken van een dilemma, om vervolgens samen te werken aan een gerichte oplossing die ook de economische en maatschappelijke en al die andere aspecten meeneemt.”
Zijn daar protocollen voor?
Philip: “Ja, maar die verschillen per branche en per onderwerp. In veel branches heb je ethische richtlijnen of codes, die je een denkrichting geven. Dat is nog een vrij grof stuk gereedschap. Daarnaast zijn er methoden voor systematische, ethische analyse, met specialistische instrumenten per context.”
Karin: “Onze branche is op die manier al behoorlijk gereguleerd. Veel ervan is ook in de wet vastgelegd. Voordat een nieuw product bijvoorbeeld goedkeuring kan krijgen, moeten we aantonen dat we een evenwichtige belangenafweging hebben gemaakt. Daar zijn handvatten voor : welke indicatoren je kunt gebruiken om de belangen van alle betrokken partijen af te wegen. En het einde is nog niet in zicht: hoe meer data we hebben, hoe belangrijker dit wordt.”
Hoe helpt de samenwerking met de universiteit daarbij?
Philip: “Wij hebben in de loop der jaren al veel kennis vergaard over zaken als big data en artificial intelligence en hoe je daarmee kunt omgaan. Die kennis proberen wij te verwerken in onze modules voor de verzekeringsbranche en de Belastingdienst. Mensen denken daarbij vaak allereerst aan privacy, maar dat is lang niet het enige ethische aspect. Rechtvaardigheid is ook een hele belangrijke. Hoe voorkom je dat je bepaalde groepen onrechtvaardig behandelt? Dat speelt nu bijvoorbeeld heel duidelijk bij de Toeslagenaffaire.”
Karin: “Wij hebben bijvoorbeeld ook te maken met fraude. Je gaat dan natuurlijk zoeken naar patronen die daarop kunnen duiden. Maar als je ergens gaat zoeken, zeker met artificial intelligence, dan vind je altijd wel wat. Daarom moet er altijd een menselijke controlestap in zitten. En moet je de menselijke maat in het oog houden. Wij hebben bijvoorbeeld een Pechvogeltraject, voor mensen die bovengemiddeld veel schade claimen. Daarbij kijken we per persoon: hoe kan het dat deze persoon zo veel schade heeft, en kunnen wij helpen die te voorkomen? Dat is een heel andere benadering dan automatisch uitgaan van fraude.”
Philip: “Ik zit even te lachen omdat ik zelf een tijdje zo’n veelclaimer was. Ik had een paar keer achter elkaar pech met huizen en inboedels, en toen kreeg ik ook nog te maken met de vuurwerkramp. Maar goed. Excessen zoals de Toeslagenaffaire…. Alles begint met bewustwording. Mensen moeten systematisch blijven stilstaan bij de vraag: wat doen we, en wat kan daarbij misgaan?”
Philip, jullie brengen dus kennis bij die bedrijven. Halen jullie bij hen ook iets op?
Philip: “Achmea is een heel prettige samenwerkingspartner. Ze hebben daar al veel nagedacht, veel casussen vergaard. Die zijn heel nuttig voor hun eigen ontwikkeling, maar ook voor ons onderzoek. We krijgen daardoor uniek inzicht in de vraagstukken in die branche. Wij zijn constant op zoek naar die link met de praktijk. We willen niet vanuit onze ivoren toren allerlei mooie theorieën bedenken, maar iets ontwikkelen waar de praktijk ook echt iets aan heeft.”
Karin: “Voor ons is het voordeel dat we naar buiten blijven kijken, ook over de grenzen van onze branche heen.”
Philip: “Het voordeel van deze samenwerking is dat wij daarmee ook kunnen onderzoeken hoe onze basisbegrippen worden uitgedaagd door nieuwe technologieën. Bijvoorbeeld ‘de mens’, ‘privacy’, ‘rechtvaardigheid’, ‘natuurlijkheid’. Wat is dat eigenlijk? Nieuwe technologie kan ons begrip daarvan veranderen. Privacy betekent nu echt iets heel anders dan honderd jaar geleden. Op diezelfde manier kun je je afvragen of het begrip ‘risico’ niet ook verandert.”
Karin: “Wij hadden daar laatst nog een interessante discussie over. Zouden we ook niet een cyberverzekering voor consumenten moeten aanbieden? Dat je als klant wordt geholpen als al jouw data opeens op straat liggen?”
Philip: “Een heel interessante vraag. Vijftig jaar geleden waren we nog een industriële samenleving, nu een informatiesamenleving. Daar horen heel andere risico’s bij. De risico’s zijn steeds minder materieel, steeds meer informationeel. Daar moet je dus ook ethisch gezien anders mee omgaan.”
Karin: “Tegelijkertijd: het lopen van risico is van alle tijden. De mate van risico is ook een kwestie van perceptie. Er zijn nu minder inbraken en auto-ongelukken dan een paar decennia geleden, maar er zijn nieuwe risico’s voor in de plaats gekomen.”
De trend is wel dat jullie, dankzij big data, risico’s steeds fijnmaziger kunnen voorspellen.
Karin: “Dat klopt. De vraag is dus hoe ver je daarin wilt gaan. Profileren op basis van gedrag is toegestaan. Maar als je niet uitkijkt, krijg je dan toch groepen die onverzekerbaar zijn, en die eruit rollen als je data gaat analyseren. Daar komt weer die menselijke maat om de hoek kijken.”
Philip: “Context, motivatie, complexe oorzaak-gevolgrelaties: daar kan big data allemaal niet mee omgaan. Dat zullen ménsen moeten blijven doen. Tegelijkertijd: mensen kunnen net zo erg zijn als machines. Dat zagen we bij de Toeslagenaffaire.”
Karin: “Het blijft een kwestie van de menselijke maat en solidariteit. En nog één ding: we hebben het nu wel steeds over de schaduwzijde van big data, en de ethische dilemma’s. Maar laten we vooral niet vergeten dat er ook pósitieve kanten aanzitten. Dankzij big data kunnen we klanten juist ook maatwerk bieden en helpen schade te voorkomen.”