Wetenschap
Computer says no
We krijgen steeds meer te maken met regels die ingebakken zitten in onze technologie. Dat is niet democratisch, waarschuwt filosoof Bibi van den Berg. ‘We worden als makke schapen door allerlei processen geduwd.´
Bart Braun
woensdag 20 april 2016

‘Als techniekfilosoof houd ik me bezig met vragen over de grenzen in de samenleving, en hoe we die maken. We maken afspraken over wat gepast of wenselijk is, en leggen grenzen vast in wetgeving. Er zijn echter ook heel veel andere vormen van regulering, die steeds vaker gebruikt worden, en waar we ons minder bewust van zijn. Regulering betekent, in de breedste zin van het woord, het beïnvloeden van gedrag. Dat kun je doen met wet- en regelgeving, maar ook met sociale normen, of door het inzetten van marktmechanismen. Bovendien kun je het gedrag van mensen beïnvloeden en sturen met behulp van technologie. Dat noemen we techno-regulering. Bij die laatste is de sturing ingebakken in de technologie, op een zodanige manier dat de gebruiker zich wel aan de regel moèt houden, omdat er geen andere mogelijkheid meer is. Dat komt heel vaak voort uit de allerbeste bedoelingen; met de meeste verkeersdrempels is niets mis. De wetten die de samenleving maakt, zijn echter onderhevig aan allerlei checks and balances, en techno-regulering is dat niet.

‘Zulke regulering is effectief, foolproof en goedkoop, dus wordt het op steeds grotere schaal toegepast. De dvd-industrie heeft de wereld opgedeeld in verschillende regio’s, zodat je je dvd-speler moet jailbreaken als je wil kijken naar een film die je op vakantie hebt gekocht. Wie is die industrie precies? Waarom leggen ze zo’n grens op? Dit is een vorm van regulering die 99 procent van de mensen niet als regulering herkennen, en dáár zit bij mij het punt van zorg.

´De poortjes op het station tegen zwartrijders. Vliegtuigverf op muren tegen wildplassers. Locked-in worden door Apple: naarmate je meer en langer Apple-producten gebruikt, wordt de overstap naar Android steeds moeilijker. Dat lijkt misschien nog triviaal, maar een website die je niet verder laat zonder dat je de cookies accepteert, is dat niet. Je doet alsof er een keuze is, maar er valt helemaal niks te kiezen, en je klikt maar op akkoord.

‘Ik ben niet per se tegen cookies, of vóór wildplassen. In elk van die individuele processen zie ik de voordelen van ingebakken regulering. Mijn probleem is dat het ongemerkt gaat; de meeste mensen hebben het niet eens in de gaten. Er is dus ook maar weinig reflectie op, laat staan dat mensen zich kritisch kunnen verhouden tot de regels waaraan ze onderworpen worden. Verder is het zorgelijk, omdat het op zo’n grote schaal wordt toegepast. Als ik van mijn huis naar mijn werk ga, kom ik zo tien voorbeelden tegen. Je elimineert niet alleen het verzet, je scherpt mensen ook niet meer in hun denken over welke afspraken er zijn, en waarom je er wel of niet voor kiest om je eraan te houden.

‘We worden als makke schapen door allerlei processen geduwd, niet meer moreel uitgedaagd, doordat onze omgeving en onze apparaten alles voorsorteren. Echt, Ik snap dat het veiliger is als een auto niet start zolang de veiligheidsgordel los zit. Maar het gaat mij om het hele traject. Als de supermarkt het snoep bij de kassa vervangt door superfoods, noemen we dat nudging: een duwtje in de richting van gezond gedrag. De snoepjes liggen nog gewoon in de winkel. Nudging is een compromis, dat ervan uitgaat dat mensen doen wat het gemakkelijkst is. Techno-regulering haalt het snoep uit de winkel.

‘Bij elke flitspaal in Nederland kan ik achteraf naar de rechter stappen. “Edelachtbare”, zeg ik dan, “Ik had een goed excuus om te hard te rijden: mijn partner stond op het punt te gaan bevallen.” De rechter kan dan mijn boete kwijtschelden. Zo’n poortje op het treinstation zit gewoon dicht, en geeft niets om die bevalling. Die discretie om af te wijken of te onderhandelen verdwijnt bij techno-regulering, hoe goed je redenen ook mogen zijn.

‘Vorige week vertelde ik over dit soort zorgen, tijdens de Nacht van de Filosofie in Den Haag. Je zag dat mensen een beetje schrokken. “Ik rijd nooit meer hetzelfde over een verkeersdrempel heen”, zeiden ze zelfs. Goed nieuws dus. Nogmaals: de meeste verkeersdrempels liggen er prima bij. Het is echter wel goed om je bewust te zijn dat de grenzen er zijn, en hoe ze zijn vormgegeven. Als het er dan een keer wél toe doet, kun je je er ook tegen verzetten. Dan moet je natuurlijk wel eerst weten dat het überhaupt gebeurt.’