Miriam Rasch, auteur van ‘Frictie’

“Ik hoop dat het gesprek over data losbarst”

Tekst Auke Klijnsma

Het tweede boek van Miriam Rasch heet ‘Frictie, ethiek in tijden van dataïsme’. Al op de zesde pagina staat dat het boek zich moeilijk laat navertellen. Ik ben het er mee eens. Miriam neemt de lezer mee naar veel verschillende onderwerpen die ethiek en data raken. Dat is veel, lastig na te vertellen, en juist daardoor indrukwekkend. Ik besloot Miriam uit te nodigen voor een interview. Wat Miriam wil vertellen is mij nu meer duidelijk. En de moeite waard.

Wat doe je?

“Ik doe onderzoek naar de maatschappelijke en culturele impact van digitale technologie. Ik kom uit de literatuurwetenschappen en de filosofie en ben een behoorlijke boeken-nerd.”

Jouw boek gaat over dataïsme, wat is dat?

“Dataïsme is het geloof dat je alles in de wereld kunt vertalen in data, en dat je daarmee de wereld voorspelbaar en beheersbaar maakt.”

Waar schrijf je over?

“Mijn eerste boek ‘Zwemmen in de oceaan’ gaat over hoe het persoonlijke leven er uitziet in tijden van digitale technologie. Toen dat af was, was er voor mij nog één grote vraag: Wat is nou niet te vertalen in data? We worden als mens steeds meer gedataficeerd. Alles wat we doen, wordt vertaald in data. Er moet toch iets zijn wat daaraan ontsnapt? Met deze vraag is voor mij het cirkeltje weer rond. Deze vraag houdt verband met ethiek, data en literatuurwetenschappen.

Mijn tweede boek gaat over ethiek en dataïsme. Gelukkig is de discussie over ethiek en technologie heel mainstream geworden, maar we hebben het niet over de vragen waar we het wel over moeten hebben. We blijven toch een beetje hangen op een oppervlakkig niveau, met vragen als: hoe moeten we omgaan met privacy? En mogen algoritmes ons volgen? Naar mijn idee zou je wat dieper moeten graven omdat er allerlei premissen onder het gebruik van data liggen, die een bepaalde ethiek meebrengen of uitsluiten. Dit is waar ik me mee bezighoud.”

Waarom heb je voor jouw vak gekozen?

“Ik heb een enorme fascinatie voor de totale digitale omwenteling die we nu meemaken. Dat gaat zo hard. Toen ik studeerde gebruikten we het internet nog maar weinig. Dat kun je je nu niet meer voorstellen. Ik wil gewoon meer weten over digitalisering en dataïsme.”

Wat fascineert je daar zo aan?

“Digitaliseren is niet anders dan het willen begrijpen van wat je tegenkomt in de wereld. Je wilt de wereld begrijpen, in hokjes plaatsen, sorteren, tellen, en meten. Ik wil dat zelf ook. Ik begrijp dat die drang er is en tegelijkertijd geloof ik er niet in. De wereld bestaat ook uit dingen die niet in hokjes te plaatsen zijn. Denk aan poëzie en literatuur. Waarom wil je dat beschrijven en in een hokje plaatsen? Dat zijn de filosofische vragen die aan de digitalisering en dataïsme ten grondslag liggen. Dat vind ik interessant.”

Je noemt data schepsels, wat bedoel je daarmee?

“Als je het over data hebt, moet je weten wat data zijn. Als je daar heel sec naar kijkt, dan is het eerste wat opvalt dat data geen dingetjes zijn die je in een database plaatst. Data zijn gecreëerd, het zijn schepsels, het zijn geen kruimels, geen stenen, geen dingen. Data zijn nog niets voordat je ze verzamelt. Voordat je aan het verzamelen slaat, heb je al een infrastructuur nodig. In die infrastructuur zijn categorieën bepaald. Bij het vaststellen van deze categorieën is dus al een keuze gemaakt over de intenties en de doelen van de data. Als de categorieën zijn vastgesteld, worden data ook nog in een code vertaald. Ook daarin zijn keuzes gemaakt met betrekking tot intenties en doelen. Pas dan is er iets wat ruwe data wordt genoemd. Er zijn dan al stappen gezet, waardoor data niet neutraal zijn. Ik wil ook dat iedereen dat weet. Data zijn niet neutraal. Data zijn gecreëerd. Data hebben bij het verzamelen ervan al kleuring.”

In je boek ga je uitgebreid in op taal. Net als data kun je taal ook zien als een weergave van de werkelijkheid. Wat is het verschil?

“Taal is anders. Wat taal met zich meebrengt, is dat taal niet de pretentie heeft een universele boodschap uit te uitdragen. Data hebben die pretentie wel. Neem iets als literatuur. Dat kent nooit een definitieve vertaling. Je kunt er altijd over discussiëren. Teksten vragen nuancering en een brede interpretatie, terwijl data claimen een objectieve waarheid in zich te hebben. Dat is een cruciaal verschil tussen beide systemen. Dit verschil is belangrijk om te weten.

Als je dat weet, dan kun je veel meer uit data halen. Zo van de ene dataset zegt dit en de andere zegt iets anders. Wat kunnen we van die verschillen leren? Volgens mij zou dat het gebruik van data kunnen verrijken, net als bij taal. Uiteindelijk wil je dat er een gesprek ontstaat over wat het betekent en welke keuzes daaruit volgen. Elke dataset is een startpunt waarover je in gesprek kunt gaan.”

Wat heeft het boek jou gebracht?

“Dit boek heeft mij het inzicht opgeleverd dat je niet moet vragen wat er ontsnapt aan dataficatie (omdat je dan in een welles-nietes-spel terechtkomt), maar moet laten zien dat er andere spreek- en kenwijzen zijn die op een heel andere manier kijken naar de wereld dan data doen. 

Wat ontsnapt er aan dataficatie?

Er zijn dingen die ontsnappen aan data, die je niet kunt dataficeren. Kunst en liefde kun je niet vastleggen in hokjes. Natuurlijk is er een hele rij startups die beweren van wel. Zij komen met voorbeelden dat robots een Bach-etude kunnen schrijven die niet van echt te onderscheiden is. Dat is de welles nietes discussie waar ik niet wil komen. Er zijn andere manieren dan data om de wereld te omschrijven. Pas als je met een andere bril op de wereld probeert te begrijpen, dan weet je dat data nooit toereikend zullen zijn. Dit inzicht was een belangrijk omslagpunt voor mij, Het gaat niet om data en producten die daaraan ontsnappen, maar het gaat over waarden en mensen. En die moeten op een andere manier worden beschreven dan in nullen en enen.”

Waarom heet het boek ‘Frictie’?

“Dataïsme houdt een wereld voor waarin geen frictie is, een wereld die voorspelbaar is omdat data de wereld voorspelbaar maken. In deze wereld kent de toekomst weinig verrassingen. Deze wereld kent het ideaal dat alles goed geregeld is, met een slimme thermostaat, een verlichtingsapp en een koelkast die alleen maar gezond eten voorschotelt en zelf zijn voorraad aanvult. Een frictieloos design is het dogma van de digitale wereld. Ik denk dat deze wereld stilstand betekent: een dataïstische eindtijd. Een totaal voorspelbare toekomst is geen toekomst maar een voortdurend heden. Mijn grootste bezwaar is dat in die wereld de mogelijkheid om ethisch na te denken verdwijnt. Er is frictie nodig. Kunst, muziek en liefde kunnen daarbij helpen.”

Ben jij altijd al kritisch op de digitale ontwikkelingen?

“Ik ben vanaf het beging kritisch geweest, ik wilde een kritisch verhaal opschrijven. Een belangrijke drijfveer daarbij is het boek Homo deus van Harari. Zijn boek is wat mij betreft een hoogtepunt of dieptepunt van hoe er wordt gesproken over data. Zijn manier van praten over de technologische ontwikkelingen is zo oppervlakkig en kort door de bocht, daar moet iemand iets tegen in brengen. Ik vond dat ik dat zelf maar moest doen.”

Harari schetst een toekomstbeeld waarin de mens te algoritmiseren is. Waarom gaat hij te ver?

“Wat ik het ergste vind, is zijn idee dat alles een algoritme is. Volgends mij lopen er twee dingen door elkaar. Ik kan me wel voorstellen dat computertechnologie zo geavanceerd wordt dat computers iets kunnen wat lijkt op menselijk denken. Maar dat betekent niet dat het omgekeerde dan ook waar is. Het betekent niet dat dat de mens een algoritme is. Wat Harari doet, is een paar honderd jaar wetenschapsgeschiedenis terugbrengen tot drie woorden: organismes zijn algoritmes. Ja, dan heb je een heel beperkte kijk op de wetenschap.”

Harari maakt je boos!

“Deze simplificatie maakt me boos. Het is oneerlijk, er zijn heel veel andere verhalen te vertellen. Het is ook gevaarlijk. Want als iedereen gelooft dat we een algoritme zijn, dan worden we dat ook. Als je maar hard genoeg zegt dat wanneer je maar genoeg data hebt, je het volk kunt controleren, dan wordt het ook zo. Dan gaan we ook daarnaar handelen, Op het moment dat je niet meer gelooft dat je een vrije wil hebt, dan heb je die ook niet meer. Dat is een selffulfilling prophecy. Bedenk eens wat het betekent als je gelooft dat de mens een algoritme is, dan hebben we echt een probleem. We zijn dan voorgeprogrammeerde wezens en kunnen in alles worden gecontroleerd. Ik wil daarvoor waarschuwen.”

Roepen Google en Facebook iets anders bij je op?

“Die willen zoveel mogelijk geld verdienen. Als je dat weet, dan begrijp je wat ze doen. Er wordt gedaan alsof zij met hun data de objectieve werkelijkheid meten. Ze creëren een retorische bubbel, die je wilt laten geloven dat ze objectief zijn. Die bubbel kun je makkelijk doorgronden als je weet dat hun enige doel is om geld te verdienen.”

Zijn algoritmes gevaarlijk?

“Algoritmes brengen gevaren met zich mee. We hebben die voorbeelden al gezien. Het grootste gevaar is dat groepen in de samenleving die het al moeilijk hebben, het meest lijden onder de kleuring van algoritmes. Die kunnen hun achtergestelde positie versterken. Een voorbeeld is dat in Engeland algoritmes werden ingezet om schoolscores te bepalen, omdat er nu door Corona geen eindexamens zijn. Datasets uit het verleden van die school werden gebruikt om individuele leerlingen cijfers te geven. Met als gevolg dat kinderen op slecht presterende scholen lagere cijfers kregen, ook als ze goed waren. Gelukkig is dat teruggedraaid. Dit voorbeeld toont aan dat scholieren op een slechte school tekort worden gedaan door algoritmes.”

Wat is eigenlijk het echte probleem?

“Het grootste probleem is dat je de mens niet kunt beschrijven in een tienpuntschaal. Het gevolg is dat alles eenvormig wordt en dat komt natuurlijk niet overeen met de realiteit. Een mens is meer dan een rating. In die rating wereld moeten we niet willen zijn. Alles wat je doet wordt dan in een schaal gezet en beoordeeld. Als je daarvan afhankelijk bent, ga je daar dus naar handelen om een hoge rating te halen. Je kunt dan niet meer jezelf zijn. De mens is dan een object dat door anderen is te gebruiken. Voor mij is dat echt een grens die we niet over moeten. Die grens moet je wel trekken. Je weet anders eigenlijk niet eens meer waarom het zo erg is dat je een verkoper van de Bijenkorf alleen maar ziet als iemand die jou van dienst is. De vraag is of je in zo’n maatschappij wilt leven. En of je zelf zo iemand wil zijn die alleen maar gezien wordt als een doelmatig ding.

Kun je nog wel tegen de technologische ontwikkelingen zijn?

“Ja, maar het is jammer dat iedereen is gaan geloven dat het huidige aanbod van digitalisering de enige weg is. Dat is natuurlijk niet zo. Er zijn andere manieren dan Facebook waarop je een vriendennetwerk kunt hebben. Another internet is possible. Het is de marketingmachine van Sillicon Valley die ons doet geloven dat het huidige internet de enige optie is. Want dat is natuurlijk het verdienmodel. Er zijn andere zoekmachines dan Google. De EU kan ook iets doen. Bijvoorbeeld investeren in een zoekmachine die verantwoord omgaat met jouw data.”

Hoe erg maak je je zorgen?

“Ik maak me zorgen, maar wil ook optimistisch blijven. Ik zie nu dat de discussie breed gevoerd wordt. Ook de media besteden aandacht aan wat we willen met data en algoritmes en waar de grens is. Mensen zijn zich er meer van bewust en komen in protest. Dat deden de scholieren in Engeland, waardoor de beslissing schoolprestatie vast te stellen met algoritmes is teruggedraaid. Waar ik me nog wel zorgen over maak, is dat de individuele smartphone-gebruikers denken dat het geen zin heeft je te verzetten. Dat is luiheid. Op het moment dat je niet kritisch meer bent op de digitale ontwikkelingen, dan geef je je het op. Dat is wel zonde.”

Wat hoop je los te maken?

“Ik hoop dat iedereen gaat nadenken over de vraag wat data eigenlijk zijn, waar data vandaan komen en hoe data werken. Dat is de boodschap van mijn boek. Wat ik heel leuk vind, is dat ik reacties krijg en van mensen die veel met data werken en uit de culturele hoek. Mensen die veel met data werken vinden bij mij de woorden om hun eigen twijfel te verwoorden. Mensen uit de culturele hoek onderschrijven dat kunst en cultuur juist heel belangrijk zijn in deze gedataficeerde wereld. Ik vind het mooi om te zien dat beide groepen worden aangesproken. Ik wil juist de brug slaan tussen de mensen die werken met technologie en mensen die de zachte wetenschappen belangrijk vinden. Die brug is belangrijk.”

Heb je tips?

“Iedereen heeft dagelijks te maken met dataïsme. Neem dingen niet zomaar voor lief. Stel vragen. Ik vond het mooi dat er veel discussie was over de corona-app. Mensen klagen bij de corona app over privacy, terwijl ze wel Whatsappen en Facebooken. Ik probeer zelf weerstand te bieden tegen de enorme versnelling van alle nieuwe apps en technologie. Je mag best eens een dag nadenken voordat je een app installeert, of over met welke app je gaat videobellen. Neem de tijd om na te denken waarom die app er is, en of je dat steunt. Dat vind ik belangrijk om uit te dragen.”

Jouw boek helpt wel!

“Dat hoor ik graag. Er moeten grote dingen gebeuren, in de politiek en bij ons als gebruiker.”