Big brother is watching you

Algoritmes zijn geautomatiseerde stappenplannen om een probleem op te lossen. Ze worden hoe langer hoe populairder in allerlei beslissingstrajecten. Met algoritmes kun je identificeren, classificeren, beoordelen, associëren en prioriteren. Deze kwaliteiten werden voor het informatietijdperk door mensen uitgevoerd. Dat was een belangrijke beroepsgroep, die in het algemeen goed opgeleid was. De kwaliteiten die door algoritmes zijn uit te voeren zijn zeker niet neutraal. Niet dat diegene die deze rol voordat de algoritmes er waren objectief waren, maar zaken als ethiek en gevoel speelden bij de handmatige beoordelingen zeker een positieve of negatieve rol. Er is niets mis met het inzetten van algoritmes waarbij alle variabelen te wegen zijn op een objectieve schaal.

Een algoritme kan bepalen of je een bepaalde betaling kan uitvoeren. Als het algoritme onomstotelijk kan vaststellen dat jij het bent die de betaling uitvoert en er staat voldoende duku op je bankrekening en het bedrag is binnen de afgesproken betalingslimieten, dan is een algoritme een zeer effectief hulpmiddel om de betaling snel te laten verlopen. Ik kan me nog wel herinneren dat ik op een Grieks eiland geld wilde opnemen voordat er gelduitgifteautomaten waren. Persoon 1 bekeek mijn paspoort, persoon 2 controleerde de eurocheques, persoon 3 -de baas- fiatteerde de dispositie en persoon 4 betaalde uit. Ze stonden mooi op een rij, maar omdat je al een half uur in het bankkantoortje met deze transactie bezig was, hoopte je toen al dat er snel een geldautomaat werd uitgevonden -met algoritmes.
Met de inzet van computers is de opmars van de algoritmes begonnen. In het begin van de jaren negentig heb ik als één van de eersten met behulp van het door de Rabobank ontwikkelde spreadsheetprogramma S2020 een berekeningsmodule gemaakt om autoverzekeringspremies uit te rekenen en te vergelijken. Bijna gechoqueerd waren mijn collega’s van andere banken. In die tijd gebruikten wij als verzekeringsadviseurs tarievenboekjes en je had daarmee de exclusieve kennis om de premie te berekenen. Toen de algoritmes voor het berekenen van premies werden ingebouwd in premieberekeningssystemen en offerteprogrammatuur kwam die kennis uiteindelijk ook bij de eindklant te liggen. Met de invoering van algoritmes werden ook het aantal variabelen opgevoerd om een premie te berekenen. Die variabelen waren niet altijd even objectief. Omdat men ook van externe partijen gegevens ging opvragen om berekeningen te maken of acceptatiebeslissingen te nemen werd de factor mens hoe langer hoe meer uitgeschakeld. Zo worden bij fraude-onderzoeken persoonsgegevens gematcht met mensen uit de omgeving waarin zich de ‘verdachte’ beweegt en kan de verdenking op fraude zomaar sterker worden als iemand in de omgeving van deze persoon ook al eens frauduleus heeft gehandeld. Als dit geheel geautomatiseerd gebeurt en het besluit niet door een mens wordt gewogen, kunnen er verschrikkelijke dingen gebeuren zonder enige feitelijke bewijslast. Kijk maar naar de toeslagenaffaire.

Met het feit dat algoritmes er ook voor zorgen dat we met videocamera’s herkend worden, maakt het ook voor mensen die bewust het internet mijden lastig om onherkenbaar te blijven. Doet men allerlei moeite om zelf niet deel te nemen aan sociale media en websites of zelfs smartphones en tablets te weren; men zal toch herkend worden door een beveiligingscamera die je identificeert door een toevallige foto die iemand getagd heeft op een foto tijdens een feestje die op Facebook is beland. En aangezien er hoe langer hoe meer camera’s hangen in de openbare ruimte wordt de kans op herkenning steeds groter. En hoewel er met de invoering van de AVG veel beperkingen lijken te zijn ten aanzien van overtreden van privacyregels, is herkenning van mensen een peulenschil. Wat dat betreft werkte de mondkapjesplicht beter. Zelfs mijn eigen smartphone herkende me niet meer.
De camera’s worden opgehangen om iemands goederen, woningen of bedrijfspanden te beveiligen. Dat lijkt een nobele zaak. Je ziet ook vaak de beelden verschijnen in opsporingsprogramma’s. Soms lijkt het wel of er overal camera’s hangen. Goed dat men boeven wil vangen. Maar dezelfde camera’s die hangen aan de gebouwen bekijken vaak ook de openbare weg. En dan kom je al heel gauw op het terrein van privacy overtredingen.

Het is nog niet zo erg als in China waarbij je in de gaten gehouden wordt met camera’s en dat door het verfijnde digitale systeem je op basis van geconstateerde overtredingen bepaalde toegang tot systemen zoals banksystemen en toegangssystemen wordt ontzegd.

De menselijke maat ontbreekt bij het inzetten van algoritmes. Het gebruik van algoritmes is super efficiënt en daardoor relatief goedkoop. Als heel Nederland vol ligt met glasvezel en 5 of 6 G zal het algoritme als nooit tevoren floreren. We zouden aan een mondiaal informatiebeleid moeten gaan werken en privacy-overtredingen niet straffen met speldenprikken van een half miljard euro voor een techgigant. De belangrijkste reden dat het fout gaat met het gebruik van algoritmes is dat de eigenaar van de persoonsgegevens, de mens, niets gevraagd wordt. Men heeft het getracht met een cookiewet, maar iedereen klikt die waarschuwingen weg omdat de site anders niet fijn werkt. En klik je ze weg dan heb je tegelijkertijd een vrijbrief afgegeven om je gegevens overal in te zetten. We zijn zeer slecht in staat onszelf tegen privacy-overtredingen te beschermen.

Maar als de wetgeving nu zo zou zijn dat er alleen een schriftelijk contract of een contract via de blockchain aan uitwisseling van data ten grondslag ligt, waarbij de klant zelf direct het contract kan ontbinden, dan ben je zelf in control. Helaas is niet iedereen in staat om de inhoud van dergelijke contracten te doorgronden en zal dit niets worden. Waarschijnlijk de reden dat onze privacy, ondanks de strengere wetgeving volledig te grabbel ligt.

Veel mensen zeggen dat ze niets te verbergen hebben, maar wil je leven in een wereld waar Big Brother is watching you?