Het hele doel van technologie is ons leven makkelijker maken en elke dag worden er nieuwe manieren bedacht om dit te bereiken. Door te automatiseren, wordt geprobeerd om ons zo veel mogelijk taken uit handen te nemen. Heel handig natuurlijk, maar we vinden het minder leuk als computers beslissingen voor ons gaan nemen zonder dat we het doorhebben. Dat is eigenlijk precies wat algoritmen doen. Een algoritme leert van het gedrag van mensen en past zichzelf hierop aan. Dat leidt wel eens tot pijnlijke situaties, zoals de onderstaande vier.
-
Domme vrouwen
Zo ontdekte een Britse kinderarts onlangs dat de beveiligingscode van de sportschool haar geen toegang bood tot de dameskleedkamer. Belangrijk detail: het was een vrouwelijke kinderarts. Het beveiligingssysteem weigerde de toegang tot de dameskleedkamer, omdat het systeem automatisch alle leden met de academische titel ‘doctor’ aanzag voor man. Logisch, een vrouw staat in de keuken en kan natuurlijk nooit hoogopgeleid zijn.
-
Obama woont in welk huis?
Wie de afgelopen weken in Google Maps zocht op de term ‘nigger house’ (want daar Google je natuurlijk dagelijks naar) kwam terecht bij het Witte Huis in Washington D.C. Niet heel handig van Google Maps. In een reactie legt Google uit hoe dit kon gebeuren. Het ranking-systeem van Google Maps gebruikt alle content over bedrijven en openbare plekken die te vinden is op internet. Op openbare fora werd de term ‘nigger house’ vaak gebruikt in online discussies over het Witte Huis. Het algoritme van Google koppelde daardoor automatisch deze twee termen aan elkaar.
-
Crimineel Jermaine
Google had al eerder te maken met ophef over ‘racistische’ algoritmen. In 2013 bleek namelijk uit een onderzoek van Harvard, dat er vaker advertenties werden getoond die gerelateerd waren aan criminaliteit, als er werd gezocht naar ‘zwarte’ namen. Googlede je Jermaine, dan was de kans 25 procent groter dat er toevallig een advertentie voorbij kwam voor het checken van een strafblad dan wanneer je zocht naar meneer Jansen. En nu maar hopen dat de toekomstige werkgever van Jermaine hier niet door wordt beïnvloed.
-
Van fouten kun je leren
Shazam wil natuurlijk niet achterblijven en heeft ook een nieuwe functie op zijn verlanglijstje staan. Binnenkort kun je met de app namelijk niet alleen muziek herkennen, maar ook producten. Zo kan de app bijvoorbeeld een DVD-hoes herkennen en je laten zien welke soundtrack bij de film hoort. Hopelijk heeft Shazam wat geleerd van de fouten van anderen en wordt een concentratiekamp niet herkend als speeltuin.
