Zijn onze bibliotheekzoeksystemen wel betrouwbaar? Volgens Matthew Reidsma van de Grand Valley State University niet. In zijn Masked by Trust: Bias in Library Discovery (2019) tracht hij te bewijzen dat ze vol vooroordelen zitten.

Don't be evil?

Eerst heeft hij het uitgebreid over Google. Lange tijd was Googles motto ‘Don’t be evil’, maar volgens Reidsma is daar nu geen spoor meer van over. Google is helemaal geen vertrouwenswaardige publieke informatieleverancier meer; het is niets anders dan een advertentiefirma die op slinkse wijze de gebruiker naar zijn betalende adverteerders leidt. Eigenlijk zou je verwachten dat Reidsma bibliotheekzoeksystemen vergelijkt met Google Scholar, maar dat doet hij niet; hij vermeldt Scholar slechts één keer, zonder er verder aandacht aan te besteden. Hij maakt zich zo druk over (de algemene) Google omdat bibliotheekzoekmachines zich aandienen als “Google for libraries” en als Google slecht is, dan zouden die bibliotheekinstrumenten dat ook wel kunnen zijn. Als je maar genoeg testen op ze loslaat, blijkt volgens hem dat er allerlei vooroordelen naar boven komen.

Algoritmes en witte mannen

Het onderliggende probleem zijn de algoritmes die aan de basis liggen van dergelijke zoekmachines. Ze herleiden alles tot een wiskundig probleem met een beperkt aantal variabelen. En wie schrijven dan die algoritmes? Dat zijn de witte mannen van Silicon Valley en die zijn seksistisch, racistisch, antisemitisch, islamofoob, homofoob, enzovoort. Veel bewijs hoeft daar blijkbaar niet voor geleverd te worden, veronderstellingen zijn genoeg. Zo besluit Reidsma uit een verslag over zeven jonge mannen van rond de dertig in een IT-firma dat het dan wel hoofdzakelijk over witte mannen zal gaan en dus … Meer nog: zelfs als die witte mannen niet bewust racistisch enzovoort zijn, dan zijn hun producten dat toch nog omdat het allemaal zo diep in hun cultuur ingebakken zit.

Vooroordelen of onverstandige keuzes?

Reidsma maakt zich, terecht, nogal druk over een discovery service die zijn data verrijkt door Wikipedia-pagina’s aan te bieden die echter meer dan een jaar oud zijn. Ze zeiden nog altijd dat Obama president was toen Trump al vele maanden in het Witte Huis zat. Dat is geen vooroordeel, maar een onverstandige keuze. Als je niet naar de meest recente pagina’s kunt verwijzen, dan laat je dat beter.

Van daar stapt Reidsma probleemloos over naar vooroordelen als racisme, seksisme enzovoort. Hij laat een aantal zoekopdrachten los op discovery systems en stoort zich dan aan de zoeksuggesties die bovenkomen. Volgens hem is dat dan allemaal de schuld van die jonge, witte mannen die de vooroordelen van hun cultuur in de algoritmes stoppen. Maar ook hier gaat het om niet meer dan een niet zo verstandige keuze. Als je met je malafide vriendjes duizend keer als zoekopdracht ‘homoseksualiteit is een ziekte’ intikt, dan is de kans groot dat dit in het vervolg als zoeksuggestie naar boven komt zodra je ‘homoseksualiteit’ ingeeft. Als zoeksuggesties gebaseerd zijn op populariteit, zijn ze manipuleerbaar. Hetzelfde geldt voor discovery systems die in zijbalken hun data proberen te verrijken met verwijzingen naar pagina’s op het web. Ook daar houd je de rommel niet zomaar buiten de deur. Reidsma wijst er ook op dat discovery systems bij voorkeur data ophalen uit databanken van hun eigen firma. EBSCO Discovery Service (EDS) zal dus een voorkeur hebben voor EBSCO-databanken. Ook dat is weer geen vooroordeel, maar een vervelend gevolg van de concurrentie tussen dataleveranciers.

Oplossingen

Is het een oplossing om dan maar open software te gebruiken? Die kun je immers zelf aanpassen. Nee, toch niet, want ook dat soort software wordt weer geschreven door … witte mannen. Eigenlijk is het hele probleem maar op te lossen door een cultuuromslag: meer diversiteit in informatica- en bibliotheekteams, meer aandacht voor ethiek in de informatica-opleidingen, systemen ontwerpen vanuit de gebruiker in plaats van ze eerst te schrijven en dan eventjes te toetsen of de gebruiker wel de juiste knoppen vindt. Op korte termijn kun je alleen maar beter onderhandelen met de leveranciers en waar dat mogelijk is het systeem zelf aanpassen. Zo zette Reidsma de optie in zijn systeem uit waarmee websuggesties in zijbalken getoond werden. Reidsma blijft ook voortdurend aandringen bij leveranciers om bijvoorbeeld zoeksuggesties die in zijn ogen vooroordelen bevatten, te onderdrukken.

De bibliothecaris als censor

Wie bepaalt eigenlijk wat een vooroordeel is? Blijkbaar is dat gewoon Reidsma zelf: hij heeft zijn standaardset zoekopdrachten en zodra er een antwoord of suggestie bovenkomt die niet strookt met zijn wereldbeeld, grijpt hij in. Daarmee is de bibliothecaris een censor. Blijkbaar zijn bibliotheekgebruikers niet slim genoeg om zelf uit te maken welke informatie goed voor hen is en moeten ze, althans binnen de bibliotheekomgeving, beschermd worden tegen al het kwade van de hele cultuur. Eén vooroordeel blijft bij dat alles onaangeroerd, namelijk dat het allemaal de schuld is van die witte mannen.