De hel achter de façade van Facebook
Hoe de techreus haat (niet) filtert
Voor de buitenwereld moet geheim blijven hoe Facebook werkt. Intussen worden onervaren krachten overspoeld met gruwelijke teksten en beelden.
Tom Kreling, Huib Modderkolk en Maartje Duin 21 april 2018, 2:00
Inside facebook - volkskrant zaterdag Daniel Hertzberg
Teamhoofd Sebastian stuurt begin februari – een maand voordat Facebook wereldwijd onder vuur komt te liggen omdat de gegevens van 87 miljoen Facebookgebruikers geroofd zijn – een mail naar 1.100 medewerkers van het Horizon-team in Berlijn. Er wordt een bezoek aangekondigd van de BBC en de New York Times. ‘Doel van dit bezoek’, schrijft Sebastian, ‘is hetzelfde als de vorige keer: meer maatschappelijk begrip creëren voor ons werk hier.’
De komst van de media is nauwkeurig voorbereid. Speciale personen zijn geselecteerd om het verhaal van Facebook uit te dragen. Het bedrijf worstelt al langer met een aantal kwalen, zoals de verspreiding van desinformatie, politieke beïnvloeding en misbruik van het platform door terroristische groeperingen. Ook zijn gebruikers slachtoffer van haatcampagnes.
Facebook wil het beeld laten kantelen. Het bedrijf heeft in de ogen van het publiek telkens weifelend gereageerd op de kritiek. Lang was de verdediging dat het slechts een ‘platform’ biedt en dat het aan de gebruikers is om daar fatsoenlijk mee om te gaan. In de aanloop naar de Amerikaanse verkiezingen in 2017 wil Facebook niets horen over manipulatie van het medium, terwijl het bedrijf achteraf toegeeft dat vanuit Rusland tachtigduizend berichten op Facebook zijn geplaatst om de verkiezingen te beïnvloeden. Ondertussen dwingt Duitsland via een speciale ‘internetwet’ bedrijven als Facebook om haatdragende berichten binnen 48 uur te verwijderen.
Aan de BBC en de New York Times wil Facebook laten zien dat het menens is. Het bedrijf heeft de laatste jaren op verschillende plekken in de wereld – Manila, Dublin, Berlijn – een leger van duizenden goedkope arbeidskrachten opgebouwd dat het platform schoon moet houden. Aan de buitenkant van de gebouwen waar zij werken, is niets te zien. Ook niet bij het gerenoveerde fabriekscomplex van Siemens in Spandau, aan de westkant van Berlijn. Daar staan vier enorme gebouwen – waaronder een indrukwekkende monumentale klokkentoren die de Tweede Wereldoorlog overleefde – waar begin 2017 650 mensen voor Facebook werken en nu, bijna een jaar later, 1.100.
In drommen sjokken ze ’s ochtends vanuit het U-bahnstation Siemensdamm naar het complex waar ook eBay en AirBnB gevestigd zijn. Wat zij precies doen, is geheim. ‘Doel van het bezoek is expliciet niet om te praten over details of vertrouwelijke gegevens’, staat dan ook in de mail over het bezoek van de media.
inside facebook Daniel Hertzberg
Want de openheid die Facebook voor deze media uitstraalt, is geregisseerd. De mensen die hier werken, mogen aan niemand vertellen wat hun taken zijn, zo zegt de Nederlander Erik. Dat krijgen ze aan het begin van een twee weken durende training te horen. Vrienden mogen het niet weten, familie evenmin. Het is niet toegestaan om persoonlijke bezittingen mee naar binnen te nemen. Telefoons moeten in een kluis. Pen en papier zijn verboden. Op de toiletten hangen dure Dyson-handdrogers omdat papieren handdoekjes ook beschreven kunnen worden, vertelt hij. Medewerkers controleren of er tassen onder de bureaus liggen.
Facebook wil niet dat bekend wordt hoe het bedrijf bepaalt wat wel en niet mag, en hoe het berichten filtert, censureert, blokkeert en verwijdert. Twee moderatoren spraken daar in de afgelopen maanden toch over met de Volkskrant, op voorwaarde van anonimiteit. In verschillende gesprekken van een paar uur heeft Erik zijn verhaal verteld. Een andere moderator heeft dat verhaal op feitelijkheden getoetst. Zij vertellen over Facebook, omdat ze zich zorgen maken. Over het bedrijf en over zichzelf.
‘Ik wil jullie eraan herinneren’, benadrukt teamhoofd Sebastian in zijn mail, ‘om je te gedragen zoals overeengekomen in de arbeidsvoorwaarden en nooit met journalisten of andere geïnteresseerde partijen te praten. Dit is vooral voor jullie eigen veiligheid!’
***
De Nederlander Erik komt bij toeval bij Facebook terecht, eigenlijk net als al zijn collega’s. Hij reageert op een eenvoudige advertentie voor ‘customer care agent – Dutch speaker’ op de vacaturewebsite indeed.com. Berlijn kent een grote groep internationale creatievelingen. De lage huren en het prettige leefklimaat trekt ze naar de Duitse hoofdstad. Ook voor internationale bedrijven is Berlijn aantrekkelijk: de lonen zijn er laag en er wonen veel jongeren met verschillende achtergronden. In en rondom de stad zitten daarom veel callcenters van bedrijven als Zalando en Playstation.
Erik had voor enkele van die callcenters gewerkt, maar wilde dat niet langer. Hij mag op gesprek komen bij GI Gruppe, een groot Duits uitzendbureau. Het gesprek duurt nog geen tien minuten. Geen enkele keer valt daarbij de naam van de opdrachtgever. Er wordt alleen gerefereerd aan ‘het project’. De recruiter van GI Gruppe is weinig kieskeurig: functie-eisen zijn er eigenlijk niet.
De belangrijkste vraag die Erik krijgt voorgelegd is of hij is of hij bestand is tegen het zien van ellende. Terrorisme, martelingen, dat soort dingen. Erik denkt dat het wel los zal lopen; hij heeft jaren met vluchtelingen gewerkt en is dus wel wat gewend. En daarmee is het gesprek afgerond. De volgende dag stapt hij het kantoor van Arvato Bertelsmann binnen, een groot Duits mediabedrijf.
Daar heeft hij wederom een kort gesprek. Erik hoort dat hij solliciteert voor een baan als content moderator: hij zal filmpjes, foto’s en tekst bestuderen. Allemaal als onderdeel van ‘het project’ voor ‘de cliënt’. De naam ‘Facebook’ valt nog steeds niet. Erik gaat akkoord, drie dagen later moet hij zich melden bij een gebouw aan de oostkant van Berlijn.
Hij gaat door de beveiligingspoortjes en wacht, samen met anderen, bij de receptie. Er zijn Brazilianen, Portugezen, Zweden, Grieken, Syriërs. De groep telt 22 personen. Eerst ondertekenen ze een geheimhoudingsverklaring. Het is voor het eerst dat Erik hoort dat hij voor Facebook gaat werken. Daarna gaan ze naar een kelder met geblindeerde ramen en zien ze presentaties door een jonge Argentijn.
De cursisten krijgen, bij wijze van test, een aantal berichten op hun beeldscherm. Een van de posts die Erik moet beoordelen is een foto van een stervend Afrikaans jongetje waarin een doos van Pizza Hut is gephotoshopt. Afschuwelijk, vindt hij het. Sadistisch. Dit lijkt hem op z’n minst iets om te markeren als gevoelig en wreed. Fout, krijgt hij te horen. Laat het gaan.
Facebook werkt, zo leert Erik, met protected categories (PC) en quasi protected categories (QPC). Een PC is een kwetsbare groep – zoals transgenders, ernstig chronisch zieken, Joden, Ghanese vrouwen, vrouwen in het algemeen. Een bericht mag enkel verwijderd worden als de hele groep aangesproken wordt. Dus ‘alle zwarten zijn lui.’ Staat er bij een foto ‘luie zwarte’, dan is er niets aan de hand. Goedaardig, volgens Facebook.
Onder QPC vallen migranten, vluchtelingen en asielzoekers, krijgen de cursisten te horen. Die zijn nauwelijks beschermd. Alles mag gezegd worden. ‘Moordenaars, dievenbende, uitvreters.’ De grens ligt bij oproepen tot geweld: ‘Schiet die boot met asielzoekers kapot.’
De cursusleider legt ze de werkwijze uit. De content moderators – de functie die Erik en zijn medecursisten krijgen - krijgen gemelde berichten te zien. Die zijn ofwel door gebruikers gerapporteerd, of door de computers van Facebook opgemerkt – via zogeheten kunstmatige intelligentie. Ongeveer een op de tien meldingen is door computers opgemerkt. Dat aantal zal stijgen. De moderatoren dienen binnen 12 seconden een beslissing te nemen. Daarbij hebben ze vijf keuzes: 1. Negeren 2. Verwijderen 3. Checken bij een meerdere 4. Escaleren 5. Markeren als gevoelig/wreed.
Als Erik een bericht verwijdert, moet hij het in een categorie plaatsen. Hoe hoger de categorie, des te zwaarder de mogelijke straf voor de overtreder. De strafmaat bepalen hogere medewerkers. Uit de rangschikking blijkt wat Facebook voor het platform zelf het meest schadelijk vindt: ‘spam’, nog boven kinderporno, terrorisme of haat. Overtredingen kunnen een tijdelijke ‘block’ of een permanente schorsing opleveren.
Take care of yourself, staat boven een presentatie waarin de meest gruwelijke filmpjes en foto’s voorbijkomen. Pubers die kokend heet water over anderen gooien, echte executies verstopt in kinderfilmpjes, live uitgezonden zelfmoorden. Als de training na twee weken is voltooid, zijn drie van de 22 cursisten afgehaakt.
Erik gaat wel aan de slag als moderator. Nieuwsgierigheid drijft hem. Hij meldt zich om 8 uur ’s ochtends voor de shift tot 16.30 uur. Anderen werken van 13.30 tot 22.00 uur. Op de redactievloer is het stil, op het zachte, onregelmatige muisgeklik na. Op de lege witte bureaus staat een zwarte pc van Dell.
Rest van het artikel is hier te lezen: https://www.volkskrant.nl/media/oud-...book~a4594798/
