Facebook zonder filter: drie maanden als contentmoderator
Foto: Rhonald Blommestijn
In Berlijn en Essen werken meer dan duizend mensen als Facebook Content Moderator. Ze filteren de continue stroom van bagger en geweld. Hoe? Dat is strikt geheim. Voor het eerst gunt een voormalige medewerkster ons een blik achter de computerschermen. ‘Het was alsof ik in de spoed van de psychiatrie werkte.’

In juli 2017 ging een jonge Duitse vrouw in Berlijn aan de slag bij het Facebook Community Operations-team als moderator, één van de duizenden wereldwijd. Drie maanden heeft ze er gewerkt. In dS Weekblad vertelt ze haar verhaal – hieronder leest u alvast een voorproefje. 

Zoals de meeste sociale-mediaplatforms drijft Facebook op een users/community-regulatiesysteem: niemand pluist de inhoud uit voor hij geüpload wordt. Gebruikers hebben de mogelijkheid om berichten die zij ongepast vinden, te rapporteren. Het is de job van de contentmoderator om die meldingen – ze worden ‘tickets’ genoemd – te verwerken. 

Mijn rol omschrijven is niet simpel. Was ik een censor die de vrije meningsuiting inperkte? Ik denk van niet. Ik respecteerde de vrijheid om te beledigen en gebruik te maken van de meest verregaande uitdrukkingsvormen. Vaak ging het eerder over gedrag dan over taal. Beelden en teksten als uiting van een attitude eerder dan zelfexpressie. Daar kwam veel geweld en wreedheid bij kijken, gaande van haatboodschappen tot sadisme, van pestgedrag tot zelfverwonding. Uitermate gewelddadige inhoud. 

Een deel van de berichten was ook regelrecht misdadig. Ben je daar niet op getraind en kom je in aanraking met dat soort uitingen of gedrag, dan kun je maar één ding besluiten: we zijn compleet gek geworden. Ik heb dingen gezien zonder het minste respect voor ook maar één sociale norm, uitgebraakt in een wereld waar elke notie van intimiteit en fatsoen verdwenen is.

Hebben sociale media de mens onbewust aangemoedigd om zijn laatste remmingen te laten varen door alle sociale filters en morele barrières op te heffen? Wat zou er gebeuren als mensen zich op een gelijkaardige manier gedroegen in de publieke ruimte, op het openbaar vervoer, in cafés of in het park? Ik heb het me meermaals afgevraagd.

Digitaal proletariaat

In hoeverre kon ik me aanpassen aan zo’n rigide, beklemmende werkomgeving? In eerste instantie zag ik het als een persoonlijke uitdaging, een test van mijn uithoudingsvermogen. Ik bevond me in een fabriekswereld, deel van het globale digitale proletariaat. Een garnizoen van 700 mensen in een gesloten omgeving zonder contact met de buitenwereld. Werkuren en rustpauzes werden tot op de seconde berekend, ik zat gekluisterd aan mijn computer, kon de productielijn slechts enkele minuten verlaten. 

De contentmoderator, of agent, voert een ernstige analyse uit. De taak is moeilijk en contextgevoelig. Hij heeft niet alleen te beslissen of gesignaleerde berichten verwijderd moeten worden, hij moet ook navigeren door een uiterst complexe hiërarchie van handelingen. De mentale operaties worden als te complex gezien voor algoritmes. Desondanks worden moderators verwacht te handelen als een computer. De hang naar uniformiteit en standaardisering laat geen ruimte voor menselijke beoordeling en intuïtie.

1.300 rapporten per dag

Nadat hij ingewerkt is, moet een moderator ongeveer 1.300 rapporten per dag afhandelen, wat hem telkens luttele seconden geeft om tot een besluit te komen. De intellectueel uitdagende opdracht verwordt dan tot een geautomatiseerde handeling, bijna een reactie. Het repetitieve versterkt de frustratie en de vervreemding.

Nadenken wordt niet aangemoedigd, de werknemer kan nauwelijks initiatief nemen, zij/hij kan alleen voorbeelden verzamelen om achterpoortjes in het beleid te signaleren. De standaardisering is bedoeld om bij te dragen tot de objectiviteit. De moderator mag niets veronderstellen, mag de intenties van de persoon achter het bericht niet in vraag stellen. Het misbruik moet duidelijk zijn en eenduidig.

Facebook reageert

'We zijn ons ervan bewust dat het werk als content moderator lastig kan zijn', reageert Facebook Benelux na het lezen van het verhaal van de Duitse vrouw. 'De medewerkers krijgen dan ook psychologische begeleiding aangeboden. Die kan op elk moment worden ingezet, afhankelijk van de wens van de medewerker. Bovendien is de psychologische hulp nog uitgebreid naar 40 uur per week.'

Zaterdag leest u in dS Weekblad het volledige verhaal van de voormalige Facebook-moderator. 'Mij raakten video’s van onthoofdingen minder omdat er zoveel bloed mee gepaard gaat – en het is een snelle dood. Ik moest wel vechten tegen misselijkheid.'