ChatGPT beantwoordt uw vragen, schrijft uw verhandelingen en ontwerpt uw marketingplan. Maar om dit geavanceerde AI-systeem gebruiksklaar te krijgen, werden laagbetaalde Afrikaanse werknemers ingeschakeld, achterhaalde Time.
ChatGPT is een AI-systeem gebouwd door OpenAI. Het is gebaseerd op een eerder systeem, GPT-3, dat in de zomer van 2020 werd uitgebracht. GPT-3 kon ook al verbazend coherente teksten schrijven, en gedichten en stukken programmacode. Maar het kampte met een groot probleem. GPT-3 was getraind door het te ‘voeden’ met een massale hoeveelheid tekst (45 terabytes) die van het internet werd gehaald. Bij dat trainingsmateriaal zat ook heel wat twijfelachtige inhoud. Als gevolg daarvan kon GPT-3 soms onverhoeds racistische of seksistische ideeën spuien.
ChatGPT heeft dat probleem veel minder. En dat komt vooral omdat OpenAI het systeem heeft getraind door de antwoorden die het genereert, te laten beoordelen door mensen. Zo ‘leerde’ het systeem welke antwoorden wenselijk zijn en welke niet. Dat OpenAI op die manier te werk was gegaan, is geen geheim. Maar wat OpenAI er niet bij had verteld, is hoe het dat precies aanpakte en wie het daarvoor had ingehuurd.
1,32 dollar per uur
Volgens het Amerikaanse tijdschrift Time werd een belangrijk deel van het werk gedaan door Sama, een bedrijf uit San Francisco. Dat bedrijf zou vanaf november 2021 mensen in Kenia hebben ingezet om tienduizenden tekstfragmenten te beoordelen. Daar zaten fragmenten bij met beschrijvingen van moord, marteling, zelfdoding en kindermisbruik. De Kenianen kregen volgens Time tussen de 1,32 en de 2 dollar per uur.
Dat geavanceerde AI-systemen voor een flink stuk steunen op repetitief werk door laagbetaalde arbeiders, is geen nieuw fenomeen. De Australische onderzoekster Kate Crawford schreef er in 2021, in haar boek Atlas of AI, al uitgebreid over. Ze beschrijft de rol van zogenoemde ‘clickworkers’: laagbetaalde arbeidskrachten die, via systemen als Mechanical Turk, met elkaar concurreren om repetitieve computertaken zo snel en goed mogelijk uit te voeren.
Die clickworkers spelen al jaren een belangrijke rol in het trainen van AI-systemen, bijvoorbeeld door het labelen van het trainingsmateriaal. Een AI-systeem leert bijvoorbeeld een kat van een hond onderscheiden door te worden gevoed met duizenden foto’s van katten en honden. Clickworkers hebben dan vaak die foto’s eerst van het juiste etiket voorzien.
