Google belooft AI niet voor wapens te gebruiken
Google kreeg intern ferme kritiek te verwerken door een contract met het Pentagon. Foto: EPA-EFE

Google wil niet dat zijn AI-ontwikkelingen worden gebruikt in wapens of bij het schenden van de mensenrechten.

Kunstmatige intelligentie (AI) is ‘krachtige technologie’, stelt Googles ceo Sundar Pichai in een blogpost. ‘En dat doet even krachtige vragen rijzen over het gebruik ervan.’ In zijn bericht schuift de Google-topman enkele regels naar voor over de AI-activiteiten van zijn bedrijf.

Daarin staat onder meer dat Googles AI nooit mag worden gebruikt bij de ontwikkeling van wapens of andere technologieën ‘die mensen letsel kunnen toebrengen.’ Ook mogen Googles AI-ontwikkelingen niet worden aangewend om technologieën te bouwen ‘om informatie te vergaren om aan bewaking te doen waarbij internationaal geaccepteerde normen van mensenrechten worden geschonden.’

Ook moeten Googles AI-activiteiten de maatschappij beter maken, mogen ze geen vooroordelen bevestigen en moeten ze veilig zijn.

Protest

De richtlijnen komen niet zomaar uit de lucht vallen. Eind vorige maand ontstond er deining binnen Google toen bekendraakte dat het een contract had binnengehaald bij het Pentagon. Google zou meewerken aan ‘Project Maven’, dat AI gebruikt om videobeelden te interpreteren. Dat zou kunnen worden gebruikt om de aanvalscapaciteiten van drones te verbeteren.

In geen tijd tekenden vierduizend Google-werknemers een petitie waarin ze zich verzetten tegen het contract, en een aantal werknemers nam ontslag. Ze vonden dat Google met het contract zijn eigen principes, en dan vooral de slagzin don’t be evil, verraadde. Als reactie beloofde Google geen verlenging van het contact na te streven wanneer het was afgelopen. Het beloofde ook richtlijnen rond AI, die Pichai nu dus bekendmaakt.

Google had nochtans kunnen weten dat het Pentagon-contract een gevoelige snaar kon raken. De New York Times berichtte dat topmanagers in het bedrijf zich al maanden voor het bekend raakte, zorgen maakten over hoe het zou overkomen.

Google knipt niet alle AI-banden met het Amerikaanse leger en de overheid door. Het zal blijven samenwerken op het vlak van cybersecurity, trainingen en rekruteringen.