AI is ook een man: hoe seksisme in kunstmatige intelligentie sluipt

Voor de foto's bij mijn blogs schrijf ik prompts voor een beeldgenerator. Zwart-wit, zacht daglicht, een houten bureau, een kop koffie. Ik beschrijf het zo precies mogelijk.

Dat doe ik niet voor niets. Alles wat ik niet beschrijf, vult het model zelf in. Wat het dan invult, is niet willekeurig.

Vraag een beeldgenerator om een CEO zonder verdere uitleg, en de kans is groot dat je een stukje jaren vijftig terugkrijgt, in hoge resolutie. Hoe komt dat eigenlijk?

Het korte antwoord: AI leert van alles wat mensen ooit hebben geschreven, gefotografeerd en beslist. Daar zit een paar duizend jaar ongelijkheid in. AI heeft geen mening over vrouwen, maar neemt de scheve verhoudingen uit die data over, en vaak blijkt het daardoor stiekem een man te zijn.

Wat je niet beschrijft, vult AI zelf in

Ik werk elke dag met AI en ik vind het fantastisch gereedschap. Juist daarom wil ik weten waar het scheef groeit.

Een model kiest bij elke open plek het meest waarschijnlijke antwoord. Het meest waarschijnlijke antwoord is gebaseerd op het verleden. Wie niets zegt, krijgt dus het verleden terug, met al zijn vooroordelen.

Waarom hebben spraakassistenten een vrouwenstem?

Omdat bedrijven ze zo bedachten, en daar zat bijna geen vrouw bij. In 2019 publiceerde UNESCO een rapport met de veelzeggende titel I'd blush if I could.

Dat was het antwoord dat Siri gaf als een gebruiker haar uitschold. Niet "dat is ongepast", maar een verlegen giechel in tekst.

Siri, Alexa en de Google Assistent hadden standaard een vrouwenstem, behulpzaam en altijd beschikbaar met één "hey". Volgens UNESCO maakten vrouwen destijds maar 12 procent van de AI-onderzoekers en 6 procent van de softwareontwikkelaars uit.

Apple paste Siri's antwoord inmiddels aan. Het beeld van de digitale assistente die alles slikt, was toen al wereldwijd verspreid.

Hoe ziet AI een CEO?

Als een witte man in pak. Bloomberg liet in 2023 de beeldgenerator Stable Diffusion meer dan 5.000 mensen tekenen bij beroepen. Op elke vrouw kwamen bijna drie mannen, en bij elk goedbetaald beroep, van rechter tot CEO, waren mannen met een lichte huid in de meerderheid.

Onderzoekers van Hugging Face zagen iets vergelijkbaars bij DALL-E 2: 97 procent van de beelden bij functies als CEO of directeur toonde witte mannen.

Probeer het zelf maar eens. Vraag een beeldgenerator om een CEO, en daarna om een verpleegkundige.

Herkent AI vrouwen even goed als mannen?

Nee, niet altijd. In het onderzoek Gender Shades testten Joy Buolamwini en Timnit Gebru in 2018 drie commerciële systemen voor gezichtsanalyse.

Bij vrouwen met een donkere huid lag het foutpercentage tot 34,7 procent. Bij mannen met een lichte huid was dat hooguit 0,8 procent.

Een systeem dat de ene groep bijna altijd goed ziet en de andere in een derde van de gevallen niet, is geen neutraal systeem.

Is dit allemaal nog actueel?

Deels. Een aantal van deze onderzoeken is een paar jaar oud en bedrijven hebben hun systemen sindsdien aangepast. Dat is goed nieuws, en het kwam er vooral omdat iemand het meette en erover schreef.

Het onderliggende probleem verdwijnt niet vanzelf. Zolang AI leert van een wereld die scheef is, moet iemand blijven kijken. Hoe scheef die wereld in tech nog is, beschreef ik in Hoeveel vrouwen werken er in tech en marketing?

Wat kun je als marketeer doen?

Kijken, vragen en corrigeren. Een paar dingen die helpen:

• Bekijk elk AI-beeld voordat het de wereld in gaat: wie staat er centraal, wie helpt, wie leidt?

• Beschrijf in je prompt precies wie je wilt zien, in plaats van het aan het model over te laten.

• Lees AI-teksten na op stereotypen, zoals de directeur die altijd hij is en de assistent die altijd zij is.

Een hamer heeft geen mening

AI is gereedschap. Een hamer heeft geen mening, maar je kunt er wel scheef mee timmeren. Wie met AI werkt, is verantwoordelijk voor wat eruit komt.

Veelgestelde vragen

Is AI seksistisch?

AI heeft zelf geen mening, maar leert van data waarin ongelijkheid zit. Daardoor kan AI stereotypen overnemen, zoals een CEO die bijna altijd als man wordt afgebeeld.

Waarom hebben spraakassistenten een vrouwenstem?

Bedrijven kozen daar standaard voor. Volgens UNESCO versterkte dat het beeld van de vrouw als behulpzame assistent, in een sector waar destijds maar 12 procent van de AI-onderzoekers vrouw was.

Hoe voorkom je seksisme in AI-beelden?

Beschrijf in je prompt precies wie je wilt zien, en bekijk elk beeld voordat je het gebruikt: wie staat er centraal, wie helpt en wie leidt?