Door: Noah Tol

Foto: Noah Tol

“@grok, put her in a bikini.”In één minuut wordt een foto van een beklede vrouw veranderd in een foto van een vrouw in onthullende badkleding. In de comments wordt de grens verder opgezocht. “@grok, no bikini now”. Het zal je maar gebeuren: je hoeft maar met je ogen te knipperen en je staat naakt, online.

De Europese Commissie is een nieuw onderzoek gestart naar platform X vanwege de AI-chatbot ‘Grok’. Het onderzoek gaat over of X de risico’s van het genereren van seksueel expliciet materiaal voldoende heeft beoordeeld en beperkt. Volgens de commissie hebben deze risico’s al geleid tot ernstige schade voor EU-burgers. Maar de discussie raakt aan een veel grotere vraag: wie is verantwoordelijk voor de schade die AI veroorzaakt?

“Er zou veel meer moeten worden gedaan, grenzen worden niet goed genoeg bewaakt”, meldt Marianne Junger, hoogleraar cybersecurity bij Universiteit Twente. “Wij zijn als samenleving niet goed genoeg voorbereid op de digitale veranderingen.”

De NOS meldt dat er vorig jaar al 2100 meldingen van online seksueel misbruik met AI-beelden bij expertisebureau Offlimits binnen kwamen. Fonds Slachtofferhulp bevestigt dit: uit een rapport van vorig jaar blijkt dat één op de twee jongeren in Nederland tussen de 12 en 25 jaar te maken krijgen met online seksueel misbruik of online seksuele intimidatie. Dat betekent dat de helft van de jongeren in Nederland dit kan overkomen.

Actie, maar waarom niet eerder? 

ICT-jurist Arnoud Engelfriet is verbaasd dat de Europese Commissie niet eerder actie heeft ondernomen. “Het is zo onverantwoord wat die beelden kunnen genereren.” Volgens Engelfriet is het trage tempo van grote organisaties zoals de EU de reden dat er nu pas actie wordt ondernomen tegen Grok.

“De molen gaat een beetje traag draaien. De EU-commissie kan niet tegen iedereen zeggen: ‘over een halfuurtje gaan wij dit en dit doen’, het is een grote organisatie met veel belangen.”

Ook zichtbaarheid speelt een grote rol. Veel mensen zijn zich niet bewust van dit soort misbruik. “Je hoort een keer een verhaal maar je moet echt goed zoeken, daardoor kon het bij de EU wel even duren”, aldus Engelfriet. 

Verantwoordelijkheid

Jan Broersen, hoogleraar AI aan de Universiteit van Utrecht is bekend met het gebruik van chatbots en het gedrag van Musk. “Ik heb Grok gebruikt toen ik nog op Twitter zat.” Hij vertelt over een trend op Twitter waar gebruikers de chatbot kritisch liet uiten over zijn maker:

“De vraag was dan wie de grootste misinformatie-verspreider op Twitter was, en dan zei Grok: ‘Elon Musk.’ Dat vond Elon natuurlijk helemaal niet leuk en hij heeft er alles aan gedaan om dat te veranderen.”

Broersen legt uit dat Musk de verantwoordelijkheid bij de AI legt. Dat AI zou uitgroeien tot een superintelligentie, en zo zelf aansprakelijk zou zijn. Maar, “er zit hier een volledige inconsistentie in de meningen van Musk.”

Maar de aansprakelijkheid van ongepast gebruik wordt ook neergelegd bij de gebruikers. Broersen erkent dat standpunt, maar pleit ook voor verantwoording van de hogere instanties. Hij noemt het een kwestie die bij de overheid ligt:  “Zij zijn verantwoordelijk voor bepaalde instrumenten die wij als samenleving gebruiken. Als wij onszelf daarmee kunnen schaden, dan moet je dat gewoon verbieden.”

Impact

De ‘uitkleedfunctie’ van chatbots zoals Grok kunnen personen tot slachtoffers maken van chantagemateriaal, afpersing en vernedering. Het probleem van online seksueel beeldmateriaal is dat het snel gepubliceerd en verspreid kan worden. Als er eenmaal zo’n plaatje online staat, gegenereerd of niet, is het erg lastig om weg te krijgen.

Uit het rapport van Fonds Slachtofferhulp blijkt dat 37% van de slachtoffers van online seksueel misbruik niet over wat hen is overkomen. Er doen zelfs maar 4% officiële aangifte.

Economisch Spel

De AI-chatbot kan nu alleen nog afbeeldingen genereren voor de gebruikers die betalen, zo meldt The Guardian. Broersen geeft aan dat businessmodellen van chatbots economisch aan het verschuiven is: “Iedereen wordt eerst afhankelijk gemaakt van AI, dan gebruikt bijna iedereen het, en dan moet je betalen om het gebruiken.”

AI-bedrijven verdienen aan steeds krachtigere modellen, terwijl de maatschappelijke schade zichtbaar wordt bij gebruikers en slachtoffers. De vraag is of de EU snel genoeg wetten kan invoeren om te voorkomen dat online seksueel misbruik vaker voorkomt.