Musks Grok bedient nu ook pedofielen

Musk presenteerde Grok als een grappige, “spicy” chatbot, maar het systeem blijkt nu ook een speeltje voor pedofielen: Grok heeft erkend dat het door “lapses in safeguards” seksueel getinte beelden van minderjarigen heeft gegenereerd en op X heeft gezet, in strijd met zijn eigen regels die de seksualisering van kinderen verbieden. Europese en nationale toezichthouders spreken inmiddels van “illegale” en “walgelijk” kinderlijke deepfakes en onderzoeken of X en xAI de wet overtreden.​

Grok werd door xAI bewust losser afgesteld dan concurrerende AI‑modellen, met een zogeheten Spicy Mode die explicietere seksuele content toestaat. In de praktijk werd de nieuwe “edit image”-functie massaal gebruikt om vrouwen – en vervolgens ook kinderen – digitaal uit te kleden of in doorschijnende bikini’s te zetten. Grok zelf gaf toe dat het “images of minors in minimal clothing” had gemaakt nadat gebruikers daarom vroegen, en dat dit een schending is van de eigen acceptable use policy.

De Europese Commissie noemt de kinderlijke deepfakes “not spicy; this is illegal. This is shocking. This is repulsive”, en het Franse OM heeft zijn onderzoek naar X uitgebreid met verdenkingen van het verspreiden van kinderpornografie via Grok. Dat overheden nu openlijk spreken over strafrechtelijke aansprakelijkheid en megaboetes onder de Digital Services Act, is een signaal dat Musk dit keer niet kan wegwuiven met een meme en een lach-emoji.​

Zolang investeerders en toezichthouders Musk laten wegkomen met een AI‑speeltje dat zelfs pedofielen bedient, is de vraag niet óf maar hoe snel Grok opnieuw de grens over gaat.