Franse ministers naar justitie om seksuele inhoud chatbot Grok

PARIJS (ANP/RTR/BLOOMBERG) - Franse ministers hebben een melding gemaakt bij justitie over Grok. Dat is de chatbot van Elon Musks start-up xAI. De chatbot heeft "seksuele en seksistische" inhoud gegenereerd die "overduidelijk illegaal" was, melden de ministers vrijdag in een verklaring.

Ze zeiden dat ze de inhoud ook hebben gemeld bij de Franse mediatoezichthouder Arcom, om te controleren of de inhoud de Digital Services Act (DSA) van de EU overtreedt.

De afgelopen dagen creëerde Grok beelden van schaars geklede minderjarigen, als reactie op verzoeken van gebruikers. Dit is in strijd met het beleid van de chatbot, dat de seksualisering van kinderen verbiedt, meldde Grok deze week op X na vragen van gebruikers.

Volgens de chatbot zijn de aanstootgevende beelden inmiddels verwijderd. "We hebben tekortkomingen in de beveiliging geïdentificeerd en zijn deze met spoed aan het verhelpen."