EU start onderzoek naar X-chatbot Grok om uitkleden vrouwen en kinderen
De Europese Commissie is een onderzoek gestart naar online platform X vanwege mogelijke overtredingen van de Europese digitale wetgeving. Daarbij wordt specifiek gekeken naar AI-chatbot Grok van X.
Volgens de Commissie heeft X mogelijk de risico's van Grok voor gebruikers onvoldoende onderzocht. Het gaat onder meer om de verspreiding van illegale content, zoals gemanipuleerde seksueel expliciete beelden. Sommige van die beelden komen mogelijk neer op materiaal over seksueel misbruik van kinderen, aldus de commissie.
X ligt wereldwijd onder vuur vanwege het op grote schaal genereren van seksuele nepbeelden van vrouwen en minderjarigen. Zo konden gebruikers met Grok foto's van bestaande mensen 'uitkleden' en ze bijvoorbeeld in bikini laten afbeelden.
Wel of geen risicobeoordelingVolgens Eurocommissaris Henna Virkkunen zijn seksuele deepfakes "een onaanvaardbare en gewelddadige vorm van misbruik", en moet worden vastgesteld of X de rechten van Europese burgers voldoende beschermt.
In het onderzoek van de commissie wordt beoordeeld of X voldoet aan zijn wettelijke verplichtingen om systemische risico's tijdig te identificeren en aan te pakken. Daarbij gaat het om illegale inhoud, maar ook om mogelijk negatieve gevolgen zoals gendergerelateerd geweld en schade aan het fysieke en mentale welzijn van gebruikers.
Daarnaast onderzoekt de Commissie of X voordat Grok werd geïntroduceerd een verplichte risicobeoordeling heeft uitgevoerd en gedeeld. Dat is namelijk bepaald in de Digital Services Act (DSA), de Europese wet die grote techbedrijven moet reguleren.
Boete van 120 miljoenOok wordt een al lopend onderzoek naar de aanbevelingssystemen van X uitgebreid, mede vanwege de recente overstap naar een op Grok gebaseerd aanbevelingssysteem. De Commissie benadrukt dat de opening van het onderzoek nog geen definitief oordeel inhoudt, maar dat de zaak wel met voorrang wordt uitgevoerd.
De Commissie kan tijdens het onderzoek aanvullende informatie opvragen, inspecties uitvoeren en in uitzonderlijke gevallen voorlopige maatregelen opleggen. Uiteindelijk kan dit leiden tot een besluit dat X de regels niet naleeft, al kan het bedrijf ook toezeggingen doen om de problemen te verhelpen.
X ligt al langer onder vuur van Brussel. In december 2025 kreeg het platform een boete van 120 miljoen euro wegens eerdere overtredingen van de DSA, onder meer vanwege het misleidende 'blauwe vinkje', gebrekkige transparantie van reclame en onvoldoende toegang tot data voor onderzoekers.