De EU start een tweede onderzoek naar de niet-consensuele beeldgeneratie van Grok

X wordt geconfronteerd met een nieuw onderzoek naar Grok’s gerapporteerde creatie van niet-consensuele seksuele afbeeldingen op het platform. De Ierse Information Safety Fee (DPC) heeft een onderzoek naar X met betrekking tot de schadelijke, intieme beelden en verwerking van persoonsgegevens van personen uit de EU en de EER, inclusief kinderen.

In een periode van elf dagen genereerde X ongeveer drie miljoen geseksualiseerde afbeeldingenwaarvan naar schatting 23.000 kinderen. De Britse non-profitorganisatie Centre for Countering Digital Hate (CCDH) heeft dit bekendgemaakt resultaten van de evaluatie van 29 december tot en met 9 januari vorige maand.

Cruciaal is dat het onderzoek zal uitwijzen of X de AVG-wetgeving heeft overtreden. “De DPC is bezig met XIUC sinds er een aantal weken geleden voor het eerst berichten in de media verschenen over het vermeende vermogen van X-gebruikers om het @Grok-account op X te vragen om geseksualiseerde beelden van echte mensen te genereren, inclusief kinderen”, zei DPC-adjunct-commissaris Graham Doyle, verwijzend naar X met de volledige titel X Web Limitless Firm (XIUC).

Doyle vervolgde: “Als leidende toezichthoudende autoriteit voor XIUC in de EU/EER is de DPC een grootschalig onderzoek begonnen dat de naleving door XIUC van enkele van hun fundamentele verplichtingen onder de AVG met betrekking tot de onderhavige zaken zal onderzoeken.”

Het onderzoek van de DPC zou gevolgen kunnen hebben voor X in de hele EU, terwijl het ook zou voortbouwen op soortgelijke onderzoeken in het blok. In januari heeft de Europese Commissie een onderzoek gestart of X de Digital Companies Act heeft overtreden. Er wordt onderzocht of X de risico’s van Grok op X goed heeft “beoordeeld en beperkt”, inclusief de verspreiding van illegale inhoud zoals de niet-consensuele seksueel expliciete afbeeldingen van de AI-generatie. Dit omvat opnieuw die van kinderen; dit verontrustende punt kan niet genoeg worden benadrukt.

X beweerde medio januari van wel het voorkomen van Grok van het bewerken van foto’s van echte mensen tot onthullende kleding. Dit lijkt echter verre van de waarheid. Eerder deze maand ontdekte een mannelijke verslaggever dat Grok hem nog steeds zou plaatsen in onthullende kleding en voegde zelfs zichtbare genitaliën toe.