Franse justitie doet inval bij X-kantoor in Parijs om verspreiding deepfakes en misbruikbeelden

Het Franse Openbaar Ministerie heeft een inval gedaan bij het kantoor van X (voorheen Twitter), dat eigendom is van Elon Musk. De inval maakt deel uit van een strafrechtelijk onderzoek naar het verspreiden van kindermisbruikmateriaal en deepfakes via het platform. Daarmee lijkt de Europese Unie de Digital Services Act (DSA) voor het eerst stevig door te drukken, zo schrijft Cybernews.

Volgens Jurgita Lapienytė, hoofdredacteur van Cybernews, is de inval een signaal dat Europa platforms als X eindelijk serieus op hun verantwoordelijkheid aanspreekt. “Het is verontrustend hoe ver we AI hebben laten ontsporen,” zegt ze. “Deze inval is de EU die eindelijk opstaat met de DSA om platforms als X verantwoordelijk te houden en het verspreiden van deepfakes en CSAM (Child Sexual Abuse Material) te stoppen.”

De gevolgen van het Franse optreden zouden wel eens breder kunnen zijn dan alleen in eigen land. Lapienytė: “Het probleem met X betreft de volledige inhoud, niet enkel Frankrijk. Deze inval kan een domino-effect veroorzaken. Duitsland heeft strenge regels rond Holocaustontkenning, Polen dringt aan op hardere platformverantwoordelijkheid, en Ierland huisvest het Europese hoofdkantoor van X. Als Frankrijk vaststelt dat een platform strafrechtelijk medeplichtig kan zijn aan illegale inhoud, dan zullen aanklagers in andere EU-landen zeker volgen.”

De zaak raakt ook aan het spanningsveld tussen vrijheid van meningsuiting en het tegengaan van schadelijke inhoud. Lapienytė wijst erop dat algoritmes die worden beschuldigd van manipulatie of vooringenomenheid nu directe aanleiding kunnen zijn voor justitieel ingrijpen. “Dit zou moeten leiden tot herontwerpen die voorzichtigheid boven openheid stellen,” stelt ze. “We kunnen meer botsingen verwachten naarmate de Digital Services Act zich verder ontwikkelt.” Onlangs kwam ook WhatsApp in het nieuws met betrekking tot de DSA.

De inval komt op een moment waarop X al onder vuur ligt voor het modereren (of juist niet modereren) van controversiële inhoud, onder meer via de AI-tool Grok, die Musk als alternatief voor ChatGPT heeft gepresenteerd. Of andere Europese landen nu hun eigen onderzoeken starten, hangt volgens Cybernews mede af van de uitkomst van het Franse onderzoek.