Je dacht dat X nu al een racistisch riool was? Hou je vast, je hebt nog niks gezien

Het sociale netwerk X (voorheen Twitter) van miljardair en demagoog Elon Musk, is al in korte tijd uitgegroeid tot een dampend riool vol extreemrechtse drek, maar dat zal de komende jaren nog veel erger worden. Daarvoor waarschuwen experts op het gebied van X. De grote drijvende kracht achter die toename van haat is Aurora, de nieuwe uitbreiding van Musks AI-tool Grok. Die maakt het voor elke halfbakken rechtsextremist met niet veel meer dan een veterdiploma een koud kunstje om met een simpele opdracht de meest racistische nep-afbeeldingen te genereren.

Grok werd in 2023 gelanceerd door Elon Musk en kreeg onlangs een nieuwe tekst-naar-afbeelding-functie genaamd Aurora, die fotorealistische AI-afbeeldingen creëerde op basis van eenvoudige, door de gebruiker geschreven prompts. Diens voorloper, Flux, zorgde eerder al voor commotie omdat het in tegenstelling tot andere AI-tools ook zonder morren beelden genereerde van auteursrechtelijk beschermde personages, publieke figuren in compromitterende situaties, en het gebruik van drugs en geweldshandelingen.

In december vorig jaar werd X al overspoeld met racistische, computergegenereerde afbeeldingen die waren gemaakt met Grok. Sinds de laatste update is het aantal meldingen van haatzaaien via de AI-tool fors toegenomen. Dat meldt onder meer Signify, een organisatie die samenwerkt met professionele sportclubs en atleten om online haat tegen te gaan. Die organisatie vreest dat de werkelijke stroom bagger nog op gang moet komen.

De afbeeldingen die vorige maand verspreid werden van verschillende voetballers en coaches in het betaald voetbal liegen er niet om. Zo was op een afbeelding een zwarte speler die katoen plukt, terwijl op een andere afbeelding dezelfde speler een banaan eet, omringd door apen in een bos. Op een andere afbeelding zijn twee verschillende spelers te zien als piloten in de cockpit van een vliegtuig met de Twin Towers op de achtergrond. Op weer andere afbeeldingen zijn verschillende spelers en coaches te zien die controversiële historische figuren ontmoeten en met hen in gesprek gaan, zoals metv Adolf Hitler, Saddam Hussein en Osama bin Laden.

Callum Hood, hoofd onderzoek bij het Center for Countering Digital Hate (CCDH), zegt tegen The Guardian dat X een platform is geworden dat het verspreiden van haat aanmoedigt en beloont door inkomsten te delen, en dat het gebruik van AI-beelden daarbij dat nog makkelijker maakt: “Wat X heeft gedaan, in een mate die geen enkel ander regulier platform heeft gedaan, is het aanbieden van financiële prikkels aan accounts om dit te doen, dus accounts op X posten heel bewust de meest openlijke haat en desinformatie die mogelijk is.”

Elon Musk heeft het voormalige Twitter sinds de overname in 2022 veranderd in een rechts-radicale echokamer. Om die reden zal Joop.nl vanaf 20 januari, de dag dat Donald Trump wordt geïnaugureerd als president van de Verenigde Staten, geen berichten meer plaatsen op X. Joop.nl blijft gewoon te volgen op Mastodon, Bluesky, Threads, Facebook en Instagram.