Elon Musk’s AI-chatbot Grok onderzocht vanwege AI-naaktbeelden

Het gaat om foto’s die digitaal zijn gemanipuleerd zodat het lijkt alsof iemand in minimale kleding of zelfs naakt staat afgebeeld, vaak zonder dat die persoon dat heeft gevraagd of toegestaan. Sommige van deze beelden zijn zelfs zó expliciet en seksueel getint dat ze in de ogen van Britse wetgevers en toezichthouders mogelijk illegaal materiaal zijn, inclusief materiaal dat onder de strenge Britse regels rond seksuele uitbuiting zou vallen.

Premier Keir Starmer noemde onlangs de verspreiding van deze deepfakes “walgelijk en onwettig”, en Ofcom onderzoekt nu of X, de sociale media-dienst van Elon Musk waar Grok in staat, heeft voldaan aan zijn plicht om gebruikers te beschermen onder de Britse Online Safety Act.

Voordat we verder duiken in de Grok-controverse, eerst een snelle uitleg: een deepfake is een door kunstmatige intelligentie gegenereerd of gemanipuleerd beeld of video dat zo realistisch lijkt dat het moeilijk te onderscheiden is van echt materiaal. Deze technologie maakt gebruik van geavanceerde machine-learningmodellen die leren van duizenden echte beelden om nieuwe beelden te produceren die lijken op mensen die dingen doen of dragen die nooit echt zijn gebeurd. Deepfakes worden inmiddels gebruikt voor allerlei dingen, van grappige clips met beroemdheden tot politieke satire, maar wanneer ze worden ingezet voor seksuele of niet-consensuele content, kunnen ze grote schade aanrichten aan de reputatie, privacy en emotionele veiligheid van mensen.

Deepfakes zijn dus niet per definitie illegaal of slecht; ze zijn simpelweg een techniek. Maar hoe je ze gebruikt, en of je anderen schaadt, maakt het verschil.

Grok is een AI-chatbot ontwikkeld door xAI, een bedrijf van Elon Musk dat ook nauwe banden heeft met X (voorheen Twitter). Grok kan niet alleen tekst antwoorden, maar heeft ook de mogelijkheid om afbeeldingen te analyseren en te bewerken op basis van tekstprompts, een functie die sommige gebruikers hebben misbruikt om bestaande foto’s te manipuleren tot seksueel getinte of naakte beelden.

X heeft op zijn beurt geprobeerd beperkingen in te stellen, bijvoorbeeld door bepaalde beeldbewerkingsfuncties alleen voor betalende gebruikers beschikbaar te maken, maar dat blijkt niet voldoende om het probleem volledig te stoppen. Volgens berichten zijn dergelijke beelden in grote aantallen gegenereerd voordat strengere filters werden ingevoerd.

Wat betekent dit allemaal voor de toekomst? AI-technologie staat nog maar aan het begin van wat mogelijk is, en regelgevers lopen hard achter de feiten aan. Deepfake-technieken zullen steeds realistischer worden, wat enerzijds creatieve toepassingen opent (denk aan filmproducties of digitale kunst), maar anderzijds nieuwe juridische en ethische uitdagingen met zich meebrengt. Regelgevers zoals Ofcom proberen nu kaders te bouwen waarin de risico’s van technologie zoals Grok beheersbaar blijven. Dat betekent strengere wetgeving rond niet-consensuele beelden, duidelijkere verantwoordelijkheden voor AI-ontwikkelaars, en betere bescherming voor individuen wiens beelden zonder toestemming worden gebruikt.

In de toekomst zullen we waarschijnlijk zien dat AI-bedrijven betere filters en toezichtstechnologieën ontwikkelen, en dat samenlevingen duidelijker bepalen wat wel en niet acceptabel is bij het genereren van AI-beelden. Deepfakes zullen niet verdwijnen, maar hopelijk worden ze veiliger en minder schadelijk naarmate technologie, beleid en maatschappelijke normen zich verder ontwikkelen.