AI-bazen trekken aan de noodrem: kan kunstmatige intelligentie straks écht de controle overnemen?

Hij waarschuwt onder meer dat AI-agents binnen zes tot twaalf maanden in staat zouden kunnen zijn om grote delen van het internet te beïnvloeden of te controleren. Zijn oproep werd opvallend genoeg gesteund door meerdere prominente namen uit de AI-industrie, waaronder Sam Altman, de CEO van OpenAI, het bedrijf achter ChatGPT, Demis Hassabis, de CEO van Google DeepMind, Elon Musk, de oprichter van xAI en Dario Amodei, de CEO van Anthropic, het bedrijf achter Claude. Volgens NOS steunen deze topmannen de oproep om de ontwikkeling van nieuwe AI-modellen te vertragen om meer ruimte te creëren voor veiligheidsmaatregelen.

Deze angst om AI heeft alles te maken met recursive self-improvement. Dit is het idee dat AI-systemen uiteindelijk in staat kunnen worden om zichzelf steeds verder te verbeteren. Als zo'n ontwikkeling sneller gaat dan mensen kunnen volgen, wordt het moeilijker om te voorspellen wat het systeem vervolgens kan en zal doen. Amodei noemt dit expliciet als een van de risico's waarvoor volgens hem meer veiligheidsmaatregelen nodig zijn. Dat betekent overigens niet dat er nu bewijs is dat AI zichzelf daadwerkelijk onbeperkt kan verbeteren of binnenkort de mensheid gaat overnemen. De timing en waarschijnlijkheid van zulke scenario's zijn onderwerp van wetenschappelijk debat.

Op 15 september 2026 waarschuwde Bilal Chughtai, voormalig research engineer bij Google DeepMind, publiekelijk dat AI in het slechtste scenario alle mensen zou kunnen doden. Hij sluit zich aan bij andere voormalige AI-onderzoekers die de afgelopen weken alarm hebben geslagen over de mogelijkheid dat zeer krachtige AI-systemen uiteindelijk buiten menselijke controle raken. Ook Evan Hubinger, een voormalig onderzoeker bij Anthropic, heeft een zeer ernstige inschatting gemaakt. Hij schat de kans op een noodlottige uitkomst door AI in het komende decennium op meer dan 10 procent. Dat is nadrukkelijk zijn persoonlijke inschatting.

Al in 2023 ondertekenden tientallen belangrijke AI-wetenschappers en techmensen een verklaring van het Center for AI Safety, waarin werd gesteld dat het beperken van het risico op uitsterving door AI een wereldwijde prioriteit zou moeten zijn. Dit is vergelijkbaar met risico's van pandemieën en kernwapens. Onder de ondertekenaars zaten onder andere Sam Altman, Demis Hassabis, Dario Amodei, Geoffrey Hinton en Yoshua Bengio.

Niet iedere AI-wetenschapper is ervan overtuigd dat een superintelligente AI op korte termijn een bedreiging vormt. Er is al jaren discussie tussen onderzoekers die zich grote zorgen maken over het risico van AI en onderzoekers die vinden dat deze scenario's te veel aandacht krijgen ten opzichte van concrete problemen die AI nu al veroorzaakt. Dit zijn problemen als desinformatie, deepfakes, cybercrime, discriminatie door algoritmen, privacy problemen, auteursrecht, banenverlies en machtsconcentratie bij grote techbedrijven. Ook wordt erop gewezen dat doemscenario's rond AI moeilijk wetenschappelijk te voorspellen zijn.