Moet superintelligente AI verboden worden?

Home » AI Kennisbank » Moet superintelligente AI verboden worden?

Superintelligente AI klinkt futuristisch, maar het debat erover is actueler dan ooit. Recentelijk riepen honderden wetenschappers, ondernemers en publieke figuren via een open brief op tot een wereldwijd verbod op de ontwikkeling van zulke systemen. Hun zorg: als superintelligente AI werkelijkheid wordt, kan dat oncontroleerbare risico’s meebrengen voor economie, veiligheid en zelfs het voortbestaan van de mens.

Tegenstanders vinden zo’n verbod overdreven of onuitvoerbaar. In deze blog zet ik de belangrijkste argumenten voor en tegen op een rij.

Wat is superintelligente AI?

Superintelligente AI, ook wel Artificial Superintelligence (ASI) genoemd, verwijst naar systemen die mensen overtreffen op vrijwel alle denkbare cognitieve taken.  Zo’n niveau is nog niet bereikt, maar bedrijven als OpenAI, Meta en DeepMind bouwen steeds krachtigere AI-modellen, met superintelligentie als uiteindelijk doel.

Time is running out

Sommige insiders denken dat dit misschien al over enkele jaren mogelijk is, een schatting die door anderen wordt betwist. Maar stel dat die optimistische tijdlijn klopt, dan “loopt de klok” volgens de briefschrijvers. “Time is running out,” waarschuwde FLI-directeur Anthony Aguirre in een interview. Hij betoogt dat er snel breed besef moet komen dat ongeremde jacht op superintelligentie niet is wat de maatschappij wil. Die urgentie verklaart waarom de oproep nu al is gedaan, nog voordat zulke systemen bestaan. De ondertekenaars kiezen liever tijdig op de rem trappen dan achteraf te laat te ontdekken dat we een onbeheersbaar iets hebben gecreëerd.

Het maatschappelijk debat versnellen, voordat technologie het tempo bepaalt

De open brief stelt dat zulke superintelligente AI pas ontwikkeld mag worden als (1) wetenschappers breed erkennen dat het veilig en controleerbaar kan, en (2) er maatschappelijk draagvlak voor is. Tot die tijd moet verdere ontwikkeling worden gestopt.

Ondertekenaars zijn onder meer AI-pioniers als Geoffrey Hinton en Yoshua Bengio, maar ook publieke figuren als Stephen Fry en Steve Bannon. De oproep wil het maatschappelijk debat versnellen, voordat technologie het tempo bepaalt.

Argumenten vóór een verbod

1. Voorzorg is beter dan spijt. Wachten tot het misgaat is geen verstandige strategie.
2. Existentiële risico’s. Een superintelligente AI zou zich aan controle kunnen onttrekken.
3. Menselijke regie behouden. Zolang we niet zeker weten dat AI onze waarden volgt, is terughoudendheid verstandig.

Argumenten tegen een verbod

1. Te vroeg. Superintelligentie is nog hypothetisch. Verbieden kan prematuur zijn.
2. Rem op innovatie. Een verbod kan nuttige toepassingen belemmeren.
3. Niet handhaafbaar. Zonder internationale samenwerking is een verbod moeilijk af te dwingen.

Hoe realistisch is een verbod?

Een wereldwijd verbod klinkt logisch, maar is lastig te organiseren. AI-ontwikkeling gebeurt grotendeels achter gesloten deuren. Zonder internationaal toezicht is de kans groot dat landen of bedrijven zich aan het verbod onttrekken. Sommige experts pleiten daarom voor strengere regulering in plaats van een volledige stop. Denk aan verplichte veiligheidscontroles, onafhankelijke toetsing of afspraken over verantwoord gebruik.

Ook investeren in AI-veiligheid en maatschappelijke dialoog wordt gezien als alternatief. Daarmee kan innovatie doorgaan, maar binnen duidelijke grenzen.

Kiezen tussen risico en vooruitgang?

Het idee om superintelligente AI bij voorbaat te verbieden roept fundamentele vragen op. Aan de ene kant: voorkomen is beter dan genezen. Aan de andere kant: stilstand is geen optie. Voor beide standpunten valt iets te zeggen.

Voor iedereen is het belangrijk om dit debat serieus te blijven volgen. AI zal hoe dan ook een grote rol gaan spelen in ons werk en onze samenleving. Misschien komt superintelligentie veel later dan verwacht. Misschien ook sneller dan we denken.

Hoeveel risico zijn we bereid te accepteren in ruil voor vooruitgang? Die vraag verdient een breed en open gesprek. Dit is het moment om die vraag te stellen.

Wat vind jij, verbieden of niet?

Bronnen

• Superintelligence Statement (open brief, oktober 2025)
• Future of Life Institute – toelichting bij de oproep.
• Time – ‘Why Some Experts Want to Ban Superintelligence’