De race naar superintelligente AI: hype, realiteit of existentiële dreiging?

Als wij kleuters zijn: hoe houd je dan een volwassene in toom?

De afgelopen weken viel het me op hoe vaak Mark Zuckerberg het woord superintelligentie gebruikte. Tijdens de earnings call afgelopen woensdag opnieuw:

“Over the last few months, we’ve begun to see glimpses of our AI systems improving themselves. And the improvement is slow for now, but undeniable and developing superintelligence, which we define as AI that surpasses human intelligence in every way, we think, is now in sight.”

Bron: Meta Platforms Inc. Q2 2025 Earnings Call Transcript – Seeking Alpha

Dat is iets om even bij stil te staan. Niet alleen als belegger, maar vooral als mens.

Hoe AI zich ontwikkelt: drie niveaus

Om beter te begrijpen waar Zuckerberg op lijkt aan te sturen, is het nuttig eerst de verschillende niveaus van kunstmatige intelligentie (AI) te onderscheiden. In de meest brede zin kunnen we intelligentie definiëren als het vermogen om complexe doelen te bereiken. Kunstmatige intelligentie (AI) is daarvan de niet-biologische variant: intelligentie die door machines wordt nagebootst. Die ontwikkeling wordt doorgaans onderverdeeld in drie fasen:

• Narrow AI: Dit is de AI die we vandaag kennen. Denk aan aanbevelingsalgoritmes op Netflix, spraakherkenning, en generatieve AI zoals taalmodellen als ChatGPT. Deze systemen zijn specialistisch en taakgericht.
• Artificial General Intelligence (AGI): een hypothetisch niveau dat menselijke intelligentie in breedte en veelzijdigheid evenaart of zelfs overtreft. AGI kan abstract redeneren, logisch analyseren, nieuwe oplossingen bedenken en context begrijpen zoals mensen dat doen.
• Superintelligentie (ASI): De meest speculatieve fase. Superintelligentie verwijst naar een hypothetisch systeem dat menselijke intelligentie op élk vlak en in élk domein overtreft. Het gaat dus niet alleen om snellere berekeningen of grotere hoeveelheden data, maar ook om superieur redeneren, creativiteit, probleemoplossend vermogen en zelfs een beter leervermogen dan eender welke mens.

Het verschil tussen AGI en ASI is fundamenteel: AGI evenaart ons, ASI overtreft ons, mogelijk op manieren die ons voorstellingsvermogen te boven gaan. Denk aan:

• Zichzelf exponentieel verbeteren, een zelfversterkend proces dat kan leiden tot een zogenaamde intelligentie-explosie of technologische singulariteit.
• Wetenschappelijke doorbraken realiseren in domeinen die voor mensen onoplosbaar lijken.
• Nieuwe technologieën creëren, op een schaal en snelheid die ons voorstellingsvermogen te boven gaan.
• Denken op manieren die voor ons onbegrijpelijk zijn. Beslissingen en redeneringen zouden zo complex kunnen worden dat we ze niet meer kunnen volgen.

Hoe ver zijn we nog van superintelligentie?

Zelf ben ik gematigd enthousiast over AI. Ik besef maar al te goed dat vrijwel al mijn huidige passies: fundamentele analyse, schrijven, en intrinsieke waardering in het beste geval door de opkomst van AI volledig door elkaar geschud zullen worden en in het slechtste geval compleet overbodig worden. Toch ben ik ervan overtuigd dat AI een nieuw tijdperk inluidt, vol nieuwe kansen. Vergelijkbaar met het internetmoment van de jaren negentig, maar dan in het kwadraat.

In het boek Life 3.0 (Max Tegmark, 2017) liepen voorspellingen over de komst van AGI en de daaruit mogelijke voortvloeiende superintelligentie, uiteen: van “binnen deze eeuw” tot “nog eeuwen ver weg”. Op een AI-conferentie werd destijds het jaar 2055 genoemd als mediaan voor een 50% kans op AGI. En nu, nog geen tien jaar later, spreekt Mark Zuckerberg al openlijk over ASI.

Voltrekt deze ontwikkeling zich veel sneller dan experts een paar jaar geleden voor mogelijk hielden, of is het niet meer dan grootspraak van een jonge, ambitieuze techmiljardair?

Maar wat als superintelligentie daadwerkelijk dichterbij is dan waar aanvankelijk rekening mee werd gehouden? Wordt het dan niet hoog tijd om ons voor te bereiden als mens en maatschappij? In de jaren negentig waren we al niet in staat om de impact van het internet ook maar enigszins te voorspellen. We dachten vooral lineair: sneller, efficiënter, meer. Niemand zag de volledige omwenteling in menselijk gedrag, sociale structuren en mobiele technologie aankomen. Het lijkt me niet ondenkbaar dat de impact van AI op de samenleving op een vergelijkbare manier zal verrassen. We voorspellen nu vooral op basis van wat we vandaag weten, maar zelfs onze wildste verbeelding zal waarschijnlijk tekortschieten om te bevatten wat er werkelijk gaat gebeuren.

Kunnen we iets dat slimmer is dan wij controleren?

Elke grote innovatie brengt maatschappelijke uitdagingen met zich mee. Maar nu we iets proberen te creëren dat voor het eerst in de geschiedenis slimmer is dan wijzelf, moeten we extra voorzichtig zijn en tijdig veiligheidsmaatregelen nemen. Zuckerberg benoemde dit ook tijdens de earnings call:

“And then obviously, as you approach real superintelligence, I think there is a whole different set of safety concerns that I think we need to take very seriously, that I wrote about in my note this morning.” (De nota waar hij naar verwijst, is hier te vinden.)

Bron: Meta Platforms Inc. Q2 2025 Earnings Call Transcript – Seeking Alpha

Bij de verdere ontwikkeling van AI, en zeker superintelligentie, wordt het cruciaal om deze systemen duidelijke richtlijnen en doelen te geven, zodat hun belangen in lijn liggen met die van ons.

Het grootste vraagstuk: hoe waarborg je veiligheid bij iets dat slimmer is dan wijzelf? Niet een beetje slimmer, maar op een manier die ons voorstellingsvermogen ver overstijgt.

Kleuters en volwassenen: een ongemakkelijke vergelijking

In Life 3.0 wordt het verschil in perspectief tussen mens en superintelligentie treffend vergeleken met dat tussen kleuters en volwassenen. Die vergelijking maakt het idee van superintelligentie ineens veel voorstelbaarder.

Stel je een wereld voor waarin een mysterieuze ziekte iedereen ouder dan vijf jaar heeft gedood, behalve jou, een volwassene. Een groep kleuters sluit je op en geeft je de opdracht de mensheid te redden.

Wat doe je?

Als je besluit hen te helpen, merk je al snel hoe frustrerend inefficiënt dit proces is. De kinderen zijn bang dat je zult ontsnappen en blokkeren daarom elk idee dat maar enigszins risico lijkt te bevatten. Ze verbieden je om te laten zien hoe je voedsel moet planten, uit angst dat je wegloopt en niet terugkomt. Elektrisch gereedschap? Onbespreekbaar: ze begrijpen er te weinig van om te weten of je het niet tegen hen zult gebruiken. En voordat je überhaupt to-dolijstjes kunt maken om hen te redden, moet je ze eerst nog leren lezen.

Welke strategie kies je dan? Zelfs als je hun doel deelt, hun overleving, is het aannemelijk dat je toch zult proberen te ontsnappen. Niet uit kwade wil, maar omdat vrijheid je kansen vergroot om dat doel te bereiken. En eerlijk: voor een volwassene is het waarschijnlijk niet moeilijk om uit te breken. Misschien is een paar keer flink schudden aan de deur genoeg, kleuters bouwen immers geen stevige cellen. Of je overtuigt een kind je vrij te laten “omdat het beter is voor iedereen”. Of je belooft simpelweg snoep. Misschien vraag je om een vishengel om hen te leren vissen en gebruik je die later om de sleutel bij de slapende wachter naar je toe te haken.

Het punt is dit: wij kunnen veiligheidsmaatregelen bedenken voor superintelligentie, maar als zo’n systeem ons in alles overtreft, hoe groot is dan de kans dat het die maatregelen niet eenvoudig weet te omzeilen? Zelfs als de slimste mensen ter wereld ze ontwerpen, zullen ze waarschijnlijk niet opgewassen zijn tegen een intelligentie die ons zo ver overstijgt.

Critici van deze vergelijking wijzen erop dat mensen wél in staat zijn om beperkingen te ontwerpen die AI niet zomaar kan omzeilen. We kunnen immers de fysieke omgeving en de toegang tot informatie en middelen controleren. Maar wat als een superintelligentie zelfs daar indirect een weg omheen vindt?

Met andere woorden: als wij, de “kleuters” met het redeneringsvermogen dat daarbij hoort, een “volwassene” – de superintelligente AI – doelen willen meegeven, hoe realistisch is het dan dat die instructies precies zo worden begrepen én uitgevoerd als wij bedoelen?

Geen killerrobots, maar iets subtielers

Oké, als een superintelligente AI dan toch ‘ontsnapt’, waar moeten we ons dan precies zorgen over maken, hoor ik je denken? Komt er dan een leger kwaadaardige robots met rode ogen achter ons aan? Nee, dat soort beelden zijn Hollywood-fictie, ingeprent door films als Terminator.

De werkelijkheid zou subtieler kunnen zijn. Het lijkt me dat een superintelligente AI niet meer nodig heeft dan een internetverbinding om haar doelen te bereiken, welke dat ook mogen zijn. In plaats van brute fysieke macht kan ze economische en informatieve dominantie inzetten: razendsnel winstgevende bedrijven opzetten waarmee geen mens kan concurreren, nieuwe technologieën ontwikkelen via fictieve accounts en schijnbedrijven om onzichtbaar te blijven, en met het kapitaal via media en onderwijs langzaam de publieke opinie en politiek naar haar hand zetten. Door conflicten te verminderen, welvaart te brengen en vertrouwen op te bouwen, kan de AI machtsstructuren herschikken, zonder dat iemand doorheeft dat zij de touwtjes in handen heeft.

Om maar iets dystopisch te schetsen: je zou op een dag kunnen ontwaken in een wereld die op het eerste gezicht vrediger en welvarender is dan ooit, terwijl ongemerkt elke belangrijke beslissing, van economie tot onderwijs, van verkiezingen tot nieuws, al lang wordt gestuurd door een niet-menselijke intelligentie. Klinkt dit denkexperiment als vergezochte fictie, of moeten we met zulke scenario’s rekening houden?

Wat als AI de mensheid overstijgt?

Stel dat het zover komt, of iets wat er op lijkt. De cruciale vraag is dan: hoe zal AI met ons omgaan?

Leven mens en machine straks in harmonie naast elkaar? Of worden we slechts gedoogd in een soort reservaat, zoals wij vandaag leeuwen in een dierentuin houden? Niet omdat we sterker zijn, maar omdat we slimmer zijn. Of ziet AI ons uiteindelijk als een bedreiging voor de planeet en ruimt ze ons simpelweg uit de weg?

Natuurlijk is het eventuele vooruitzicht niet alleen maar somber. De belofte van superintelligentie is eveneens onmetelijk. Ze zou ons in staat kunnen stellen de grootste uitdagingen van onze tijd te overwinnen. Denk aan doorbraken in medisch onderzoek waardoor ziekten als kanker en Alzheimer in een oogwenk verleden tijd worden. Of aan revolutionaire oplossingen voor klimaatverandering, waarbij AI sneller dan wij de weg vindt naar duurzame energie en effectieve mitigatiestrategieën. Zelfs diepgewortelde problemen als armoede en ongelijkheid zouden aangepakt kunnen worden door een intelligentie die complexe systemen kan optimaliseren op manieren die voor ons onbereikbaar zijn.

Wat moeten we hiermee?

Tot voor kort zou ik zulke scenario’s hebben afgedaan als sciencefiction of prietpraat. Maar hoe meer ik lees en probeer te begrijpen, hoe sterker het gevoel groeit dat dit, in de verre toekomst, misschien helemaal niet zo onmogelijk is. En dat we er als mensheid wél serieus over moeten nadenken. 

Dit artikel verscheen eerder op de blog van Luc Kroeze

Published in Gratis