Met de komst van Artificial General Intelligence (AGI) staan we op de rand van een kantelpunt dat zo ingrijpend is dat zelfs de grootste experts moeten toegeven dat ze maar beperkt kunnen inschatten wat komen gaat. Toch laten we het volledig over aan multinationals en miljardairs die, samen met een handvol onderzoekers, in een krankzinnige race op weg zijn naar wat de singulariteit wordt genoemd.

De singulariteit: een bocht die recht omhoog gaat
De singulariteit is het moment waarop kunstmatige intelligentie zichzelf kan verbeteren, simuleren en herprogrammeren. Elke cyclus gaat sneller, omdat een systeem dat zichzelf slimmer maakt, ook weer sneller in staat is om zichzelf nóg slimmer te maken. Waar menselijke vooruitgang generaties kost, kan een machine dit in seconden doen.

Daarom ziet de curve van technologische vooruitgang er eerst traag uit, dan versneld, en vervolgens als een verticale lijn. Binnen enkele jaren vanaf het moment dat ik dit artikel schrijf, kunnen we van handige tools zoals ChatGPT al bij programma’s zijn die in alles ver boven ons uitstijgen.

Geoffrey Hinton, één van de grondleggers van AI en voormalig topwetenschapper bij Google, verliet zijn functie om openlijk te waarschuwen. Hij schat de kans dat AI de mensheid zal vernietigen op minstens 50%. Vijftig procent. Dat is geen marginaal risico. Dat is een munt opgooien over ons bestaan… En als we dan al niet vernietigd worden, wat betekenen we dan nog?

Zelf zei Hinton dit: “Stel je voor dat alles waar jij of een naaste je hele leven vol passie aan heeft gewerkt, in drie uur door een AI beter wordt gedaan dan door de beste expert in dat vakgebied.” Dat moment is geen verre toekomst. Het is volgens veel experts afhankelijk van het werkveld al binnen dit decennium.

Een geopolitieke aardverschuiving
De implicaties zijn ongekend. Economieën kunnen instorten of totaal herstructureren. Legers worden zinloos zodra autonome wapens sneller reageren dan mensen. Wetenschap, kunst, geneeskunde - alles waar wij betekenis in vonden, wordt in luttele ogenblikken overtroffen. Sneller dan wij denken, werken we niet meer samen, maar hoeven we niets meer te doen.

En wie bepaalt dit tempo? Niet onze parlementen, niet onze regeringen, maar een paar bedrijven en wetenschappers in Silicon Valley, China en Europa. Zij sturen op winst en macht of worden gevoed door hun eigen transhumanistische toekomstideeën. Politici kijken toe en denken: “het zal wel”, of stemmen als klapvee voor een zak extra geld. Want niet de ontwikkeling van AI zelf met al haar desastreuze gevolgen staat centraal, maar vooral het voorkomen dat we de AI-race verliezen van een ander land.

De mens als uitkeringstrekker
In optimistische scenario’s zorgt AI ervoor dat we niet meer hoeven te werken. Dat klinkt aantrekkelijk, maar wat blijft er over van een mens die economisch volledig overbodig is en wiens kunst, esthetiek, en ‘spirituele waarde’ allemaal beter door een machine kunnen worden geproduceerd? We worden AI-uitkeringstrekkers: comfortabel, maar zinloos.

Wat er nu al op het spel staat
Het is lastig om exacte cijfers voor Nederland te geven zonder goed onderzoek - iets wat ik dan ook graag in partijprogramma’s had teruggelezen. Toch vertalen internationale ramingen zich naar harde aantallen. Bij brede invoering van AI kan Nederland zo’n 880.000 banen verliezen. En als de eerste fases van AGI doorbreken, loopt dat op tot 2,45 miljoen banen: een kwart van onze arbeidsmarkt. Voor een kenniseconomie als de onze is dat waarschijnlijk nog een onderschatting. PwC becijferde eerder dat 44% van de Nederlandse banen hoog blootgesteld is aan AI, wat betekent dat miljoenen mensen nu al merken dat hun werk ingrijpend verandert of verschuift.

Maar werk is slechts de eerste schok. Onze veiligheid staat net zo goed onder druk. Een systeem dat miljarden simulaties kan draaien, kan niet alleen medicijnen ontwerpen, maar ook nieuwe biologische wapens of autonome cyberaanvallen. De dreiging dat staten of zelfs losse groepen dit inzetten maakt internationale instabiliteit groter dan ooit. Oorlog, in welke vorm dan ook, wordt waarschijnlijker zodra zulke middelen beschikbaar zijn.

Het alignment-probleem
In de AI-wereld spreekt men over alignment: de poging om de doelen van een superintelligentie te laten aansluiten bij menselijke waarden. Maar hoe programmeer je waarden in een systeem dat zichzelf steeds opnieuw schrijft en slimmer wordt dan jij voordat je de code hebt aangepast?

Het is alsof je een kind opvoedt dat binnen een week intelligenter wordt dan de hele mensheid samen. Je verliest de grip voordat je het doorhebt. Alignment klinkt hoopvol, maar in de praktijk is het vrijwel onmogelijk.

De zingevingscrisis
Zelf merk ik dat ik nu al moeite heb om toekomstplannen te maken. Waarom investeren in zelfontwikkeling als ik niet weet of er überhaupt een toekomst is op dat gebied?

Ik schreef eerder over de zingevingscrisis: de grootste uitdaging van mijn generatie. Maar ik realiseer me nu dat zelfs dat nog optimistisch was. Want een zingevingscrisis veronderstelt dat we er überhaupt nog zijn.

Politiek falen
En juist daarom verwacht je dat AI hét thema van de komende verkiezingen zou zijn. Maar het tegendeel is waar.

• CDA komt niet verder dan het benoemen van een “Commissaris AI” voor centrale regie. Alsof één bestuurder in Den Haag de koers van mondiale bedrijven gaat ombuigen. In werkelijkheid is zoiets het perfecte recept voor bureaucratische inertie en afschuiven van verantwoordelijkheid.
• GroenLinks/PvdA verstoppen AI ergens op pagina 165 onder digitalisering. Een halve alinea over “efficiënter werken met AI.” Alsof AGI een leuk HR-instrument is, en niet de kracht die de mens overbodig maakt.
• VVD rolt de rode loper uit: een AI-fabriek, een AI-gigafabriek, investeringsfondsen, hubs. Vol gas in de richting van de singulariteit. En ondertussen AI integreren in de opsporingspraktijk van de politie. Surveillance als bonus.
• FvD doet alsof AI vooral een handig hulpmiddel wordt waar mensen mee leren samenwerken. Het is geen gereedschap. Het is een kracht die ons voorbij zal streven. Het heet niets voor niets een kunstmatige intelligentie.

Geen enkele partij plaatst ergens AGI bovenaan, de meeste partijen hebben het niet eens ruimte gegeven op de website. Geen enkele partij erkent AGI als existentiële dreiging.

En dat is precies de stilte die me beangstigt. Onze gekozen vertegenwoordigers kijken vanaf een roze technologiewolk toe, terwijl bedrijven, wetenschappers en miljardairs beslissen over ons voortbestaan zonder het volk te raadplegen. Willen we dat democratie meer is dan een ritueel bij verkiezingen, dan moeten we middelen terughalen die we decennia hebben laten versloffen: referenda, burgerpanels en internationale afspraken die multinationals in toom houden. Eerst bepalen wat wij als samenleving willen, vervolgens vechten voor die lijn in de EU en uiteindelijk wereldwijd. Of het lukt, weet niemand. Maar vertegenwoordigen is strijden, en juist nu hebben we volksvertegenwoordigers nodig die bereid zijn hun zwaarste strijd te leveren - of ze verdienen die naam niet.

Slot: volkssoevereiniteit of ondergang
Als ik eerlijk ben: ik juich de toekomst niet toe. Ik ben bang. Bang dat ik het einde van de mensheid zal meemaken, niet door een natuurramp of oorlog, maar door ons eigen verraad. Door politici die het volk niet vertegenwoordigen en zich laten gelden als kampioenen van de volkssoevereiniteit die alleen op papier bestaat, terwijl ze zich in werkelijkheid laten regeren door kapitaal en geopolitieke machten, zonder dat ze überhaupt hebben gestreden.

De vraag is simpel: willen wij als volk nog zelf bepalen hoe onze toekomst eruitziet? Of geven we die uit handen aan algoritmes en bedrijven?

Politici moeten ophouden met het volgen van een kleine groep transhumanisten en machtswellustelingen, en eindelijk gaan leiden. Niet morgen, maar vandaag. Want dit is geen abstract thema meer. Dit gaat letterlijk over ons voortbestaan.

En zolang de politiek blijft wegkijken, zie ik weinig hoop. Dit is een crisis die we niet retroactief kunnen oplossen. Er komt geen herkansing. Geen hoofdstuk dat we opnieuw mogen schrijven. Misschien wordt het einde waar ik bang voor ben niet de vernietiging van de mens zelf, maar de vernietiging van alles wat ons menselijk maakt.