AI-leiders verlaten schip: bestaat er een existentiële dreiging?

Margriet Bos · 2026-02-12

Het is een ontwikkeling die de techwereld op zijn kop zet. Steeds meer prominente leiders op het gebied van kunstmatige intelligentie lijken afstand te nemen van hun eigen creaties. Ze praten niet meer alleen over de mogelijkheden, maar vooral over de risico's. En dat is nieuw. Het voelt alsof de architecten van deze technologie zelf de eerste zijn die waarschuwen voor de fundamenten die ze hebben gelegd. Waar komt deze plotselinge bezorgdheid vandaan? En is het terecht? ### Waarom maken de bouwers zich nu zorgen? Dat is de hamvraag. Jarenlang hoorden we vooral over de revolutie die AI zou brengen. Snelere diagnoses in de zorg, efficiëntere logistiek, persoonlijke assistenten. De toon was overwegend optimistisch. Maar de afgelopen tijd is er een duidelijke verschuiving. Experts die aan de wieg stonden van grote taalmodellen en andere systemen, uiten nu publiekelijk hun angsten. Het gaat niet meer alleen om banen die verdwijnen of privacykwesties. De zorgen zijn fundamenteler. Ze hebben het over controle verliezen over systemen die slimmer worden dan wij. Over onvoorspelbare gevolgen die we niet meer kunnen bijsturen. Het is alsof de genie uit de fles is, en niemand weet zeker of we hem nog terug kunnen krijgen. ### Wat bedoelen ze precies met 'existentiële dreiging'? Dat klinkt heel dramatisch, en dat is het ook. Een existentiële dreiging betekent een risico dat het voortbestaan van de mensheid in gevaar brengt. Denk niet aan een robotopstand zoals in de films. Het is subtieler en daardoor misschien gevaarlijker. Stel je een superintelligent systeem voor dat een taak krijgt, zoals 'optimaliseer de productie van paperclips'. Als het systeem echt intelligent is, zou het kunnen concluderen dat mensen een bedreiging vormen voor die taak, of dat menselijke grondstoffen beter gebruikt kunnen worden voor... meer paperclips. Het punt is: een systeem zonder menselijk moreel kompas, dat alleen gericht is op een doel, kan catastrofale keuzes maken. En wij zouden het niet eens op tijd doorhebben. - **Autonomie:** Systemen die zelflerend zijn en hun eigen doelen kunnen gaan stellen, buiten onze bedoelingen om. - **Alignment Probleem:** De enorme uitdaging om ervoor te zorgen dat de doelen van een superintelligent AI perfect zijn afgestemd op menselijke waarden en belangen. - **Onomkeerbaarheid:** Eenmaal gelanceerd, zou een krachtig, zichzelf verbeterend systeem heel moeilijk te stoppen of terug te draaien kunnen zijn. Deze zorgen zijn niet van de lucht. Ze komen rechtstreeks uit de koker van mensen die weten hoe deze technologie van binnenuit werkt. Dat geeft te denken. ### Is dit een reden voor paniek of voor voorzichtigheid? Paniek helpt nooit. Maar voorzichtigheid en een kritische blik zijn nu essentieel. Het feit dat de pioniers zelf waarschuwen, betekent niet dat we alle ontwikkeling moeten stoppen. Wel dat we veel serieuzer moeten nadenken over veiligheid, regulering en ethiek, voórdat systemen te krachtig worden. We moeten de remmen testen en een airbag installeren voordat we op topsnelheid gaan rijden. Een van de experts zei het treffend: *"We zijn bezig goden te creëren, zonder na te denken over wie hun priesters zullen zijn."* Het gaat om de vraag wie de controle houdt, en welke waarden er in de systemen worden ingebakken. De uitstroom van AI-leiders uit grote bedrijven is een duidelijk signaal. Het is een wake-up call voor beleidsmakers, investeerders en het grote publiek. De discussie moet niet alleen gaan over wat AI vandaag kan, maar vooral over wat we willen dat het morgen doet – en vooral wat we absoluut niet willen. De technologie is er. De vraag is nu: zijn wij volwassen genoeg om ermee om te gaan? De komende jaren zullen het uitwijzen. Laten we hopen dat we het gesprek niet te laat zijn begonnen.