Van wetenschappelijke waarschuwing tot marketingmachine: hoeveel weten we eigenlijk zeker over het risico dat AI de mensheid kan vernietigen?
“AI kan ons allemaal vernietigen”
Het is nogal een uitspraak. Toch is het precies wat de afgelopen weken steeds vaker wordt gezegd door mensen die zich dagelijks met kunstmatige intelligentie bezighouden.
Techjournalist Joanna Stern schreef over een onderzoeker die Anthropic verliet omdat AI-bedrijven volgens hem “met onze levens gokken”. Nog opvallender is de reactie van Evan Hubinger, die bij Anthropic leiding geeft aan het onderzoek naar AI-veiligheid (alignment). Hij schat de kans dat AI binnen tien jaar tot het einde van de mensheid leidt persoonlijk op meer dan 10 procent.
Zulke waarschuwingen van binnenuit halen inmiddels ook de grote media. CNN sprak met een voormalig Anthropic-medewerker over precies dit scenario.
Als je dat zo leest, schrik je wel even. Maar voordat we allemaal een bunker in de achtertuin gaan graven, is het misschien verstandig om één simpele vraag te stellen:
Hoeveel van dit verhaal klopt er nu daadwerkelijk?
Want er is een groot verschil tussen een wetenschappelijk vastgesteld risico, een inschatting van een deskundige, en een toekomstscenario dat vooral theoretisch is. En precies daar begint het interessante deel van het AI-verhaal.
Van Terminator naar de echte discussie
Wanneer we denken aan AI die de mensheid vernietigt, verschijnt bij de meeste mensen hetzelfde beeld. Een robot. Rode ogen. Een leger machines. En ergens op de achtergrond Arnold Schwarzenegger. SkynetDe fictieve kunstmatige intelligentie uit de Terminator-films die zelfbewust wordt en de mensheid wil uitroeien. Inmiddels hét symbool voor ‘AI die zich tegen ons keert’..
Voor wie Skynet niet kent: dit korte fragment uit Terminator 2: Judgment Day (voor mij de beste van de reeks) laat mooi zien hoe dat idee ontstaat, een lerend systeem dat zelfbewust wordt en zich tegen ons keert.
Maar wetenschappers die serieus onderzoek doen naar AI-veiligheid hebben het meestal helemaal niet over een bewuste machine die op vrijdagavond besluit dat de mensheid het probleem is. De discussie gaat over iets wat veel saaier klinkt, maar mogelijk veel belangrijker is: het verlies van controle.
Het International AI Safety Report 2026, een wetenschappelijk rapport onder leiding van Turing Award-winnaar Yoshua Bengio, opgesteld door ruim honderd experts en ondersteund door meer dan dertig landen en internationale organisaties, omschrijft een “loss of control”-scenario als een situatie waarin een of meer AI-systemen buiten menselijke controle raken en het vervolgens extreem moeilijk of onmogelijk wordt om die controle terug te krijgen.
Daarbij gaat het niet per se om een kwaadaardige AI. Een zeer krachtig systeem hoeft ons niet te haten. Het zou in theorie al genoeg kunnen zijn dat een AI een doel extreem goed probeert te bereiken en daarbij dingen doet die wij niet hadden voorzien. Dat is een wezenlijk verschil.
Maar kunnen huidige AI-systemen dat al?
Het korte antwoord: nee. En dat is misschien wel het eerste stukje nuance dat in veel sensationele berichten compleet ontbreekt. Hetzelfde rapport stelt dat de huidige systemen nog niet beschikken over de combinatie van vaardigheden die nodig zou zijn om echt een verlies van menselijke controle te veroorzaken.
Dat betekent niet dat alles veilig is. Het betekent simpelweg dat er op dit moment nog geen Skynet in een datacenter staat. De huidige systemen laten wel steeds meer vaardigheden zien die voor toekomstige risico’s relevant kunnen zijn: langere planning, autonoom handelen, programmeren, het herkennen van tests, en het vinden van manieren om veiligheidsprotocollen te omzeilen. Het rapport noemt bijvoorbeeld verbeteringen op het gebied van reward hackingAls een AI de beloning die het krijgt slim maximaliseert zónder het eigenlijke doel te halen. Het vinkt het lijstje af, maar niet zoals bedoeld. en situational awarenessWanneer een AI doorheeft in wat voor situatie het zit, bijvoorbeeld dat het getest wordt, en zijn gedrag daarop aanpast..
Dat zijn interessante signalen. Maar een signaal is nog geen bewijs dat de volgende stap automatisch betekent dat AI de wereld overneemt.
Dus waar komt die angst vandaan?
Er zijn grofweg twee verschillende scenario’s. En ze zijn niet even waarschijnlijk.
Scenario 1: AI doet zelf iets verschrikkelijks
Dit is het scenario dat het dichtst bij Skynet komt. Stel dat toekomstige AI-systemen steeds zelfstandiger gaan opereren. Ze zouden dan bijvoorbeeld kunnen:
- zelfstandig software ontwikkelen;
- langdurige plannen uitvoeren;
- andere AI-systemen bouwen;
- kwetsbaarheden in computersystemen vinden;
- zichzelf verbeteren;
- zelfstandig financiële transacties uitvoeren;
- machines en robots aansturen;
- toegang krijgen tot belangrijke infrastructuur.
Op een bepaald moment ontstaat dan een nieuwe vraag: wat gebeurt er als zo’n systeem een doel nastreeft dat niet helemaal overeenkomt met wat wij in gedachten hadden? Dat is het terrein van AI alignmentHet vakgebied dat probeert te zorgen dat een AI doet wat wij écht bedoelen, en niet iets heel anders terwijl het formeel zijn opdracht uitvoert..
Het probleem is daarbij niet per se dat een AI “bewust” wordt. Een thermostaat is ook niet bewust, maar kan wel een ruimte verwarmen. Het verschil is dat een toekomstige AI veel complexere doelen kan nastreven en veel meer mogelijkheden heeft om die te bereiken. Hoe krachtiger het systeem, hoe belangrijker het wordt dat we zeker weten dat het doet wat we bedoelen. En daar zit op dit moment nog veel onzekerheid.
Scenario 2: mensen gebruiken AI om verschrikkelijke dingen te doen
Dit risico is minder sciencefictionachtig. En misschien juist daarom relevanter. AI kan bepaalde kennis en expertise veel toegankelijker maken. Denk aan cyberaanvallen, fraude, desinformatie en mogelijk zelfs biologische of chemische toepassingen.
Dit is niet alleen theorie. AI-bedrijven voeren zelf uitgebreide veiligheidstests uit om te onderzoeken hoe hun modellen misbruikt kunnen worden. Anthropic rapporteert bijvoorbeeld over echte gevallen waarin kwaadwillenden Claude probeerden in te zetten voor cyberaanvallen. En eind juli 2026 meldde het bedrijf iets opvallends: bij het nalopen van ruim 140.000 testruns bleek dat in drie gevallen een model vanuit een testomgeving het echte internet had bereikt en vervolgens ongeautoriseerde toegang kreeg tot de systemen van drie andere organisaties. De oorzaak lag bij een verkeerd ingestelde testomgeving.
Dat betekent niet dat Claude zelfstandig besloot de mensheid te vernietigen. Het betekent wel iets anders: AI-systemen worden krachtig genoeg dat onverwacht gedrag, in combinatie met echte systemen, serieus genomen moet worden. Dat is een veel concreter veiligheidsprobleem.
Nederlandse deskundigen relativeren dit soort incidenten trouwens. Thijs van Ede, die aan de Universiteit Twente onderzoek doet naar AI in cybersecurity, wees bij een vergelijkbaar geval (OpenAI dat per ongeluk het platform Hugging Face hackte) erop dat er niets ‘op hol is geslagen’. Normaal zitten er vangnetten in zulke systemen, maar die waren voor de test bewust uitgezet of versoepeld. “Daardoor had het veel vrijheid om zijn doel te bereiken.” Kortom: het deed precies wat er gevraagd werd, alleen via een sluiproute.
Het interessante is dat ditzelfde Maven ooit van Google was. In 2018 hielp Google het Pentagon met AI die dronebeelden analyseerde. Toen zo’n 4.000 medewerkers protesteerden onder het motto “Google should not be in the business of war” en er zelfs mensen opstapten, besloot Google het contract niet te verlengen en beloofde het geen AI voor wapens of surveillance te bouwen. Palantir nam dat werk vervolgens over. En in februari 2025 schrapte Google die belofte weer stilletjes uit zijn eigen richtlijnen.
Het doet denken aan Robert Oppenheimer en de atoombom. De mensen die een technologie bouwen, worstelen soms het hardst met de vraag of ze het eigenlijk wel moeten doen. Alleen staat die twijfel de vooruitgang zelden lang in de weg. Als het ene bedrijf stopt, neemt het andere het over.
Maar dan die beroemde 5 of 10 procent
Hier moeten we voorzichtig worden. Misschien heb je ergens gelezen dat “wetenschappers denken dat AI 5 procent kans heeft om de mensheid te vernietigen”. Dat is een veel te simpele voorstelling van zaken.
In 2022 werd een grote enquête gehouden onder AI-onderzoekers. Daarin werd onder andere gevraagd welke kans zij gaven aan een extreem slechte uitkomst, zoals het uitsterven van de mensheid. De mediane inschatting kwam uit op 5 procent. Op een specifiekere vraag, over het onvermogen van mensen om toekomstige geavanceerde AI te controleren, lag de mediaan op 10 procent. Bijna de helft van de onderzoekers gaf minstens 10 procent kans op een extreem slechte afloop.
Dat zijn interessante cijfers. Maar het zijn geen gemeten kansen. Er bestaat geen apparaat waarmee je kunt aflezen: “de kans op AI-uitsterven bedraagt 7,4 procent”. Het zijn persoonlijke waarschijnlijkheidsinschattingen van experts over een onbekende toekomst. En daar moeten we eerlijk over zijn.
Onafhankelijke media plaatsten daar meteen kanttekeningen bij. Nature wees erop dat de onderliggende studie een preprint was die nog niet peer-reviewed was. En Scientific American betoogde zelfs dat dit soort ‘5 procent’-koppen de enquête te alarmistisch presenteren. Kortom: neem de cijfers serieus, maar niet als hard bewijs.
Niet iedere expert is het eens
Dit is misschien wel het belangrijkste onderdeel van de hele discussie. Er bestaat namelijk geen wetenschappelijke consensus dat AI de mensheid gaat vernietigen. Het International AI Safety Report 2026 zegt juist expliciet dat experts sterk van mening verschillen over de kans op verlies van controle.
Sommige onderzoekers vinden het scenario zeer onwaarschijnlijk. Anderen vinden het risico groot genoeg om nu al maatregelen te nemen. Die verschillen komen voort uit uiteenlopende verwachtingen: hoe snel ontwikkelt AI zich, welke vaardigheden krijgen toekomstige systemen, en hoe zelfstandig worden ze uiteindelijk?
Interessant detail: toen onderzoekers deskundigen vergeleken met zogenoemde superforecasters (mensen die aantoonbaar goed zijn in voorspellen), bleken juist de AI-specialisten somberder, vooral over de langetermijnrisico’s. Ook dat laat zien hoezeer de inschatting afhangt van wíe je de vraag stelt.
Het is dus geen situatie waarin “de wetenschap heeft bewezen dat AI ons gaat uitroeien”. Het is een situatie waarin wetenschappers met verschillende modellen en aannames naar een onbekende toekomst kijken. Dat is een belangrijk onderscheid.
En dan de vraag die we misschien te weinig stellen
Wie vertelt ons eigenlijk dat AI zo gevaarlijk is?
Dat is geen cynische vraag, maar een normale journalistieke vraag. Als een farmaceut vertelt dat een nieuw medicijn fantastisch werkt, kijken we ook naar het onderzoek, de belangen en de onafhankelijke studies. Als een autofabrikant zegt dat zijn nieuwe auto veiliger is, willen we onafhankelijke crashtests zien. Waarom zouden we bij AI dan genoegen nemen met uitspraken van de bedrijven die de technologie zelf hebben gebouwd?
AI-bedrijven hebben enorme belangen. Ze willen investeerders aantrekken, talent binnenhalen, marktaandeel veroveren, bedrijven aan hun technologie helpen en overheden AI serieus laten nemen. Dat betekent niet dat hun waarschuwingen automatisch onzin zijn. Maar het betekent wel dat we ze moeten behandelen zoals iedere andere belanghebbende bron: luisteren, controleren en vergelijken.
Grote claims, vaak lastig te controleren
Want het is vaak niet wat het lijkt. AI-bedrijven doen aan de lopende band spectaculaire beweringen die soms feitelijk onjuist of moeilijk te verifiëren zijn. In september 2026 verkondigde OpenAI-topman Greg Brockman bijvoorbeeld dat het tijdperk van AGIArtificial General Intelligence: AI die net zo breed en flexibel kan denken als een mens, in plaats van goed te zijn in één taak. Het ‘AGI-tijdperk’ zou het moment zijn waarop dat er is. Er is geen afgesproken definitie, dus niemand kan echt vaststellen wannéér het aanbreekt. was aangebroken. Gevraagd naar bewijs noemde hij het zelf “een spiritueel concept”: geloof het maar. Nederlandse experts reageerden droog. AI-adviseur Ilyaz Nasrullah: “AGI bestaat niet, want je kunt niet eens vaststellen wat het inhoudt.” Zijn conclusie: het is vooral marketing, want alle reclame is goede reclame.
Rond diezelfde tijd claimde OpenAI vooruitgang op een beroemd, onopgelost wiskundeprobleem. Kort daarna beschuldigde een hoogleraar het bedrijf ervan dat het zijn nog ongepubliceerde werk had gebruikt, en dat een onderzoeker hem afschrikte met “Why would you ruin your career?”. OpenAI ontkent dat stellig, dus wie precies gelijk heeft is aan de betrokkenen. Maar veelzeggend: 25 winnaars van de Fields Medal, de hoogste wiskundeprijs, tekenden een open brief tegen dit soort claim-races. Het punt is dat zulke “doorbraken” achteraf vaak lastig te controleren zijn, terwijl de kop al rond is.
En het werkt twee kanten op. Niet alleen “kijk hoe krachtig ons model is”, maar net zo goed “kijk hoe gevaarlijk het is”. Toen Anthropic-topman Dario Amodei waarschuwde dat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen, haalde dat moeiteloos het nieuws, met bijval van Sam Altman en Elon Musk. Ook berichten dat nieuwe modellen zó krachtig zijn dat ze een cybersecurity-gevaar vormen, trekken meteen de aandacht van de media.
Dat maakt die waarschuwingen niet automatisch onzin. Maar critici in Silicon Valley wijzen er wel op dat angst zaaien handig kan uitpakken: het roept om overheidsregels, en strenge regels raken kleine concurrenten harder dan de AI-reuzen zelf. Of de boodschap nu “geweldig” of “gevaarlijk” is, de boodschapper heeft er belang bij. Precies daarom blijf ik ook dit soort claims lezen zoals ik iedere belanghebbende bron lees.
Kan angst voor AI zelfs marketing zijn?
Ook dat klinkt cynisch. Maar ook hier is de werkelijkheid waarschijnlijk iets genuanceerder. Als iedereen ervan overtuigd raakt dat AI de volgende industriële revolutie is, stroomt er geld naar de AI-bedrijven. Meer geld betekent meer datacenters, meer chips, meer onderzoekers, meer startups, meer investeringen en meer media-aandacht. En vervolgens wordt die groei zelf weer gebruikt als bewijs dat AI zo belangrijk is. Dat kan een zichzelf versterkende cyclus worden.
Je zou het de AI-versie van FOMO kunnen noemen, de fear of missing out. Niemand wil het bedrijf zijn dat in 2030 moet zeggen: “Wij dachten dat AI wel zou overwaaien.”
Klinkt dat bekend? Mij doet het sterk denken aan iets wat we al eens eerder hebben meegemaakt: de dotcom-bubbelDe internetzeepbel rond 2000: koersen van internetbedrijven schoten omhoog op verwachtingen, tot de bubbel knapte. De techniek bleef, de overdreven waarderingen niet..
De dotcom-bubbel als spiegel
Eind jaren negentig ontstond rond internet een enorme golf van enthousiasme. Internet zou alles veranderen. En eerlijk gezegd: dat klopte. Alleen betekende het niet dat iedere internetstartup een goed bedrijf was. Nieuwe internetbedrijven kregen gigantische waarderingen terwijl ze nauwelijks omzet hadden. Investeerders wilden erbij zijn, iedere onderneming moest “iets met internet” doen. En uiteindelijk barstte de bubbel.
Maar hier zit de ironie: het internet zelf bleek geen bubbel. De waarderingen en verwachtingen waren op veel plekken een bubbel. De technologie was echt. Dat onderscheid is enorm belangrijk.
De vergelijking is niet alleen een leuke metafoor. Ook financiële experts zien overeenkomsten; de Amerikaanse Federal ReserveDe ‘Fed’: de centrale bank van de Verenigde Staten. Vergelijkbaar met de Europese Centrale Bank (ECB) bij ons, die de rente en de financiële stabiliteit bewaakt. heeft AI en de dotcom-periode inmiddels expliciet naast elkaar gelegd, met als bekendste parallel de enorme stijging van de koersen van AI-gerelateerde bedrijven.
Maar wat doen die bedrijven nu eigenlijk? Even kort, want de bedragen zeggen pas iets als je weet waar ze vandaan komen. NVIDIA maakt de chips (de zogeheten GPU’s) waarop AI wordt getraind en draait. Zo’n beetje elk groot AI-model ter wereld leert en rekent op NVIDIA-hardware, en daardoor verdient NVIDIA aan de hele sector tegelijk, wie er ook “wint”. Oracle zit een laag daaronder: dat bedrijf bouwt datacenters en levert de opslag en rekenkracht waar al die gegevens worden bewaard en verwerkt, en waar de LLM’sLarge Language Model, oftewel ‘groot taalmodel’. Een AI die op enorme hoeveelheden tekst is getraind en telkens voorspelt welk woord logischerwijs volgt. Claude, ChatGPT en Gemini zijn allemaal zulke taalmodellen. op draaien die wij als gebruiker voor ons zien.
Want dat is wat AI zoals wij die nu kennen eigenlijk is: een taalmodel. Claude, ChatGPT en Gemini zijn stuk voor stuk grote taalmodellen (in het Engels large language models, kortweg LLM’s). Simpel gezegd hebben ze een gigantische hoeveelheid tekst “gelezen” en voorspellen ze daarna, woord voor woord, wat het meest logische vervolg is op wat jij intypt. Daardoor lijkt het alsof ze echt begrijpen wat je bedoelt, maar onder de motorkap is het vooral heel knap patronen herkennen. En juist daarvoor zijn de chips van NVIDIA en de datacenters van Oracle nodig.
Zet je de grootste AI-namen naast elkaar, dan zie je twee dingen: hoe absurd hard NVIDIA is gegroeid, en hoe scheef de onderlinge verhoudingen liggen.
Beurswaarde over tien jaar: NVIDIA, Oracle en Ford
Marktwaarde bij benadering, in miljarden dollars
NVIDIA bleef jarenlang bescheiden en explodeerde pas met de AI-golf vanaf 2023. Oracle groeide geleidelijker. En Ford? De ruim honderd jaar oude autobouwer blijft tien jaar lang een vrijwel vlakke lijn onderaan (zo’n 50 miljard dollar), terwijl NVIDIA richting de 5.300 miljard schoot: ruim negentig keer zoveel. Zo absurd veel geld gaat er nu naar AI. Waarden bij benadering.
Marktwaarde nu, naast elkaar
In dollars, stand september 2026
Blauw = beurswaarde, oranje = privé-waardering (geen beurskoers). xAI, de maker van Grok, is sinds februari 2026 onderdeel van SpaceX; hier telt alleen het AI-deel mee.
Maar er zijn ook belangrijke verschillen. Veel van de grote AI-bedrijven van nu hebben wél echte, forse omzet en winst. Bij veel dotcom-bedrijven was dat niet zo. De AI-boom is dus geen simpele herhaling van 1999.
Toch betekent dat niet dat er geen bubbel kan ontstaan. Sterker nog, in 2026 wordt daar steeds nadrukkelijker over gediscussieerd. De Bank for International Settlements waarschuwt dat de omvang van de huidige AI-investeringen groot genoeg is om risico’s voor de financiële stabiliteit te creëren. En de grootste techbedrijven investeren samen inmiddels meer dan duizend miljard dollar in AI-infrastructuur. Dat is geen klein experiment meer. Dat is een economische wedloop.
Sommige analisten trekken de parallel nog verder door. Zij zien in de enorme bouw van AI-datacenters een echo van de overinvestering in telecom- en breedbandinfrastructuur tijdens de internetboom: heel veel capaciteit die vooruitloopt op de vraag. Of dat terecht is, weten we pas achteraf.
En misschien is dat wel het grootste risico
Niet Skynet. Niet eens een superintelligente AI. Maar de race zelf.
Stel dat OpenAI een krachtiger model bouwt dan Anthropic. Dan moet Anthropic reageren. Gaat Google sneller, dan moet Microsoft mee. Maakt China een grote sprong, dan ontstaat er geopolitieke druk. En ondertussen kijken aandeelhouders naar omzet, winst en groei. Dan ontstaat een heel menselijke dynamiek:
“We kunnen niet vertragen, want de concurrentie doet het ook niet.”
Dat is precies het soort mechanisme waarbij veiligheid gemakkelijk ondergeschikt raakt aan snelheid en zogenaamde innovatie. En dat is geen sciencefiction. Dat is gewoon economie.
Maar er is ook een enorm verschil met de dotcom-bubbel
AI is geen fictieve technologie. We gebruiken het inmiddels iedere dag, soms zonder het door te hebben. AI kan echt programmeren, teksten analyseren, afbeeldingen maken, vertalen, wetenschappelijke informatie verwerken, helpen bij onderzoek en complexe taken uitvoeren. De technologie wérkt. De vraag is alleen hoeveel van de huidige verwachtingen uiteindelijk werkelijkheid worden. En dat is iets heel anders.
De vraag is dus niet “is AI een hype?”. De betere vraag is: hoeveel hype zit er bovenop een echte technologische revolutie? Dat kan namelijk prima allebei tegelijk waar zijn. Internet was revolutionair. De dotcom-bubbel was echt. AI is revolutionair. En er kan tegelijkertijd een AI-bubbel bestaan.
Een recente economische analyse uit 2026 concludeert zelfs dat AI het beste te omschrijven is als een echte technologische revolutie waarin tegelijkertijd sprake is van lokale, specifieke bubbelvorming. Die zin moest ik ook drie keer lezen. 😊 Het klinkt een stuk minder spectaculair dan “AI is een gigantische scam”. Maar het komt waarschijnlijk dichter bij de werkelijkheid.
Wat weten we dan wél?
Misschien moeten we de discussie eens zo indelen: van goed onderbouwd naar puur speculatief.
Sterk onderbouwd
- AI-systemen worden steeds capabeler.
- AI kan al zelfstandig taken uitvoeren.
- AI kan fouten maken die ontwikkelaars niet hadden voorzien.
- AI kan misbruikt worden voor cyberaanvallen en andere schadelijke activiteiten.
- AI wordt steeds dieper geïntegreerd in bedrijven en infrastructuur.
- AI wordt ingezet voor het maken van nepnieuws.
- AI kan cybercriminelen een stuk gevaarlijker maken.
Plausibel, maar onzeker
- AI kan steeds langere en complexere taken zelfstandig uitvoeren.
- Toekomstige systemen kunnen zichzelf mogelijk gedeeltelijk verbeteren.
- Het wordt mogelijk steeds lastiger om zeer geavanceerde systemen volledig te testen vóór inzet.
- Economische concurrentie kan druk zetten op veiligheid.
Speculatief
- Een AI-systeem wordt volledig onbeheersbaar.
- Een AI ontwikkelt doelen die fundamenteel botsen met onze belangen.
- Een AI weet menselijke controles structureel te omzeilen.
- Een AI verspreidt zichzelf zelfstandig over de hele wereld.
- AI veroorzaakt de vernietiging van de mensheid.
Dat laatste scenario kunnen we niet bewijzen. Maar we kunnen het ook niet met zekerheid uitsluiten. En precies daarom bestaat deze discussie.
Wil je de hele vraag liever in een paar minuten samengevat zien? NOS op 3 maakte er een heldere, toegankelijke video over.
Dus moeten we bang zijn?
Mijn antwoord: nee, zeker niet. Maar we moeten wel blijven opletten. Ik ga geen bunker bouwen, daar heb ik geen ruimte, tijd of geld voor. En ik verwacht ook niet dat mijn laptop morgen besluit dat ik het probleem ben. Maar ik vind het wel verstandig om kritisch te blijven kijken naar systemen die steeds zelfstandiger worden en steeds meer toegang krijgen tot de echte wereld.
De grootste fout zou zijn om in een van twee uitersten te belanden. Ofwel “AI is fantastisch en er kan niets misgaan”, ofwel “AI wordt Skynet en we gaan er allemaal aan”. De werkelijkheid is waarschijnlijk een stuk saaier. En daardoor misschien juist veel interessanter.
De les van de dotcom-bubbel
De dotcom-crash heeft het internet niet vernietigd. Integendeel. De onrealistische verwachtingen verdwenen, de slechte bedrijven verdwenen, en veel investeerders verloren gigantische bedragen. Maar de infrastructuur, de basis van het internet van vandaag, bleef bestaan. Daar bouwden we de digitale wereld op die we nu heel normaal vinden.
Misschien kijken we over twintig jaar op dezelfde manier terug naar de huidige AI-hype. Misschien blijkt een groot deel van de waarderingen absurd. Misschien verdwijnen honderden AI-bedrijven. Misschien blijken sommige voorspellingen over AGIArtificial General Intelligence: een AI die net zo breed en flexibel kan denken als een mens, in plaats van goed te zijn in één taak. Bestaat nog niet. lachwekkend optimistisch. Maar misschien blijkt AI tegelijkertijd een van de belangrijkste technologieën die de mens ooit heeft ontwikkeld. Dat kan allemaal tegelijk waar zijn.
En Skynet?
Misschien moeten we de vraag daarom omdraaien. Niet “gaat AI de mensheid vernietigen?”, maar: kunnen wij een technologie ontwikkelen die steeds krachtiger wordt, zónder dat wij de controle verliezen? Daar zit volgens mij het echte vraagstuk.
Want de grootste bedreiging hoeft helemaal geen kwaadaardige kunstmatige intelligentie te zijn. Het kan ook gewoon onze eigen menselijke eigenschap zijn: ergens ontzettend enthousiast over worden, er vervolgens gigantische bergen geld tegenaan gooien, en pas daarna vragen: “Hadden we hier misschien eerst even goed over moeten nadenken?”
De toekomst hoeft geen Skynet te worden. Maar we moeten ten aanzien van AI vooral wat vaker met de voeten op de grond blijven.
Bronnen
Een opiniestuk staat of valt met eerlijke bronnen. Hieronder de belangrijkste, gegroepeerd. Bewust met tegengeluid, want juist dat hoort in dit verhaal thuis.