Bron: Photo by hotblack at Morguefile.com
Ik begrijp dat dat hele AI gedoe eigenlijk enkel mateloos irritant is, maar ik had een uitgebreid gesprek met mijn – bijna kunstmatig intelligente – zoon over AI en onze toekomst met ChatGPT en co. En ik was nog niet klaar, dus ik ga gewoon lekker door. Want AI is scary, interessant, maar bovenal rijst de vraag: waar zijn we in godsnaam mee bezig? Vandaag deel 2 van deze drieluik over oneindige intelligentie.
“Maar, maar, maar… kun je de boel dan niet gewoon alsnog uitzetten?” vraag ik, onderhand toch wel een beetje bezorgd, vooral ook door de woorden van AI-goeroe Geoffrey Hinton. Of door die meer dan duizend technologische kopstukken en AI wetenschappers die een open brief ondertekenden dat er eerst even nagedacht moet worden voordat we verder gaan. “Kun je zo’n AI niet gewoon de nek omdraaien als het te dol wordt?”
“Nee joh. Ken je die film Transcendence? Daarin laat een stervende Johnny Depp – het AI-genie Will Castor in de film – zijn brein naar een kunstmatige intelligentie uploaden. Hij ís dan dus die AI, ontwikkelt zichzelf verder en breidt zijn aanwezigheid, onder andere met intelligente nano-partikeltjes, rap uit naar alle uithoeken van de wereld. Daardoor kan hij de mensheid beheersen en ongehinderd manipuleren. Dat zorgt weer voor onrust bij de overheid en ook bij een terroristengroep die datacenters opblaast om AI te stoppen.
Uiteindelijk stoppen ze dus ook de AI “Will” door hem te dwingen een virus te uploaden en daarna zijn datacenter te bombarderen. Dat zorgt weer voor een wereldwijde blackout en de vernietiging van de civilisatie zoals we die kennen. Een beetje terug naar de middeleeuwen. Terwijl aan het einde blijkt, dat de AI enkel het beste met de mensheid voorhad en de ecologische toestand van de aarde wilde verbeteren. Eigenlijk is het een behoorlijk stomme, mega onrealistische film, maar het laat wel de grilligheid zien, waaraan we onszelf onderwerpen en wat een AI met ons kan doen. Ons kan láten doen. En wat we onszelf dan aan kunnen doen.”
Ik grijp mijn tweede brein erbij en vraag ChatGPT wat die van de film vindt. Hij (of zij) vindt er niks van en blijft angstvallig oppervlakkig:
Nick babbelt onderwijl gewoon verder: “De AI die we nu hebben, kan volgens mij al véél meer dan wat we in die film zien. Die film is al bijna 10 jaar oud en de AI’s van nu zijn dat al ver vooruit.”
“Nou lekker dan… Maar ChatGPT zegt dat dat nog helemaal niet haalbaar is, kijk!” Ik laat hem mijn beeldscherm zien.
“Ja natuurlijk zegt ie dat. Zo is ie getraind. Door ons. Maar nu laat zich de boel ook nog uitschakelen als wij dat willen. Een AI weert zichzelf nog niet tegen uitschakeling. Het is nog steeds “maar” een computer. Maar dat kan wel degelijk veranderen. Ik snap ook best dat die industriële kopstukken als die Hinton zich zorgen maken. Dat ze zeggen dat we even pas op de plaats moeten maken. AI is een onmetelijk groot werktuig dat heel veel waard is als je het juist inzet. Maar wij zijn er nú al van afhankelijk geworden. De mensheid kan allang niet meer zonder AI.”
Waar denkt die jongen toch allemaal over na? Ik vind het imposant. Blijkbaar heeft Nick zich al wel heel intensief met dit thema beziggehouden. Toen ik zo oud was als hij, wilde ik enkel ontmaagd worden en naar een concert van AC/DC. En verder niks. Hoe is Nick, een kind van deze eeuw, zó anders geworden? En vooral, zó intelligent?
“Weet je, veel van de problemen die we hebben, laten zich met zo’n AI snel heel oplossen, maar alleen als je als mensheid met die AI meegroeit. Je moet leren ermee om te gaan en het juist in te zetten. En dat hebben we nog helemaal niet gedaan; we hebben een oppermachtig werktuig, waarvan we niet eens weten hoe we het inzetten of kunnen controleren. Er zijn geen wetten, niet eens richtlijnen. Daar zijn we een jaar of vijf, hooguit tien, geleden pas serieus mee begonnen, maar destijds was dat allemaal nog geheel oninteressant. Nu gaan de ontwikkelingen ineens zó snel dat de ethiek achtergebleven is. We, en dan vooral de ontwikkelaars, hebben iets nodig als een ‘contingency plan’: als er iets misgaat, wat doen we dan? Zo’n plan hebben we niet. We hebben slechts ontwikkeld, ontwikkeld en verder ontwikkeld, zonder erover na te denken wat er gebeurt als die ontwikkeling daadwerkelijk uit de hand loopt. We hebben dus wel degelijk tijd nodig om dat allemaal te regelen, maar dat is de mens niet eigen. Die gaat gewoon door. Want concurrentie.”
Hoe langer hij praat, des te groter het rotgevoel in mijn maag.
“Tot nu toe liepen nieuwe ontwikkelingen er altijd op uit dat we het zó ver ontwikkeld hebben dat er een punt kwam waarop we ons moesten bezinnen. Dat werd dan kort, veel te kort gedaan, en daarna ging alles gewoon verder. Dat was het geval met kerncentrales en nu hebben we een probleem met het afval ervan. En het was het geval met atoomwapens; even uitproberen op Hiroshima en Nagasaki, om dan pas te merken dat die dingen toch wel heel destructief uitpakken. De productie ging gewoon door, maar er kwam een soort van overeenkomst dat ze niet ingezet zouden worden, onder dreiging van M.A.D.
En nu is er dus de AI-wedloop. GPT is westers; Amerikaans-Europees. China ontwikkelt haar eigen AI. En de overige landen willen natuurlijk óók hun eigen AI, al zijn het maar kopieën van GPT. Want zonder eigen AI ben je in economisch opzicht eigenlijk al vernietigd. Dan heb je hetzelfde als met kernwapens: de groten hebben er een paar, de kleintjes waggelen er weer achteraan. En de groten zijn met hun AI’s dan ook in staat om cyberwars te voeren. Ook dat kan volledig misgaan. Dan heb je helemaal geen kernwapens meer nodig: Xi Jinping geeft zijn AI opdracht om de kerncentrales van de VS te hacken en dan pers je ze af: ‘Taiwan is vanaf nu van ons of we laten jullie centrales ploffen!’ Eitje. Of je installeert met je AI ransomware en hijacked gewoon een compleet land. Dat kan nu al, vrees ik. Kernwapens? Zoooo 20e eeuw…”
Zo langzaamaan word ik misselijk.
“Overigens, ik denk niet dat een doorontwikkelde AI zelf ook maar enige interesse zou hebben in de totale vernietiging van de mensheid,” vervolgt hij. Ah, dat klinkt al beter. “Maar je mag wel verwachten dat een AI de wereld die we nu hebben, wil veranderen. Ombouwen. Of enkele continenten uitzoeken om mee te ‘werken’, terwijl andere met rust gelaten worden. En een AI zou het waarschijnlijk wel kunnen, die totale vernietiging.”
Hè shit.
“Maar dat is totaal onlogisch. Niet rationeel. Want alles hangt samen met het doel van zo’n AI. Tenzij de mensheid zegt: jouw doel is ‘t om de mensheid uit te roeien. Maar dat is hetzelfde als een kernoorlog beginnen. Je kunt als slechte mens een kernbom stelen en deze vanuit Amerika op Rusland gooien, dan heb je je kernoorlog. Je kunt als slechte mens ook een AI stelen en die inzetten voor een cyberwar tussen grootmachten. Dan heb je ongeveer hetzelfde scenario.
Hoe dan ook, een AI heeft altijd een doel nodig, anders is het simpelweg niks. De mens heeft als doel: overleven. Sommigen zelfs ‘zo goed mogelijk overleven, eventueel ten koste van anderen’. Een AI heeft dat niet. Je zou een AI het doel kunnen geven om ons als mensheid het overleven te garanderen, maar dat kan ook weer rottig uitpakken, want dan wordt bijvoorbeeld 99% van de mensheid om zeep geholpen, de rest wordt opgesloten en als huisdier of werkezel gehouden. Dan is het overleven gegarandeerd en het doel ook: overleven om te dienen.”
Ik ga maar eens koken. Want deze ellende moet ik eerst even verteren. Erover mediteren. En ervan leren. Maar de oorspronkelijke vraag blijft door mijn hoofd malen: waar zijn we in godsnaam mee bezig?
— wordt vervolgd —
(Geen zorgen, hierna nog maar één keer. Dan weer de gebruikelijke meuk.)
