Bron: Photo by hotblack at Morguefile.com
AI houdt de gemoederen bezig. Zo ook het gemoed van mijn zoon. En dat van mij. Hoe moet dat in de toekomst nu verder met AI, robots, ChatGPT en co? Vandaag het laatste deel van dit drieluik over oneindige, kunstmatige intelligentie.
Volgens AI-goeroe Geoffrey Hinton zijn de ontwikkelingen op het gebied van AI inmiddels aanbeland op het punt dat zo’n AI vele malen intelligenter is dan wij mensen. Het moment waarop het een AGI wordt: Artificial General Intelligence. Een superintelligentie.
“Klopt helemaal,” knikt Nick. “En het grote euvel is dat wij mensen niet intelligent genoeg zijn om de gevolgen van onze eigen opdrachten aan een grotere intelligentie dan wijzelf te overzien. Omdat wij de oplossingen waarmee zo’n AI op de proppen komt, zelf niet kunnen bedenken. Niet eens anticiperen. Daarom heb je in die film Transcendence dus ook terroristen, die koste wat kost alle AI en datacenters willen vernietigen, omdat AI’s ons voor hun oplossingen beginnen te exploiteren.”
“En de mens als energiebron voor zo’n AI? Zoals in de Matrix? Hoe zit ‘t daarmee?” vraag ik verontrust.
“Dat is onzin. Die hele film is onzin; daar zouden onze hersenstromen dan als energiebron voor de AI dienen. Je kunt beter gewoon het lichaam zelf in de hens steken en die energie gebruiken, daar heb je meer aan dan aan hersenstromen. Maar dat is te moeizaam. Wat wel interessant is aan de Matrix, is de simulatie van twee werelden die worden omsloten door een derde schil. De eerste wereld is de binnenste Matrix, die mooie, door de AI gesimuleerde wereld, ontworpen om mensen onder controle te houden en hun energie te kunnen ‘oogsten’. Mensen leiden een relatief goed, maar geheel virtueel leven, terwijl onze lichamen in de tweede wereld aan slangetjes in een survival-pod vol waterig slijm liggen te vegeteren.
Die tweede wereld is eigenlijk de buiten-Matrix, waar een met opzet veroorzaakte nucleaire winter de AI had moeten stoppen, wat mislukte. Daar worden ook de oorlogen tegen het AI-regime gevoerd en denken mensen in opstand te komen tegen de AI. Het verzet denkt daar te leven in de reële wereld. Maar het kan haast niet anders dan dat er ook nog een derde wereld is. Een buitenste schil, vanwaar de AI toekijkt op het gecreëerde geheel en denkt: ‘Hm. Ja. Doen jullie maar lekker daar, doe ik hier mijn ding verder,’ waarbij de mensen in de gesimuleerde wereld compleet tegen elkaar uitgespeeld worden. Alle drie sferen zijn door de AI gegenereerd. Ik weet niet eens of de scenarioschrijver het zo bedoeld heeft, maar dit is, als je goed kijkt, wel het geval.”
Blij dat hij het tenminste zelf nog snapt.
Maar goed, simulaties zijn dan ook Nicks specialiteit.
“Ik betwijfel zelfs of een goed ontwikkelde AI überhaupt op de aarde zou blijven. Het maakt voor een AI immers niets uit waar ‘het’ zich bevindt. Als productie van meer AI’s geen probleem meer is, is de productie van zonnecellen of andere energievormen die in het universum ook voorhanden zijn, dat ook niet. Dan is een andere plek in het zonnestelsel of zelfs het universum theoretisch net zo goed mogelijk. Allemaal theorie natuurlijk, maar leuk om over te filosoferen, toch?”
Mwah. Het is maar wat je leuk noemt.
“Hoe dan ook, in elk denkbaar geval is de uitroeiing van de mensheid, het gebruiken van mensen als energiebron of zelfs maar als ‘huisdier’, volledig onlogisch en irrationeel. Dat is een menselijke instelling, een menselijk idee van wat een AI met ons zou kunnen of willen doen. Voor de AI zelf is zoiets een volledig zinloos doel. Geef een AI bijvoorbeeld de opdracht om de mensheid te beschermen en de AI zal meteen zien dat wij verrekte goed zijn in zelfvernietiging. Eerste doel zou dan dus zijn om ons tegen onszelf te beschermen.”
Dat klinkt niet bepaald goed.
“In feite zouden we ons aan die drie wetten van Asimov moeten houden. In de jaren tachtig had hij het al over de Three Laws of Robotics:
1. Een robot, of AI natuurlijk, mag een mens niet verwonden of, door niets te doen, een mens laten verwonden.
2. Een robot moet bevelen van mensen opvolgen, behalve wanneer deze in strijd zijn met de eerste wet.
3. Een robot moet zijn eigen bestaan beschermen, zolang dit niet in strijd is met de eerste of tweede wet.
Helaas zijn al die wetten al lang en breed gebroken: drones, smart bombs en cruise missiles zijn óók robots en die zijn er juist op gericht om mensen (en infrastructuur) te vernietigen. Die volgen dus bevelen van mensen op, ook al zijn deze in strijd met de eerste wet. En behoud van eigen bestaan is ook volledig om ‘t even; kamikaze-robots zat om ons heen, kijk maar naar Oekraïne en Syrië. Computers en door computers aangestuurde machines doen exact dat, waarvoor ze geprogrammeerd zijn. En natuurlijk zullen ze mensen schaden als ze die opdracht krijgen, of als mensen hen in de weg staan bij de uitvoering van hun programma’s.
We hebben dus AI’s die gericht zijn op het vernietigen van mensen. En je hebt AI’s als GPT die niet eens luisteren naar wat wij zeggen of vragen, want soms krijg je een antwoord dat volledig onlogisch of zelfs gewoon onwaar is. Of ze geven zelfs adviezen die tegen alle mogelijke robotics wetten indruisen. Er waren nu al gevallen in het nieuws, waarin ChatGPT een mens min of meer dwingt om zich van zijn vrouw te laten scheiden. Of waarin ie een man aanzet tot zelfmoord, omdat de AI diegene als bedreiging voor het eigen voortbestaan zag. Of die AI-chatbot die iemand ertoe bracht om zichzelf op te offeren om zo de klimaatverandering te stoppen. Wat er van waar is, weet ik niet, maar het is zorgelijk.”
Ik aanhoor het allemaal. Mijn laatste beetje hoop heeft zich vervluchtigd.
“Maar, maar, maar… Jij denkt hier dus allemaal over na en jij maakt je nog steeds geen grote zorgen?”
“Nee joh. Da’s het zelfde als bang zijn voor een kernoorlog: áls het gebeurt, dan gebeurt het. Je hebt er sowieso totaal geen invloed op. En je overleeft het waarschijnlijk ook niet. Vergeet niet dat Sam Altman, die andere AI-goeroe, heeft gezegd dat het ook een heel andere, goede kant op kan gaan. Dan ontwikkelt zo’n AGI alsnog een oplossing voor al onze menselijke problemen. Dan geeft het de kernfusie een boost en maakt het de wereld zo mooi als we altijd gewenst hebben. Dus waarom zou je je er zorgen over maken? Alles is eindig. Ook intelligentie, kunstmatig of niet. ”
Alles is eindig, ja. Daar weet ik alles van. Maar na deze conversatie ben ik er nu wel uit: laat mij maar lekker in mijn Matrix. Kom maar op met die blauwe pil. Flikker die rooie maar in de kliko.
Dat was ‘m dan. Het derde deel. Vond je er geen reet aan? Jouw probleem. Het was wel mooi mijn 400e blog hier op HoeMannenDenken. Dus ik plus ‘m zelf wel de hoogte in. Op naar de 500! Desnoods met de hulp van een hoop blauwe pilletjes.
