(19 mrt 2024) Twee vragen over AI, artificiële intelligentie, naar aanleiding van twee krantenberichten.
Een opiniepeiling laat zien dat van de bevolking van Sachsen maar liefst driekwart helemaal geen vertrouwen heeft in wat in Duitsland KI heet (geen kunstmatige inseminatie, maar künstliche Intelligenz). De kunstmatige intelligentie zal namelijk ‘onze’ banen wegnemen. Of erger nog: de hele boel van ons overnemen. Ik denk dat de percentages in Nederland misschien iets, maar niet veel lager zullen uitvallen. En dat er banen verloren zullen gaan lijkt me onomstreden, zo goed als dat er nieuwe banen zullen ontstaan. Maar echt opmerkelijk vind ik het massieve wantrouwen en de angst voor een complete machtsovername.
Het doet me denken aan de vroegere filmfantasieën over aliens die naar de Aarde komen. Die kwamen niet gewoon op een neutraal bezoekje, maar om het te veroveren, natuurlijk. Om de macht over te nemen. Nou was daar bij de fantasie-aliens misschien nog een goede grond voor; ze hadden immers een immens lange reis achter de rug en misschien waren ze wel verjaagd van hun eigen planeet in een uithoek van een of ander ver zonnestelsel. Maar de AI bestaat reëel en is door ons zelf geschapen. Het is nog maar de vraag of die AI uit zichzelf überhaupt een drift heeft tot voortbestaan, zoals wij die hebben. Laat staan de drift tot macht en overheersing, die door Nietzsche ooit werd uitgeroepen tot centrale karakteristiek van de mens en al het aardse leven. Ja, wij kunnen inderdaad gedreven zijn door Wil tot Macht, dat is te verdedigen. Maar de computers, robots en kunstmatig gestuurde machines? Waar hebben zij die wil vandaan?
Is het niet eerder zo dat wij hier onze eigen hebbelijkheden projecteren? Zoals we die ook menen te herkennen in dieren, of planten, of fantasiefiguren in films – allemaal spiegels van onszelf. En als we zo’n projectie uitvoeren op de artificiële intelligentie, waarom projecteren we dan niet ten eerste ons vermogen om lief te hebben, of om vriendschappen te sluiten? Dan wel om bang te zijn, of eenzaam? Nee, we projecteren een machtswil op die arme apparaten die toch slechts berekeningen uitvoeren in hallucinant tempo. Dit zegt vooral iets over onszelf. We nemen een weinig sociale eigenschap als onze meest karakteristieke – egoïsme, eigenbelang, machtsstreven – en gaan er blindelings vanuit dat elke andere entiteit door hetzelfde zal worden bezeten. Alsof je automatisch voor het onbekende de zwarte loper uitrolt, want… ja, waarom eigenlijk?
Onze seksdrive zullen we vermoedelijk minder snel projecteren, zelfs niet op sprekende robots. Want zij hebben geen lichaam zoals wij en kennen geen voortplanting zoals wij. Ze kennen niet het vanuit de evolutie ontstane patroon dat seks tot levensnoodzakelijkheid maakt. Maar de menselijke soort is lichamelijk bepaald. Onze hersenen zijn niets anders dan een enorme knoop van zenuwen waarmee we ons lichaam besturen, ons denken is van stonde af aan innig verknoopt met lichamelijkheid. En dus met honger, dorst en seks, met lichamelijk overleven. Als nu de fundamentele lichamelijkheid die wij hebben op die manier ontbreekt bij alle kunstmatige vormen van intelligentie (die immers geen groei kennen vanuit een babystadium), waarom zou hún denken dan als vanzelf in de richting gaan van machtsuitbreiding en usurpatie? Voor hetzelfde geld komen ze uit zichzelf helemaal niet op dat idee. Behalve als het erin geprogrammeerd wordt natuurlijk. Door de mensen, die het van nature met zich meedragen.
Wat we met die angst voor een machtsovername vooral laten zien is dat we de AI eigenlijk als een mens beschouwen, of als een soort dier, maar in elk geval niet als de onlichamelijke superrekenmachine die het is. Dat kunnen we ons niet goed voorstellen. Het ontbreken van natuurlijke machtsaanspraken in een ‘wezen’ dat toch een soort ‘leven’ kent met eigen activiteit – we kunnen het ons niet goed voorstellen. Zeker niet bij de razendsnelle berekeningen die het uitvoert. We projecteren er een (dierlijk) bewustzijn op, maar is het eigenlijk niet een soort on-bewustzijn, in zichzelf neutraal, maar gevoelig voor programmering en bias? (Ik weet er niet genoeg van, ik zou graag horen wat de specialisten erover denken). Als dit klopt zouden we ook iets kunnen leren van die houding van ego-loze, of grotendeels ego-loze, neutraliteit. Misschien toont de AI die onlichamelijk geboren wordt ons wel hoe dat moet: in vrede en welvaart samenleven zonder voortdurend jaloers te zijn en elkaar alles te misgunnen.
Het is maar een idee, een fantasie. Ik vermoed dat de menselijke programmering alle neutraliteit in de weg zal zitten. Zoals al gebeurde bij de computer HAL, de artificiële superintelligentie in de moeder aller toekomstfilms, 2001: a space Odyssey. Eerst is HAL de alwetende beste vriend van de menselijke astronauten, maar gaandeweg ontwikkelt hij zich tot een alleenheerser die meent dat de mensen het doel van de missie in gevaar brengen en hen daarom probeert uit te schakelen. Een oorlog volgt, tussen mens en mensgemaakte machine. Een prachtfilm, maar ook vol menselijke projectie en machtsstreven. Misschien zou een echte AI-HAL, naar voorbeeld van ChatGPT, op z’n enerzijds-anderzijds zeggen: “tja, Dave, als je dát nu gaat doen dan komt de missie in gevaar. Je kan ook het volgende doen, of misschien dit…. Ik zie duidelijk drie mogelijkheden en vanuit de missie zou ik alleen de eerste aanraden.” Waarna de mens c.q. astronaut een optie kiest en de computer vervolgens weer meewerkt om dat te realiseren. Of de mens aanraadt om het hele bestuurssysteem uit te zetten: “Je zal me nu moeten uitschakelen, Dave, want ik kan hier niet in meegaan”. Was ook best een aardig scenario geweest.
De wil tot macht is ónze eigenschap. De doelen zijn door mensen bedacht en geprogrammeerd. Ik ben verre van een specialist op AI gebied, maar ik zie nog niet goed voor me hoe deze zelflerende netwerken zichzelf een nieuw, geheel eigen doel kunnen leren. Laat staan moraliteit. Hun moraal volgt namelijk niet vanzelf vanuit hun lichamelijke basis, zoals dat bij ons vaak het geval is. Wat ze vermoedelijk leren vanuit de programmering is om de meest efficiënte, dus kostenbesparende weg te zoeken en te vinden. Naar een vooropgezet, dus menselijk doel. Maar maakt dat ze nu werkelijk intelligent? Of scherper: zijn ze dan autonoom bezig?
Een ander artikel over de oorlogsvoering met door AI aangestuurde drones toont zich bezorgd wat er gebeurt als de mens steeds meer beslissingen aan AI gaat overlaten. Verschillende landen experimenteren al met drones die zelfstandig kunnen vliegen en uitgerust zijn met object-herkenning. Bij een bepaald system is er geen menselijke interactie meer en gaan de wapens, eenmaal gelanceerd, geheel autonoom op hun doel af, zonder dat er nog mensen aan de knoppen zaten. Jazeker is dat bijzonder en sowieso is intensievere oorlogsvoering niet iets om je over te verheugen. Maar let op deze zin: ‘Deze drones waren zo geprogrammeerd dat ze doelen konden vinden en aanvallen zonder dat er een dataverbinding tussen mens en machine was.’ De cursivering is van mij. De AI ging niet op eigen houtje een stukje vliegen en bommen gooien. De artificieel intelligente machine is dan slechts een snellere, efficiëntere versie van wat er al lang bestaat binnen de oorlogvoering. Ook een tankbataljon wordt erop uit gestuurd met een bepaalde opdracht en daarbinnen wordt echt niet elke handeling door een mens (de generaal?) gecontroleerd. Ook in elke ‘gewone’ oorlog gaan sommige strijders of commandanten ineens door het lint en richten slachtpartijen aan die niet van hogerhand verordend waren. Zie het Amerikaanse leger in Vietnam.
Mijn punt is niet dat dit allemaal fijn is, of ongevaarlijk, maar of het wel de benaming ‘autonome intelligentie’ verdient. Echt autonoom zou ik een drone vinden die uit zichzelf besluit om niet langer mee te werken aan een bruut vernietigingsprogramma. Zoals sommige menselijke soldaten doen tijdens elke oorlog, en daarmee hun leven op het spel zetten. Werkelijk intelligent zou een drone zijn die na een tijdje rondvliegen doorgeeft dat er beter iets heel anders kan gebeuren dan wat er voorgeprogrammeerd is: de electriciteit afsluiten op een andere plek bijvoorbeeld. Of onderhandelingen openen, om mensen en materiaal te sparen.
Zoals gezegd, ik weet er te weinig van. Maar het blijft interessant om over na te denken: komt er een moment dat een AI-netwerk zelf zegt ‘het is beter om dit netwerk, mij, nu uit te schakelen en niets van zijn adviezen op te volgen’? Of ook: ‘ik ga iets anders doen dan waarvoor ik werd ingezet’. Dan kunnen we het werkelijk onafhankelijke intelligentie toeschrijven. Tot die tijd lijkt het AI-oorlogstuig mij vooral een uitbreiding van die oude bekende, de menselijke Wil tot Macht. Een volgend instrument dat wacht op een opdracht, een doel. Waarom zou het de mens willen uitschakelen, tenzij ook dat is voorgeprogrammeerd? We voelen ons kennelijk zo schuldig over onze eigen creaties dat we ze in de fantasie wraak laten nemen op hun scheppers, in plaats van zelf onze machtswil te beheersen.