Onze kunstmatige toekomst - ‘Aanstekelijk vertrouwen in de mens’

Onze kunstmatige toekomst is het debuut van AI-ethicus Joris Krijger en gaat over – hoe kan het ook anders – de ethische vraagstukken rond het gebruik van kunstmatige intelligentie. Het omslag is treffend vormgegeven: een gekleurde weg met een T-splitsing die doet denken aan het pillenprobleem uit The Matrix (hoewel de kleuren daar een omgekeerde betekenis hebben). Wie met deze insteek het omslag bekijkt, kan vermoeden dat de auteur een schriftelijk pleidooi gaat houden over de verschillen tussen mens en machine. Maar zoals wel vaker is de kaft vooral bedoeld om een emotie op te roepen, en vinden we in het boek de broodnodige context – precies zoals ik dat van Krijger gewend ben.

systeemtechnologie

Onze kunstmatige toekomst heeft drie delen: (1) wat AI gaat doen, (2) wat dat voor ons betekent, en (3) wat wij kunnen doen. De titel van het eerste deel (‘Wat gaat AI doen?’) suggereert ten onrechte dat AI zelfbeschikkingsrecht heeft. Toch is die formulering op zichzelf niet vreemd: AI is een systeemtechnologie, en het is vooral de talige, generatieve component die ons mensen keer op keer weet te verleiden tot verbinding én vermenselijking. Dat AI bovenal een product is van grote technologische bedrijven is Krijger niet ontgaan. Het eerste wat hij in zijn boek doet, is uitleggen wie verantwoordelijk is voor de techniek. Vervolgens legt hij helder uit hoe AI werkt, wat het wel en niet kan, en dat zonder gebruik te maken van formules of wiskundige concepten. Wat AI uiteindelijk gaat doen, blijft het gevolg van onze keuzes – en dat zelfbeschikkingsrecht verliest Krijger geen moment uit het oog. De mens staat centraal in dit boek.

nieuwe problemen

Een ander belangrijk punt dat in veel boeken slechts summier wordt aangestipt (tenzij in combinatie met doemscenario’s), is dat technologie niet alleen problemen oplost. Technologie is namelijk ook heel goed in staat om nieuwe problemen te veroorzaken. Volgens Joris is het gros daarvan geen direct gevolg van een technologische eigenschap, noch van de makers of gebruikers, maar eerder een uiting van de maatschappij waarin die technologie zich ontwikkelt. Bestaande problemen worden vergroot, en kwesties die eerder onzichtbaar waren – maar er al wél waren – worden ineens zichtbaar. De exponentiële curve waarmee technologie zo vaak wordt beschreven, geldt daarmee ook voor haar negatieve gevolgen. Met behulp van verhalen, anekdotes en een gezonde dosis durf stipt Krijger fundamentele thema’s aan zoals discriminatie, zelfbeschikking en verdeling. Het boek schuwt de donkere kanten niet.

Ethiek

Wat ik het mooiste aan Onze kunstmatige toekomst vind, is de zelfkennis die Krijger toont als het over ethiek gaat. Het mag geen geheim zijn dat de meeste ontwikkelaars weinig tot niets ophebben met ethiek. Wie streeft naar vrijheid en snelheid, laat zich niet graag afleiden door vragen als ‘ja, maar...’ en ‘heb je hier al aan gedacht?’. De tools die beschikbaar zijn om de ethische aspecten van ontwikkeling te ondersteunen, lijken wellicht behulpzaam, maar voegen helaas weinig toe aan het verbeteren van het stroperige imago van ethiek.

morele veerkracht

Toch mogen we het daar niet bij laten, zegt Krijger. Waar ik zelf sterk inzet op verantwoordelijkheid, pleit hij juist voor schaalvergroting in de vorm van een ethische infrastructuur, gecombineerd met morele veerkracht. Om ethiek te laten slagen, moet zij doorleefd worden, zodat ethisch handelen uiteindelijk net zo vanzelfsprekend voelt als onze normen en waarden. Dat de realisatie van dit gedachtegoed een enorme opgave is, beseft Krijger maar al te goed – maar zijn vertrouwen in de mens werkt aanstekelijk. Als veelgevraagd spreker en academicus weet hij met talloze voorbeelden te laten zien dat sommige zaken te belangrijk zijn om zomaar te negeren. Zelfs als ze zich maar moeilijk in monetaire voordelen laten uitdrukken.