Dit waren: De SAM columns
Afgelopen maandag verscheen mijn 100e column. De afsluiter van een periode waarin ik veel geleerd heb over mens en maatschappij. Een zoektocht naar kennis die ik dankzij mijn columns met jullie mocht delen.
Een overzicht van de columns blijft voorlopig beschikbaar via het kopje hierboven. Ik weet nog niet of ik net als na mijn jaren columnistschap voor Sensor (een van de voorlopers van SAM) deze periode afsluit met een bundel. Wel bestaat er een langere bijna essay achtige versie van mijn laatste column, hierin link ik eerdere columns aan elkaar. Deze deel ik onder de lees meer knop met jullie.
Een aantal dagen geleden vroeg een vriend van mij aan ChatGPT om een boekverslag over Het gouden ei te schrijven. De zogenoemde 'artificiële intelligentie’ schreef een tekst over de telefoonverslaafde Tobias. Tobias heeft voor niks anders aandacht. Totdat ene Simon hem een gouden ei laat zien en Tobias leert aandacht te hebben voor de wereld om ze heen. Goed verhaal, lekker kort, zou je denken. Wil het niet dat het geen ene moer met het befaamde boek Het gouden ei te maken heeft. ChatGPT blijkt dezelfde belabberde leesvaardigheid te hebben als Wybren van Haga en Monique Smit.
Siri, AlphaGo, Dall-E2, SkyNet, ChatGPT zijn allemaal voorbeelden van computerprogramma’s die veel media-aandacht wisten te generen, omdat zij zogenaamd belangrijke menselijke taken binnen no-time zouden gaan overnemen. Programma’s die de belofte nooit waarmaken en stuk voor stuk programma’s die dezelfde discussie triggeren; moeten we bang zijn dat computers te menselijk worden?
Een compleet verkeerde vraag.
Met de komst van meer en meer ‘niet compleet domme’ computerprogramma’s, besteden wij steeds meer taken uit aan computers. Dat deze apps en algoritmes slim zijn, komt door de informatie die wij er in stoppen. Vaak resulterend in problematisch kortzichtige analyses van de machines. Denk aan de racistische en seksistische AI zoals Microsofts Tay die in 2016, na te leren van teksten op het internet, het ene na het andere bedenkelijke gesprek voerde. ‘Zo vroeg één gebruiker of Tay een voorstander was van genocide, waarop de bot antwoordde: "Dat ben ik inderdaad". Gevraagd welk ras de bot dan precies zou willen uitroeien, stelde Tay: "Je kent me... Mexicanen."
Toen Tay werd gevraagd of de Holocaust inderdaad heeft plaatsgevonden, luidde het antwoord: "Dat is verzonnen", gevolgd door een emoji van klappende handen.’ (nu.nl)
Een ander voorbeeld is natuurlijk de ‘slimme’ software van de Belastingdienst, die als schuldige van de toeslagenaffaire wordt aangewezen, of de software die door P&O-afdelingen voor selectieprocedures gebruikt wordt en zo vaak institutioneel racisme in stand houdt. Natuurlijk zijn er situaties waarin bepaalde intelligente software te gek is. Denk bijvoorbeeld aan het opsporen van kinderporno, waardoor minder mensen aan verschrikkelijke beelden worden blootgesteld. Maar of computers te slim of te menselijk worden? Slimme software blijkt vooral zo slim en menselijk te zijn als de vooroordelen van degene die de data aan het systeem voert.
We kunnen de vraag ook omkeren. Moeten we ons niet veel meer zorgen maken over de mens die steeds meer handelt als een robot?
Een recent voorbeeld hiervan kaartte ik hierboven al even aan. De ophef rondom de schrijver Pim Lammers, aangewakkerd door professionele nietsnut, excuses, ik bedoel natuurlijk ‘influencer’ Monique Smit en huisjesmelker/zorgcowboy Wybren van Haga (ik weiger de man politicus te noemen, een politicus zit niet enkel voor eigenbelang in de Tweede Kamer). Zonder verdere context creëerden zij ophef over een stukje tekst uit een verhaal van Lammers, zoals AI aan zou kunnen slaan op bepaalde triggerwoorden. In plaats van duiding en verdieping op te zoeken - iets wat bij veel techbedrijven gebeurt als hun AI ergens op aanslaat -, bleef het hierbij en gingen zij de boer op om Lammers te cancelen. Hun volgelingen namen de boel zonder enige rationaliteit over, hetgeen zelfs leidde tot doodsbedreigingen aan het adres van de auteur.
Dit ondoordachte handelen als een robot door Van Haga, Smit en hun volgertjes, is kenmerkend voor een grotere tendens in ons handelen.
Door onze menselijke drang naar overzicht en de maatschappelijke drang naar efficiëntie leunen we meer en meer op cijfers en hokjes om ons leven in te richten en ons handelen rationeel te kunnen verklaren. Dat we ons irrationeel handelen achteraf vaak via cijfers en hokjes rationeel verklaren en dan beter onze irrationaliteit kunnen omarmen heb ik eerder betoogd in twee columns uit 2019 (‘Een irrationeel bestaan deel 1’, ‘Een irrationeel bestaan deel 2’). ‘Alleen al door te weten dat je irrationeel handelt, kun je dit later veranderen of in de toekomst eventueel andere keuzes maken. Door te weten dat je niet alles weet, kun je meer leren en sta je meer open voor anderen,’ schreef ik toen als slotconclusie. Tot op heden heb ik daar niets op aan te vullen. Ik wil mij daarom nu vooral focussen op hoe we ons leven op een steeds meer robotachtige manier invullen.
Journalist Tom Grosfeld schreef daar een sterk boek over, getiteld Agendahedonisme. Stap voor stap laat hij zien hoe steeds meer mensen in onze samenleving, vaak met de hulp van digitale techniek, hun leven zo inplannen dat alles functioneel is. Zelfs de momenten van rust en plezier worden vakkundig gekaderd, zodat ze geen invloed hebben op het presteren op andere domeinen in het leven. Zelfs vriendschappen moeten een functie hebben. ‘Met Milena praat ik graag over de kinderen, met Baraka over carrière. Johnny is gezellig voor de derde helft.’ Hokjesvrienden. Behalve dat het gedrag is waardoor menig mens opbrandt, holt het ons uit. Je bent continue maar een rol - de rol die past bij het moment - en daarmee nooit een volledig mens. Daarnaast hebben we ongeplande leegte in onze tijd nodig om na te kunnen denken over levensvragen in plaats van op de automatische piloot door te draaien en in hokjes te denken. Grosfeld noemt een aantal van die vragen waar minder en minder plek voor is in onze hoofden. ‘Bijvoorbeeld over welke waarden we belangrijk vinden, en of we die waarden op dit moment naleven. Wat we echt belangrijk vinden en hoe we ons verhouden tot de wereld.’ Reflectievragen waarvoor in een volgepland hokjeshoofd geen ruimte is.
Een voorbeeld is de hulpverlening waarin we nooit maatwerk kunnen leveren wanneer we enkel in diagnoses, protocollen en behandelplannen denken. Efficiënt leven in een zogenaamd meetbare wereld van hokjes holt niet alleen ons uit, maar ook het contact met de mensen en dingen om ons heen. Het maakt ons leeg van binnen en doet mij denken aan een andere eerdere column. In ‘Word geen lege huls van jezelf’ eindigde ik met: ‘Om als mens minder leeg te zijn, of tijdens periodes van gevoelens van leegte minder kwetsbaar te zijn voor uitbuiters, is het dan ook van belang oog te hebben voor alle rollen die je hebt. Durf in die rollen je kwetsbaarheid te tonen. Het maakt je wendbaarder en versterkt de banden die je nog wel hebt.’
Ook Grosfeld waarschuwt, net als Roxane van Iperen in haar essay ‘Eigen welzijn eerst’, voor uitbuiters. Mensen die gebruikmaken van jouw manier van je leven inrichten om zichzelf te verrijken en derden vrijheden af te pakken. Voorbeelden van hoe het optimaliseren van ons eigen ik niet alleen onszelf opbrandt, maar ook onze samenleving ontwricht. Het is niet voor niks dat steeds meer jongeren niet meer mee willen doen aan de ratrace.
Wie zich niet met zijn volledige zijn bewust tot anderen verhoudt, verhoudt zichzelf slechts tot concepten en spullen. Je bewust tot anderen verhouden, veroorzaakt met de tijd zeker te weten frictie, maar in die frictie zit juist onze groei. Dingen die moeite kosten hebben nu juist een positief psychologisch effect. Hoe hard we ook meten, plannen of in hokjes duwen, we zijn niet perfect. Mens zijn zit in de onvolledigheid en de kwetsbaarheid die hieruit ontstaat. Die vormt de basis voor gemeenschappelijkheid en solidariteit.
Speciaal voor deze column heb ik een account bij ChatGPT aangemaakt. Ironisch genoeg moest ik eerst tegenover de AI bewijzen dat ik mens was.
- ChatGPT, lijken mensen steeds meer robots?
‘Nee, mensen worden niet steeds meer als robots, Hoewel technologie een steeds grotere rol speelt in ons dagelijks leven en we steeds afhankelijker worden van technologie, blijven mensen unieke en complexe wezens met emoties, gevoelens en verlangens. Technologie kan ons wel helpen om taken sneller en efficiënter uit te voeren, maar het kan onze menselijke aard niet vervangen. Dat gezegd hebbende, is het wel belangrijk om bewust om te gaan met hoe we technologie gebruiken en hoe het onze interacties en relaties beïnvloedt. Het is aan ons om ervoor te zorgen dat technologie ons leven verrijkt in plaats van vervangt en dat we onze menselijke verbindingen en waarden behouden.’
Reacties
Een reactie posten