‘Wat kan, moet niet altijd: pleidooi voor meer technologisch conservatisme’

‘We hoeven  niet altijd per se de kant op te gaan waarin een bepaalde technologie ons duwt’, schrijft François Levrau (UAntwerpen). Hij heeft niet meteen een goed oog in de meest recente ontwikkelingen op het vlak van AI.

Een bekende gedachte luidt dat de geschiedenis niet vergeten mag worden omdat we dan gedoemd zijn deze te herhalen. Meestal wordt die gedachte ingebracht om erop te wijzen dat wie het verleden vergeet, de toentertijd gemaakte fouten zal herhalen.

Dat klopt; maar het verleden mag ook omwille van haar successen en hoogtepunten niet vergeten worden. Het goede duiden, bewaren en beschermen tegen verval en scherp nadenken over hoe en waarom er nood is aan verandering is de plicht van elkeen die hoopvol de toekomst wil binnenstappen.

Neil Postman, één van ’s werelds belangrijkste cultuurfilosofen, wist dit en net daarom was hij behoorlijk kritisch voor hoe er met technologie wordt omgegaan. Postman omarmt de technologische vooruitgang, maar meent – in lijn met filosoof en auteur Paul Goodman – dat technologie in de eerste plaats een tak van de ethiek en niet van de wetenschap is. Zijn stelling is dat we beter wat meer ons verstand gebruiken en ons wat minder overgeven aan het blindelings geloof in de moderne technologie. Wat kan, moet niet altijd.

Alvorens de technologie op de samenleving wordt losgelaten, wordt ze best aan een brede reeks van moraalfilosofische vragen blootgesteld. Dat vrijlaten kan bovendien ook best samengaan met enkele afspraken. We hebben nu eenmaal, als mens, bepaalde verplichtingen aan onszelf die ver uitstijgen boven de verplichting om ons op nogal makke wijze door de technologie te laten bepalen.

Ik laat me in dit stuk wat op sleeptouw nemen door Postmans essay over technologie (verschenen in Denken voor de spiegel) en gebruik vooral ChatGPT als illustratie van een nieuwe technologie die de nood aan een zekere conservatieve reflex aantoont.

Hoe sneller, hoe beter

Als het verleden één iets leert, dan is het wel dat mensen zich makkelijk aan de technologie aanpassen. We rijden met auto’s in plaats van met paarden; we sturen mails in plaats van brieven; we doen de was met een wasmachine in plaats van met de hand; we kijken ’s avonds naar de televisie in plaats van naar de sterren, etc. Dat aanpassingsvermogen zegt echter niks. Het is alleen maar een beschrijving en biedt geen antwoord op een aantal belangrijke vragen, zoals ‘Voor welk urgent probleem biedt de nieuwe technologie eigenlijk een oplossing?’ Er zijn heel wat technologieën waarmee problemen worden opgelost die door weinigen als zodanig worden ervaren. Het is bovendien niet omdat goede marketeers je kunnen doen geloven dat ‘je iets mist als je deze of gene technologie niet gebruikt’ dat dat ook het geval is.

Het argument dat marketeers vaak inzetten is dat van efficiëntie – ‘Hoe sneller, hoe beter!’. Die efficiëntie klinkt goed, tot je de vraag stelt: ‘Wat ga je met die vrijgekomen tijd doen?’ Postman verwijst wat dat betreft naar de Amerikaanse overheid die de bouw van supersonische straalvliegtuigen moest subsidiëren. Toen de vraag gesteld werd voor welk probleem zo’n type vliegtuig eigenlijk de oplossing bood, was het antwoord dat de afstanden nu veel sneller konden overbrugd worden. Dat zal in bepaalde omstandigheden natuurlijk wel van groot belang zijn, maar toen potentiële passagiers de vraag gesteld werd wat ze met die vrijgekomen tijd zouden doen, luidde het antwoord nogal ontnuchterend: ‘Televisie kijken.’ Zouden de reeds bestaande (tragere) vliegtuigen dan niet beter uitgerust worden met televisies teneinde zo miljarden aan belastinggeld te sparen?

Een andere vraag die het belang van de efficiëntie troebleert, is of het wel echt zo is dat er tijd vrij komt. Harmut Rosa, een Duits socioloog, wijst erop dat veel technologie haar belofte niet waarmaakt. Zo gaat mailverkeer inderdaad véél sneller dan de communicatie per brief, en dus wordt er veel tijd gewonnen. Maar, we sturen en ontvangen per dag zodanig veel mails, dat we eigenlijk veel meer tijd verliezen dan eertijds met het schrijven van een paar brieven het geval was. Of denk aan de auto die ervoor zorgt dat we sneller onze bestemming kunnen bereiken. Maar, we leggen nu grotere afstanden af, waardoor de tijdswinst verloren gaat. Daarbij komt dat we met z’n allen zo vaak de auto nemen dat de wegen snel verzadigd geraken en we letterlijk en figuurlijk stilstaan.

Ook voor wat betreft ChatGPT kan de vraag gesteld worden of de ‘Hoe sneller, hoe beter!’ logica wel altijd wenselijk is. De voordelen van de snelheid zijn vanzelfsprekend, maar lijken me vooral te maken te hebben met de bèta–wetenschappen (exacte wetenschappen), en minder met de alfa- en gamma-wetenschappen (resp. geesteswetenschappen en sociale wetenschappen). Zo ontgaat het me bijvoorbeeld wat studenten filosofie, taalkunde, literatuurwetenschap, sociologie, etc. precies winnen wanneer ze bij het schrijven van hun papers en scripties kunnen gebruik maken van ChatGPT. Het gaat sneller en het eindproduct zal misschien beter zijn, maar kunnen de studenten dat eindproduct nog wel volledig claimen als ze geholpen werden door hun slimme computervriendje?

Wat met autonoom denken, creativiteit, de wil om te volharden en het kunnen omgaan met frustratie? Wat met geduld, bezinning en reflectie als je je op elk moment van een technologie kan bedienen die elk van je vragen in een vingerknip kan oplossen? Ik heb dat punt al eerder uitgewerkt.

Wat is de prijs die we betalen?

Van Steve Jobs zijn deze woorden bekend: “Technologie is niets. Wat belangrijk is, is dat je vertrouwen hebt in mensen, dat ze in principe goed en slim zijn, en als je ze gereedschappen geeft, ze er prachtige dingen mee gaan doen.” Dat klinkt mooi, maar er is geen enkele technologie die geen nieuwe problemen heeft voortgebracht. De auto draagt bij aan luchtvervuiling; de antibiotica kan het immuunsysteem ondermijnen; de klok kan als instrument ingezet worden om mensen aan strakke werkroosters te houden, etc.

De onvoorzienbare gevolgen van nieuwe technologie zijn bij definitie niet te voorspellen, maar vaak kunnen we ons wel een beeld vormen van bepaalde voorzienbare gevolgen. Zo stelt Postman zich de retorische vraag of we eind jaren 1940 niet konden voorzien wat de gevolgen van de komst van de televisie zouden zijn. Was het zo ondenkbaar om een idee te krijgen van de gevaren die dit nieuwe medium voor de politiek en de opvoeding van de kinderen inhield? Stel, zo gaat Postman verder, dat die gevaren toentertijd in voldoende mate onderkend hadden kunnen worden, zou het dan echt onmogelijk geweest zijn om er met sociaal beleid, politieke maatregelen en goed onderwijs op in te spelen?

Nadenken over de impact van technologie voordat ze wordt losgelaten is cruciaal omdat elke technologie winnaars en verliezers creëert. Karl Marx had dat al goed door wanneer hij aangaf dat de maatschappelijke onderbouw (i.c. de technologie, productiemiddelen en relaties tussen mensen) de maatschappelijke bovenbouw (de ideeën) bepaalt, en niet omgekeerd. De manier van denken bepaalt met andere woorden niet zozeer onze technologie, maar het is de technologie die ons denken bepaalt (en dat denken legitimeert dan op haar beurt vaak die onderbouw) en tot nieuwe machtsverhoudingen leidt. Denk bijvoorbeeld aan hoe sterk de televisie de politiek beïnvloedt.

Eertijds kon Ronald Reagen president worden omdat hij het goed op het scherm deed, en ook vandaag dankt Donald Trump zijn succes mede aan het feit dat zijn ‘fratsen’ de mensen aan hun beeld doet kluisteren. Of denk aan hoe er via de sociale media thans een nieuw en hip type politicus is opgestaan. Dat Conner Rousseau het bijvoorbeeld (tot voor zijn uitschuivers) goed deed, is voor een groot stuk terug te brengen tot zijn imago van niet geheel onknappe en coole politicus.

Nog los van de vraag of Reagen, Trump en Rousseau goede politici waren/zijn, is het punt of we willen dat we vooral politici hebben die het goed doen op het scherm. Willen we dat politici dansen naar de pijpen van de televisionele en (nieuwe) media? Om het cru te zeggen, willen we politici die goed in een konijnenpak kunnen dansen? Marc Elchardus en Thomas Decreus hebben deze democratie in felle toonaarden bekritiseerd. Ze duiden het respectievelijk als een ‘dramademocratie’ en ‘spektakeldemocratie’.

Postman was over de tv niet mals: ‘We amuseren ons kapot!’ Tekenend is dat het VRT-journaal – een programma waar feitjes vlotjes aan elkaar worden gepraat – wordt voorafgegaan en wordt gevolgd door een spelprogramma waar feitjes vlotjes aan elkaar worden gepraat. Het wordt steeds moeilijker om het onderscheid te zien tussen het programma dat informatie en het programma dat entertainment wil aanbieden.

Elke technologie gaat samen met winnaars en verliezers. Het is belangrijk daarover te denken. Hoe zit dat met ChatGPT? Sommige mensen zullen hun beroep verliezen. Anderen zullen hun beroep moeten heruitvinden. Er zullen vast ook wel nieuwe jobs bijkomen. Daarnaast zijn er betalende en niet betalende versies van ChatGPT (waarbij die eerste versies nog beter/meer/sneller werken), zodat ook het gebruik ervan tot een onderscheid kan leiden.

Maar, nog los van dit soort afwegingen, denk ik dat de samenleving er als geheel toch vooral bij verliest. Natuurlijk zie ik ook wel de voordelen – maar die hebben vaak te maken met ‘gemakzucht’ en ‘luiheid’ – maar het gaat me om het ongecontroleerd loslaten van ChatGPT en om het voortdurende gebruik van de smartphone. Waarvoor ik aandacht wil vragen, is de mate waarin die nieuwe technologie leidt tot een verandering in onze geestelijke en sociale gewoonten en samengaat met nieuwe denk-, handelings- en uitdrukkingswijzen waarvan we ons toch echt moeten afvragen of die wel zo wenselijk zijn.

Net als de Franse filosoof Eric Sadin maak ik me daar toch wel wat zorgen over. Wat doet al die nieuwe technologie met ons brein? Stimuleert of verarmt het ons kritisch en creatief denkvermogen? Bevordert het onze concentratie, empathie en onze weerstand tegen kritiek, of brokkelen deze vaardigheden af? Verbetert het ons taalgebruik of leidt het tot taalarmoede? Brengt het mensen dichter bij elkaar, of ondergraaft het de cohesie en democratie (de kunst om met mensen om te gaan die er andere meningen op nahouden)? Leidt het tot verdieping en bezinning, of dient het de homo ludens (die zich alleen maar wil amuseren) en de homo economicus (die alleen maar op efficiëntie is gericht)? Het onderzoek dat hierover bestaat, noopt tot enige terughoudendheid.

We zouden ons ook de vraag moeten stellen wat de technologie de leerling kan bijbrengen dat niet door een goede leerkracht kan aangeleerd worden. Hadden we het geld niet beter geïnvesteerd in meer/betere onderwijzers dan in alle technologische snufjes die nu in het klaslokaal te vinden zijn? De Pisa-resultaten laten alvast niet zien dat het gebruik van de technologie de leerlingen slimmer heeft gemaakt.

Maar, overdrijf ik nu niet? Is mijn weerstand niet vergelijkbaar met de weerstand die er eertijds tegen het gebruik van de rekenmachine was? Mijn antwoord hoeft niet het uwe te zijn, maar ik denk dat de vergelijking niet opgaat. Het verlies aan rekenkundig denkvermogen valt te betreuren, maar het is niks tegen de teloorgang van het vermogen om niet meer voor zichzelf te denken, niet meer empathisch te zijn en zich niet meer op correcte en genuanceerde wijze van de (eigen) taal te kunnen bedienen.

Als mens bestaan wij niet uit eentjes en nulletje, maar uit woorden en dienen wij met anderen te kunnen samenleven. We zijn taalwezens en daarom moet elk verlies op het niveau van de taal als een existentieel verlies geduid worden. Wie meent dat ik wat dat taalverlies overdrijf, nodig ik uit een aantal examenkopijen van universiteitsstudenten te komen inkijken. Op zijn ergst lees ik varianten van het Nederlands die ik zelfs met de beste wil van de wereld niet kan begrijpen.

Als het verlies zo groot is of kan zijn, dan is de vraag die gesteld én beantwoord moet worden, wat dan precies die grote winst van het gebruik van al die nieuwe technologieën is. Als we het beperken tot het domein van het onderwijs, zie ik het eerlijk gezegd niet. Ik ben bereid de verlieszijde te aanvaarden, als ik goed zie wat er aan de winstzijde ligt.

Maar opnieuw, ik vind daar eerlijk gezegd bitter weinig. Op zijn best worden de studenten bedreven editors van de output die ChatGPT genereert, maar hoe kan een AI-tekst gecorrigeerd en zelfs begrepen worden als de student niet meer zijn eigen gedachten en gevoelens kan neerschrijven noch autonoom kan denken (dus vertrekkende van een leeg blad dat hij zelf moet vullen).

Daarbij komt dat, zoals Postman al wist, toegang tot informatie nog niet betekent dat mensen zich ook die informatie op een substantiële wijze zullen eigen maken. Zo wordt het internet vrij selectief gebruikt, en dus niet om zich scherp, open en genuanceerd te informeren. In de veelheid van informatie keren mensen graag terug naar wat ze al kenden of waar ze zich in herkennen. Maar dat is voor een goed functionerende democratie net niet de bedoeling en ronduit gevaarlijk. Hoe kunnen van diversiteit doordrongen samenlevingen overeind blijven als er een verlies aan empathie, openheid en expressiemogelijkheid is?

Wie profiteert hiervan?

Wie profiteert ultiem van die nieuwe technologie? Het antwoord is niet zo moeilijk. Achter de vele technologische snufjes schuilt een economie die het niet per se goed voorheeft met de jeugd/mens. Precies daarom is het ‘We kunnen het niet tegenhouden.’ zo’n ontzettend teleurstellend argument. Eigenlijk is het niks anders dan schuldig verzuim. Maryanne Wolf, wereldautoriteit in de neurowetenschappen, stelt iets gelijkaardigs. “Iedere leraar, ouder en zeker iedere minister van Onderwijs (…) [heeft] een verpletterende verantwoordelijkheid. Je laat verslavende middelen [de technologie van het scherm] niet ongecorrigeerd los op gehele generaties.” Het gemak waarmee de nieuwe technologie op het kind/de mens wordt losgelaten, is indicatief voor de mate waarin de moraalfilosofische vraag over het goede leven gewoon niet meer voorafgaandelijk wordt gesteld. Die vraag polst naar de mate waarin al die technologie ons leven nu eigenlijk verbetert dan wel vergalt.

We hoeven dus niet altijd per se de kant op te gaan waarin een bepaalde technologie ons duwt. Misschien is dat wel het werkelijke drama van de moderne technologieën, namelijk dat die elkaar te snel opvolgen en een richting uitgaan waarop we geen vat meer hebben. Waar de geleidelijke veranderingen er eertijds toe leidden dat je nog het idee kon hebben dat het persoonlijke en collectieve leven een bepaalde (zinvolle) richting uitging en dat je daarop (door planning, investering en onderwijs) kon invloed uitoefenen, word je thans verondersteld gewoon mee te ‘surfen’ op de nogal wilde golven van het technologische toeval (vandaag is het dit, morgen is het dat). Ik maak me sterk dat dit bijdraagt aan het moderne onbehagen.

Maar, klink ik nu niet teveel als een oude dinosaurus? Misschien wel. Laat me hier dan toch nog even naar Postman verwijzen. Hij had immers voor dat verwijt een gevatte riposte klaar: dinosaurussen hebben honderd miljoen jaar bestaan, een prestatie die met hun geringe trendgevoeligheid te maken heeft; het zal moeten blijken of de mens hun duurzaamheid overtreft.