Volgens Maxim Februari (2023) staat onze democratische rechtstaat vanuit twee kanten onder druk: de rekenkracht van de technologie en het natuurgeweld. En van beide kanten neemt de mogelijkheid voor mensen om beslissingen te nemen af. In 1996 las ik het boek De virtuele staat van Paul Frissen (1996). In mijn kantlijnaantekeningen stond: ‘het model wordt de werkelijkheid’ als een reactie op een quote in het boek uit 1988. Waar we in de 90’er jaren spraken over cyberpolitiek en de noodzaak de politiek en het bestuur opnieuw uit te vinden als gevolg van technologische ontwikkelingen zien we deze toekomstbeelden nu langzaam werkelijkheid worden. En de vraag is of dit een werkelijkheid is waar we als burgers blij van worden. Paul Frissen benoemde in ’96 vier transities in de verbindingen tussen politiek, bestuur en technologie die leiden tot het ontstaan van een virtuele staat (horizontalisering, autonomisering, de-territorialisering en virtualisering), maar ik betwijfel of deze transities daadwerkelijk zijn doorgevoerd in het systeem. Een deel van het probleem wordt veroorzaakt door het feit dat het maar de vraag is in hoeverre we de politiek en het bestuur opnieuw hebben uitgevonden om antwoord te geven op de complexe vraagstukken waar we als samenleving voor staan. Jan Rotmans (scientivist) voorspelt dat Nederland zal transformeren naar een nieuwe samenleving en spreekt over een kanteling, waarin mensen van onderop zorgen voor een beweging. Henk Oosterling (ecosoof) pleitte in zijn lezing op het symposium Durf te Denken voor een overgang van sectoraal denken in een pyramide naar integraal, circulair en inclusief denken in netwerken, waarbij de mens het knooppunt is met een belangrijke rol voor reflectie, feedback en het samenvallen van denken en doen (inter-esse). Hoe graag ik de transitie wil zien lijkt het er eerder op dat het systeem hetzelfde is gebleven en de technologie vanuit een oud perspectief ingezet wordt. En ondertussen raken we de invloed langzaam kwijt aan private ondernemingen die de macht overnemen.
Bas Haring (volksfilosoof) vroeg zich tijdens hetzelfde symposium in zijn lezing af wat een wereldburger is. Hij zoomde in op het woord burger en benoemde deze als ‘lid van de samenleving’. Bas pleitte ervoor dat we vooral ook mensen nodig hebben die zich zo nu en dan even buiten de samenleving plaatsen om zelf na te denken en de ontwikkelingen in de samenleving te beschouwen, als een echte filosoof. Een interessante kijk op de roep om meer zelfdenkers heeft zelfbenoemd technofilosoof Rens van de Vorst. Met zijn recentste boek Digitale Gremlins (2023) en de bijbehorende website schetst hij dat “digitale technologie ons leven een stuk gemakkelijker gemaakt heeft, maar dat de laatste jaren steeds duidelijker wordt welke prijs we daarvoor betalen. Het wordt er met al die digitale technologie namelijk lang niet altijd leuker, gezelliger of spontaner op. Eigenlijk helpen we vooral de grote technologiebedrijven aan nog meer geld, macht en data”. Hij roept op om het systeem te saboteren als een gremlin. Met als doel om niet langer passief toe te kijken, maar actie te ondernemen. Zijn idee voor de tegenhanger van Captcha, namelijk https://ceptcha.com/nl, is hier een mooi voorbeeld van.
Ook Maxim Februari pleit voor kritisch burgerschap in zijn boek ‘Doe zelf normaal’ (2023). Deze zelfzeggenschap is nodig om te voorkomen dat we ons laten sturen door technologie (en natuurgeweld). Als democratie bepalen we samen wat onze wetten zijn, maar omdat we tegenwoordig alles een crisis noemen, hebben we continue haast en nemen we onvoldoende tijd om over de regels na te denken en af te stemmen. De regels die bedacht worden als antwoord op de crisis, zijn als “Brinta: snel verteerbaar zonder kauwen en lekker warm” (Menno Hurenkamp, NRC 7/4/23). En ondertussen halen we steeds meer onze rechtvaardigheid uit algoritmen, want we hebben haast. Maxim betoogt dat we eerst moeten bedenken wat we willen dat mensen doen en laten en pas daarna starten met het ontwerpen van technologie: eerst ethiek dan techniek. De recente opkomst van AI in de vorm van onder andere Chat GPT laat maar weer eens zien hoe belangrijk die volgorde is. Een typisch voorbeeld van eerst doen en dan pas denken. Ironisch is de oproep van de makers om de ontwikkeling tijdelijk stop te zetten en het vertrek van AI-pionier Geoffrey Hinton bij Google.
Dit doet me steeds meer denken aan ‘computer says no’ of de paarse krokodil. In onze ijver het systeem met technologie eenvoudiger te willen maken (is dat onze waarde?) slachtofferen we mensen als gevolg van modellen. Hoe meer data, hoe meer we zullen moeten nadenken en dat wordt nog weleens vergeten. En dan heb ik het nog niet over de ingebouwde bias in het ontwerp van de technologie. Rens van de Vorst laat dat mooi zien in zijn oproep ons te onttrekken aan het algoritme: alle technologie die ons de laatste dertig jaar gevormd heeft is bedacht door weinig sociale witte jonge mannen: nerds. Dit geldt dus niet alleen als waarschuwing voor de recente AI ontwikkelingen, maar voor veel meer technologie: we need other people to shape technology! We zien dit ook terug in de beslismodellen die de basis vormen voor de systemen die bepalen of iemand wel of geen kinderopvangtoeslag krijgt of de handhaving tijdens de lockdowns met QR-codes en de Corona-App.
Over de toeslagenaffaire zegt Paul Frissen in zijn boek De integrale staat. Kritiek van de samenhang (2023): “De toeslagenaffaire is geen afwijking, maar een logische uitkomst van een verzorgingsstaat die integraal wil zijn.” Hij verbaast zich in het boek over de populariteit van het woord ‘integraal’. Dit lijkt een positief streven (ik roep zelf ook vaak: laten we dit integraal benaderen), maar kan ook uitgelegd worden als regie vanuit de overheid via systemen en modellen, en sturing van burgers naar normaal gedrag. Het lijkt alsof er veel aandacht is voor diversiteit, maar de norm voor wat normaal is, wordt steeds uitsluitender en exclusiever. Want wat is normaal? Tod Ross schreef in ‘the end of average’ (2015) al dat het gemiddelde niet bestaat. Maar dat gemiddelde is nu net wel de basis voor veel technologie, waaronder AI. Chat GPT is een taalmodel dat voorspelt welk woord moet volgen als antwoord op een gestelde vraag. De voorspelling is gebaseerd op statistiek. De combinatie van regie op systemen en modellen en het werken met statistieken zie we ook terug in de Cito-toets. Karen Heij promoveerde in 2021 (haar promotor was Paul Frissen) en kwam in haar onderzoek naar de eindtoets in het basisonderwijs tot de stuitende conclusie dat de resultaten van de toets helemaal geen weergave van de werkelijkheid zijn. Enerzijds meten we alleen wat we kunnen meten, anderzijds blijkt de toets een normtoets te zijn. Er is van te voren afgesproken wat de verdeelsleutel is tussen de verschillende onderwijstypen met elk jaar een zelfde uitkomst. De toets draagt “vooral bij aan een verdere bevestiging van de bestaande maatschappelijke ongelijkheid en draagt bij aan een verdere verharding van bestaande maatschappelijke ongelijkheid”. Een interessante paradox is de ontwikkeling van de AI guide voor het onderwijs (Khanmigo) bij de Kahn-academy, waar juist gratis onderwijs, toegankelijk voor iedereen het doel is.
Bas Haring bepleit het belang van de tegendenkers. Hij maakt zich zorgen omdat onze denkbeelden zo snel kunnen veranderen. En dat geldt dus ook voor de regels, die in een paar seconden kunnen veranderen (u mag er niet in) in plaats van eerst publiek besproken te worden. Bas noemt als voorbeeld ons idee over niet roken in een restaurant, jaren geleden volledig normaal en nu zijn rokers de paria’s. We hebben meer mensen nodig met briljanten ideeën. De kenmerken van deze mensen zijn: open netwerk, zelf bedenken hoe iets werkt en buiten de groep denken. In de kern pleit Bas voor het belang van filosofie. Naar mijn mening kun je studenten alleen maar ontwikkelen tot digi- en datavaardige wereldburgers als je ze leert zelf te denken en hun gedachten te verruimen door een deel van het leren buiten de veilige muren van de instelling en in samenwerking met andere disciplines te organiseren (in netwerken). Dezelfde redenering is van toepassing op de slimme inzet van technologie. Dit begint bij het ethische reflecteren op de impact en je de vraag te stellen of het wenselijk is. We zullen studenten moeten leren om kritisch en verstandig om te gaan met de mogelijkheden en de risico’s van techniek. Steven Dorrestijn, lector Ethiek & Technologie geeft leiding aan het onderzoeksprogramma ‘Wijs met techniek’ en introduceert in een publicatie een aantal werkvormen om deze reflectie in het onderwijs te organiseren. De idee is dat deze werkvormen bijdragen aan bewustwording en verbetering van de vaardigheden om goed om te gaan met techniek, essentiële kwaliteiten van elke wereldburger. Een wereldburger die ervoor moet zorgen dat we (in de woorden van Februari) digitaal wakker worden.
Deze tekst verscheen eerder op de HANICTO blog
Leave a Reply