Maandag, 28 augustus, 2017

Geschreven door: Carr, Nicholas
Artikel door: Visscher, Robert

De Glazen Kooi

‘Help! Automatisering maakt ons dommer!’

De angst voor automatisering zit er goed in bij auteur Nicholas Carr. Zijn boek De Glazen Kooi staat vol met bang makende verhalen over hoe automatisering ons dommer maakt en gevaarlijk is. Overtuigend is het echter niet.

[Recensie] ‘Ga nooit meer vliegen!’ Dat denk je welhaast na het lezen van het derde hoofdstuk van De Glazen Kooi, Wat automatisering met ons doet. Pagina na pagina beschrijft journalist Nicholas Carr hoe de automatisering vliegen ontzettend gevaarlijk maakt. Want doordat de autopilot zoveel taken overneemt van piloten, zijn passagiers hun leven haast niet meer zeker. “Als je iets wilt begrijpen van de consequenties van de automatisering voor de mens, moet je eerst omhoogkijken”, schrijft Carr. Hij is journalist voor onder meer The New York Times, The Wall Street Journal en Wired.

Calamiteiten

Waarom heeft Carr kritiek op de automatisering in de luchtvaart? Hij wijst op een rapport uit 2010 van de Federal Aviation Administration, het bureau van de Amerikaanse luchtvaartautoriteiten. Uit hun onderzoek blijkt dat in de afgelopen tien jaar bij bijna tweederde van de ongevallen de piloot een fout maakte. Volgens Carr komt dit doordat piloten teveel op de autopilot vertrouwen en het echte vliegen zijn verleerd. Ze zijn opzichters geworden. Als er echt wat mis gaat, weten ze daarom niet goed wat te doen. De insteek van Carr voelt helemaal ongemakkelijk nu er net een vliegtuig neerstortte in de Alpen omdat de piloot van Germanwings de Airbus A320 moedwillig crashte. Dat kunnen we de auteur natuurlijk niet aan aanrekenen. Wel dat hij geen rekening houdt met de cijfers.

Wordt Vervolgd

Robotvriend

Want is vliegen daadwerkelijk onveiliger geworden? Welnee! Toen er nog veel minder automatisering was, waren er juist heel veel meer ongelukken. Verschillende instanties houden het aantal crashes en fatale slachtoffers van vliegen bij, waaronder de Aviation Society Network. Een blik op hun statistieken leert al snel dat er juist steeds minder slachtoffers zijn. Neem 2014, toen waren er 692 doden te betreuren. In 1985 lag dit aantal nog op 2010 en in 1972 zelfs op 2373. Die afname komt natuurlijk voor een groot deel juist door de ontwikkeling van steeds beter materiaal en de steeds verder verbeterde automatische piloot. Kortom: nieuwe technologie levert juist een zeer grote bijdrage aan de afname aan ongelukken. Tel daar nog eens bij op dat we steeds meer zijn gaan vliegen en de afname van het aantal slachtoffers is nog indrukwekkender. Bovendien neemt naar aanleiding van het verschrikkelijke ongeluk in de Alpen van de A320 de roep zelfs toe dat een autopilot een piloot die een vliegtuig wil laten crashen moet overrulen.

Toch heeft Carr wel degelijk een punt; de automatisering in het vliegtuig heeft een ongewenst bij-effect: piloten worden opzichters en weten bij weinig voorkomende problemen vaak niet wat te doen. Maar nieuwe technologie kan daarbij juist helpen. De TU Delft doet onder meer onderzoek naar hoe je piloten beter traint op uitzonderlijke situaties in een vluchtsimulator. Daar testen ze vliegeniers op weinig voorkomende calamiteiten en gaan ze na hoe ze het beste dienen te reageren. Technologie is dus niet louter de grote boosdoener, zoals Carr ons wil doen geloven. Wat de auteur zelf zou willen doen aan ‘te veel vertrouwen op de autopilot’, wordt niet helemaal duidelijk. Stoppen met vliegen? Of wil Carr weer terug naar de tijd voor de grootschalige invoering van automatisering, toen er ontzettend veel meer ongelukken waren?

Dwaas

Jammer genoeg is het boek van Carr doordrenkt met angst voor nieuwe technologie. Hij gaat daarin ver. Zo reed Carr ooit in een auto met een automaat, maar ruilde hij deze weer in omdat hij zich door de automaat minder bestuurder voelde. Carr was ook een tijd verslaafd aan het gebruik van internet en kreeg het idee dat hij daardoor dommer werd. Zijn hersenen, zo beredeneerde hij, veranderden door het internetten en zijn gadgets. Het lukte hem niet meer om lange stukken tekst te lezen, schreef hij in zijn bestseller Het Ondiepe. Maar die aanname wist hij daarin niet wetenschappelijk te onderbouwen. Natuurlijk veranderen zijn hersens door het gebruik van een telefoon. Maar dat is geen wonder. Want ons brein verandert voortdurend, ook door het lezen van dit artikel. Maar er is absoluut geen bewijs dat gadgets, internet en apps mensen daadwerkelijk dommer maken.

Carr maakt dus veel aannames en doet boude uitspraken, die hij niet of slecht onderbouwt. Zo noemt hij in de scheepvaart een curieus voorbeeld van een stuurman die zo op het navigatiesysteem vertrouwde, dat het schip op een zandbank liep. Stom natuurlijk en een sappige anekdote. Maar gebeurt zoiets echt heel vaak? Je zou de stuurman wat gezond verstand toewensen. Als de TomTom in uw auto meldt ‘rechtdoor rijden’ bij een rotonde, dan rijdt u er toch ook niet dwars overheen?

Het is geen bewijs dat de scheepvaart beter af zou zijn met minder of geen technologie aan boord. Natuurlijk heeft Carr gelijk dat je situaties als met die stuurman wilt vermijden en dat je wilt voorkomen dat stuurlui overdreven vertrouwen op hun apparatuur. Maar dat vraagt er vooral om dat we stuurlui er bewust van maken dat dat gevaar bestaat als ze met technologie werken. Dat kan tijdens hun training bijvoorbeeld en het lijkt onwaarschijnlijk dat dit nog niet gebeurt. Verder is het probleem vermoedelijk niet zo groot als Carr met zijn onheilspellende toon en voorbeelden schetst.

Steeds slimmer

Het is ook interessant hoe Carr schrijft over wat hij ‘digitale technologieĂ«n’, zoals het internet en computers, noemt. “Ze houden ons bij de wereld vandaan”, schrijft hij. Het computerscherm noemt hij ‘onweerstaanbaar, niet alleen vanwege de gemakken die het ons biedt, maar ook vanwege de vele mogelijkheden tot afleiding’. Zeker afleiding is bij veel nieuwe technologie, zoals gadgets, Smartphones en apps een probleem. Maar er zit ook ontzettend veel goeds in het gebruik ervan.

Zij hebben allemaal ongelooflijk veel kennis en informatie tot hun beschikking, volgens de Franse filosoof Michel Serres. Hij ziet het, in tegenstelling tot Carr, juist als een groot voordeel.

Nieuwe technologie is in zichzelf namelijk niet goed of slecht. We kunnen het wel op een goede of minder goede manier gebruiken. De Canadese journalist Clive Thompson schreef daar onlangs een uitstekend boek over. In We worden steeds slimmer, zet hij op een rij hoe je het beste gebruik kan maken van sociale media, gadgets en apps. Hij noemt het voorbeeld van een lerares van een Canadese school. Zij gaf haar leerlingen de opdracht om een biografie te schrijven van een Canadese schrijver. Ze moesten hun paper niet alleen bij haar inleveren maar ook op Wikipedia zetten. Geen leerling liep de kantjes er vanaf, het niveau was vele malen hoger dan bij andere opdrachten en scholieren werkten harder. Dit kwam doordat ze een publiek hadden, gaven ze zelf aan. Hun cijfers waren hoger en het is een van de vele voorbeelden van hoe je slim nieuwe technologie kan inzetten. Ook de Franse filosoof Michel Serres (Princeton University) schreef al een fascinerend boek over de grote mogelijkheden die smartphones, internet en gadgets bieden. De boeken van Serres en Thompson staan vol met inspirerende voorbeelden.

Small

Moet het boek van Carr dan direct de open haard in? Nee, dat is ook weer overdreven. Carr maakt af en toe wel degelijk belangrijke punten. Want natuurlijk heeft hij gelijk dat we niet teveel op automatisering en machines moeten vertrouwen. “Automatisering heeft de neiging ons te veranderen van handelende personen in waarnemende personen”, stelt hij bijvoorbeeld treffend. Helaas schrijft Carr echter met teveel sensatie en overdrijving. Bovendien onderbouwt hij zijn stellingen te weinig. Soms zelfs op een kwalijke manier. Hij suggereert bijvoorbeeld dat er een verband is tussen het gebruik van nieuwe technologie en zelfmoorden, depressiviteit en medicijngebruik, maar onderbouwt dat niet. Serieuze oplossingen draagt hij ook amper aan.

Het had Carr gesierd als hij zijn lezers niet alleen angstig maakt, maar ook vertelt hoe het volgens hem beter kan. De auteur past in een lange traditie van pessimisten, die bang worden van grote veranderingen en nieuwe ontdekkingen. Niet voor niets waren er na de uitvinding van de boekdrukkunst en het grootschalig gebruik van elektriciteit ook veel klagers die meenden dat de wereld daardoor slechter af was. Nadat Gutenberg bijvoorbeeld de losse drukletter uitvond was wiskundige Gottfried Wilhelm Leibniz bang voor de ‘de gruwelijke massa boeken’ die zou komen. Hij vreesde dat goede schrijvers in de vergetelheid raakten. Clive Thompson schrijft in het boek We worden steeds slimmer ook over dat soort reacties. Hij benadrukt dat het een tijd duurt voordat mensen zijn gewend aan nieuwe uitvindingen. Zo duurde het ook even voordat boeken bijvoorbeeld paginanummers kregen. Ook bij (vrij) nieuwe technologie zoals internet, Smartphones, automatisering en robotisering gaat er een tijd overheen voordat we het ons eigen maken en op de juiste manier inzetten. Maar de mogelijkheden zijn groot. Jammer dat Carr dat niet inziet.

Eerder verschenen op Kennislink