calendar tag arrow download print
Doorgaan naar inhoud

Hoe werken we samen aan verantwoorde digitalisering?

terugblik
29 november 2019
Rathenau Live digitale transitie Programmeren

Foto: Laura Marienus

Image
Najaarsevenement 2019 - titel
Hoe worden je zoekresultaten of de suggesties van Siri bepaald? We vergeten vaak dat achter zulke digitale hulpmiddelen niet slechts een automatisch proces, maar mensenwerk schuilgaat. Wie de code schrijft, zit ‘aan de knoppen’. Dat dit problematisch kan zijn, legde Clive Thompson uit tijdens Rathenau Live op 7 november in de Koninklijke Schouwburg Den Haag.

Op basis van zijn boek Coders liet tech-journalist Thompson zien waarom programmeurs vaak weinig oog hebben voor de bredere impact van hun werk. Met Linda Kool, themacoördinator bij het Rathenau Instituut, ging hij onder leiding van moderator Jurriën Hamer in gesprek over manieren om als samenleving verantwoorder om te gaan met digitale technologieën.

Gerdi Verbeet tijdens het najaarsevenement 2019
Gerdi Verbeet, voorzitter van het Rathenau Instituut.

Hoe willen we dat onze digitale toekomst eruitziet? Hoe zorgen we dat iedereen kan meedoen? Het is aan ons als samenleving om te bepalen hoe we nieuwe technologieën zoals kunstmatige intelligentie en robotica willen inzetten, met aandacht voor maatschappelijke waarden. Het vormgeven van een verantwoorde digitale samenleving is een centraal onderzoeksthema van het Rathenau Instituut, zo lichtte Gerdi Verbeet - voorzitter van het Rathenau bestuur - toe in haar welkomstwoord. Organisaties als het Rathenau Instituut helpen bij het vergroten van ons bewustzijn over de impact van nieuwe technologie, onder meer door maatschappelijk debat hierover te stimuleren.

Linda Kool - najaarsevemenent 2019
Themacoördinator Linda Kool sprak over de digitale transitie.

Van gadgets naar digitale transitie

Linda Kool leidde het programma in met een toelichting op hoe digitalisering onze levens beïnvloedt. ‘Uit verschillende onderzoeken van het Rathenau Instituut naar de rol van technologie in de samenleving blijkt dat digitalisering razendsnel gaat en onze levens fundamenteel verandert. Ook Thompson’s boek ‘Coders’ laat zien dat de impact enorm is. De mogelijkheden die programmeurs creëren zijn nuttig, maar kennen vaak onbedoelde neveneffecten. Want digitale technologie omvat veel meer dan een verzameling gadgets met spannende nieuwe features. Inmiddels kunnen we wel spreken van een digitale transitie, op diverse vlakken. Met alle mogelijke gevolgen van dien.’

Digitale technologieën veranderen de manier waarop we werken, communiceren én handelen. Coders spelen daarin een veelal onzichtbare, maar grote rol. Kool: ‘Programmeurs bouwen aan een samenleving waarin onze autonomie, privacy, gelijkheid en vrijheid worden beïnvloed. Daar moeten we ons niet alleen bewust van zijn, we moeten samen die waarden blijven bewaken.’ Hoewel we in ons dagelijks leven regelmatig worden beïnvloed en gestuurd om bepaalde keuzes te maken, gebeurt dit digitaal vaak indirecter en nog meer onbewust, wat het lastiger maakt om aan die invloed te ontkomen. Meer begrip van de werking en impact van nieuwe technologieën is daarom essentieel.

Clive Thompson en Linda Kool - Najaarsevenement 2019
Linda Kool en Clive Thompson in gesprek.

Verantwoord digitaal samenleven vraagt om gezamenlijke inspanning

Vanuit de toenemende digitalisering is het dan ook belangrijk om te werken aan een verantwoorde omgang met AI, waarbij publieke waarden en mensenrechten zoals veiligheid en democratie voorop staan. Alle betrokken partijen moeten hun verantwoordelijkheid nemen om een digitale samenleving te realiseren waarin iedereen zich thuis voelt. Maar wie is nou waar precies verantwoordelijkheid voor? Die vraag is in deze nieuwe wereld niet eenvoudig. Volgens Linda Kool is een gezamenlijke aanpak noodzakelijk: ‘Politici en beleidsmakers moeten zorgen voor heldere, actuele kaders. Dit betekent dat bijvoorbeeld duidelijk moet zijn waar een bedrijf als Facebook onder valt: is het een tech- of mediabedrijf, een uitgever…? Is de bestaande regulering voor zo’n organisatie vervolgens voldoende of is er aanpassing nodig? En hoe verhouden de kaders zich tot onze mensenrechten?’

Naast passende kaders is er budget en capaciteit nodig om toezichthoudende instanties hun werk te laten doen. Toezichthouders, ook op Europees niveau, moeten bovendien intensief samenwerken om een verantwoorde omgang met AI te waarborgen. Het vraagt ook de juiste inzet van tech-bedrijven en IT-professionals zelf. Maar minstens zo belangrijk is dat burgers allemaal over de juiste vaardigheden beschikken om mee te kunnen in de nieuwe digitale wereld, om zich te wapenen tegen de mogelijke risico’s en te kunnen meebeslissen over de toekomstige digitale samenleving.  

Clive Thompson 2 - Najaarsevenement 2019
Clive Thompson vertelde hoe grote techbedrijven processen optimaliseren.

Drang naar efficiëntie laat maatschappelijke waarden buiten beeld

Clive Thompson trapte af met een persoonlijke anekdote over hoe code kan worden gebruikt om taken eenvoudiger te maken: om de verkoop van zijn nieuwe boek te monitoren bouwde hij een algoritme dat vier keer per dag laat weten hoe het staat met de ‘sales’ van ‘Coders’. Het zijn veelal dit soort activiteiten die het voor programmeurs verleidelijk maken om code te schrijven waarmee een computer taken kan overnemen en processen kan optimaliseren. De mensen met wie Thompson sprak, laten zonder uitzondering een voorliefde zien voor het efficiënter maken van taken; zelfs al dit op z’n tijd gepaard gaat met een flinke dosis frustratie. Thompson: ‘Coders zijn extreem goed in het aanpakken van complexe problemen en het zoeken van oplossingen daarvoor. Zorgen dat een machine iets vervelends uit handen kan nemen, geeft een ontzettende kick.’ Niet voor niets vormt het optimaliseren van processen de basis voor zo’n beetje alle grote techbedrijven van dit moment, zoals Google, Uber en Facebook.  

Clive Thompson uitsnede - Najaarsevenement 2019

Dat willen optimaliseren bleek echter neveneffecten te hebben die programmeurs niet hadden doordacht. Zo leek AirBnb bijvoorbeeld een geweldig systeem: het nuttig gebruiken van ruimte die anders niet gebruikt wordt. ‘De populariteit van AirBnb had echter grote gevolgen voor de huizenmarkt en huurprijzen. Bovendien was de wetgeving nog niet ingericht voor gevallen van schade aan je huis bij verhuur via dit nieuwe systeem. Bij het inrichten van de app dachten de makers onvoldoende na over zulke maatschappelijke consequenties bij gebruik op grote schaal. De algoritmes die de basis vormen van big databedrijven, botsen dus regelmatig met publieke belangen.’

Thompson sprak voor zijn onderzoek met veel programmeurs, ook van de grote bedrijven, en constateerde dat het een opvallend uniforme groep is, waar oplossingsgerichtheid vaak hoger in het vaandel staat dan de sociale en economische impact. Die homogeniteit brengt risico’s met zich mee: ‘Coders beschikken over grotendeels dezelfde eigenschappen. Ze willen graag dingen maken, vinden het leuk om iets te ontwerpen dat anderen kunnen gebruiken en raken daarbij makkelijk verstrikt in de technologische uitdagingen. De bredere impact laten ze daardoor - onbedoeld - vaak buiten beschouwing.’ Hij ziet hen als de meest invloedrijke beroepsgroep van dit moment. ‘Voorheen waren het rechters die de ‘code schreven’ en bepaalden wat er gebeurde. Eind vorige eeuw kwamen de bankiers. Programmeurs hebben die dominante rol nu overgenomen.’

Gelukkig ziet hij ook binnen de sector beweging om verantwoorder om te gaan met de impact van hun werk. ‘De druk binnen de bedrijven lijkt toe te nemen. Op verschillende plekken zijn al walk-outs of protesten van medewerkers geweest. Coders geven aan dat ze het oneens zijn met de morele richting die bedrijven als Google en Microsoft kiezen. De bewustwording neemt toe. Veranderingen naar meer verantwoorde digitalisering lijken op stapel te staan.’ Of dit voldoende is om de sector daadwerkelijk anders in te richten, zal de toekomst leren. Of en hoe verschillende partijen aan die verandering kunnen bijdragen, stond in de discussie tussen beide sprekers en het publiek centraal.

Jurrien Hamer- Najaarsevenement 2019
Moderator Jurriën Hamer, onderzoeker bij het Rathenau Instituut, stelde prikkelende vragen aan de zaal.

Hoe bepaald wordt wat jij leest

Een eerste thema in de discussie was de onbewuste sturing door sociale media. Code speelt een onzichtbare rol in allerlei manieren om constant onze aandacht te trekken. We worden aan de lopende band gestuurd in wat we wel en niet doen of lezen. Zo is de newsfeed op Facebook geen weergave van alle actuele berichten, maar richten coders de feed zo in dat de meest engaging berichten altijd bovenaan verschijnen. Thompson legde uit dit mechanisme best hervormd kan worden, door algoritmes opnieuw en met minder spectaculaire data te trainen. Maar social media-bedrijven zijn nu eenmaal gebouwd op bepaalde financiële modellen. Zo willen investeerders snel zien of hun aandelen iets opleveren, en op korte termijn weten of een start-up faalt of niet. Het is daarom aantrekkelijker om te blijven werken met algoritmes die nieuwsberichten uitlichten waarvoor in korte tijd veel lezers worden verwacht. Als bedrijven zouden ophouden om steun te zoeken in dit soort venture capital, komt er mogelijk ruimte voor minder ‘hysterisch’ en objectiever nieuws.

Publiek in de zaal - najaarsevenement 2019

Het belang van diversiteit in de digi-wereld

Voortbordurend op het gebrek aan diversiteit dat eerder ter sprake kwam, werd gevraagd in hoeverre het zorgelijk is dat programmeurs vaak mannen zijn. De journalist beaamde dat programmeurs overwegend mannen zijn. Een van de redenen hiervoor is de voorselectie die Amerikaanse universiteiten hanteren voor de studie Computer science. Er komen vervolgens overwegend jongeren binnen die al veel ervaring hebben met programmeren; en vaak zijn dat jonge mannen. Een mogelijke aanpak is om meisjes al op jonge leeftijd te motiveren voor het kiezen van een technische studierichting. Daarnaast zal de bedrijfscultuur moeten veranderen om het beroep van programmeur aantrekkelijker te maken voor vrouwen; volgens de sprekers een best complexe opgave.

Publiek in de zaal 2 - najaarsevenement 2019

Geopolitieke relaties beïnvloeden ontwikkeling van AI

Een ander onderwerp van gesprek was de invloed van geopolitieke relaties op de ontwikkeling van kunstmatige intelligentie. Volgens Thompson is de alomtegenwoordigheid van de staat in China een uitdaging voor de internationale ontwikkeling van kustmatige intelligentie. Want China heeft goede programmeurs, maar hun producten zijn zo ontwikkeld dat de Chinese overheid altijd via een achterdeur kan meekijken. Daar moeten we ons bewust van zijn. Op de vraag hoe westerse democratische rechtsstaten zich tot autoritaire regimes moeten verhouden om zelf controle te blijven voeren, antwoordde hij dat de oplossing ligt in een gedecentraliseerd systeem, met voldoende competitie tussen tech-bedrijven. Ook Linda Kool beaamde dat onderlinge concurrentie van belang is, door de bedrijven kleiner te maken en door goed mededingingstoezicht te houden.  

Melanie Peters- Najaarsevenement 2019
Melanie Peters, directeur van het Rathenau Instituut, sloot de bijeenkomst af.

Maatregelen voor een open en veilige digitale samenleving

Melanie Peters, directeur van het Rathenau Instituut, sloot de bijeenkomst af. Ze lichtte toe dat het Rathenau Instituut steeds de vraag wil oproepen over wat voor samenleving we willen zijn. ‘Het werk van programmeurs kan efficiëntie opleveren. Efficiëntie is geen deugd op zich, maar kan wel op een goede manier worden ingezet in onze samenleving. Programmeurs zullen hun werk in lijn moeten brengen met de publieke waarden in onze maatschappij. Whatever is online is offline.’ We zien de scheidslijn tussen de offline en de online wereld vervagen: wat online gebeurt heeft offline effect. Peters: ‘We zullen daarom moeten toelichten wat huidige standaarden betekenen voor de digitale samenleving. Tussen de dominantie van Amerikaanse tech-bedrijven en de Chinese staat die overal aanwezig is, kan Europa standaarden definiëren om te zorgen dat de wereld een open wereld blijft. Het Rathenau Instituut roept niet alleen bedrijven, maar ook de overheid, nationaal én in Europees verband, op om te werken aan een veilige, digitale samenleving.’

Meer lezen over verantwoord omgaan met digitale technologie?

Het Rathenau Instituut publiceerde eerder: