< all posts

Interview met Jochanan Eynikel

By Annelies — Feb 02 2018
23 min read

Over mens, natuur, technologie en ethiek

Na het lezen van zijn boek ‘Robot aan het stuur’, begonnen we de hoop te koesteren dat Jochanan ons misschien enkele antwoorden kon geven op de vragen waar we mee speelden. Over de relatie mens-technologie, over utopie en dystopie en over de moeilijkheid en het belang om het ondenkbare te bedenken… En gelukkige wilde hij tijd vrijmaken om ons hier samen eens over te buigen.
Neem er een koffie bij en zet u even, het gaat u wat tijd kosten maar het is de moeite. Zoals bij veel dingen. #beloofd

Een vraag die mij al een tijdje bezighoud is in hoeverre efficiëntie iets menselijk is. Efficiëntie is een van de kerneigenschappen van technologie, maar in relatie met de mens misschien niet zo evident. Zijn mensen wel gemaakt om geoptimaliseerd te worden ?
Ik denk wel dat efficiëntie denken iets typisch menselijk is, of tenminste dat het gekoppeld is aan intelligentie. Je hebt bvb. een vis die een rots gebruikt om een schelp tegen op te breken en de vrucht eruit te krijgen. Dan denk je toch, ‘Man dat is straf’. Of het meer bekende voorbeeld van de aap die een stok gebruikt om termieten te eten. Dit gedrag vergt een zekere intelligentie, maar het wordt wel aangeleerd door anderen het gedrag te zien doen. Het komt niet uit een actief ‘omdenken’ of verwondering die zaken die al goed gaan toch weer wil herdenken. Dus ik denk wel dat het herdenken van de dingen iets menselijk is.Dat moet misschien niet altijd op efficiëntie gericht zijn, maar dat is daarbinnen ook wel heel belangrijk. Kijk maar hoe fabrieken zijn ontworpen in de industriële revolutie, door de vraag te stellen hoe de dingen zo snel en goedkoop mogelijk geproduceerd worden. Als je dat vergelijkt met de aap en zijn stok, dan gaat hij wanneer die werkt niet op zoek naar nog betere manieren om termieten te eten. Dus ja op zich is het wel iets menselijk, ik denk niet dat het onnatuurlijk is.
Let wel, zoals alles, kunnen zaken doorschieten. Dat heeft de industriële revolutie ook duidelijk gemaakt, wanneer het werk alsmaar afstompender werd doordat men alleen maar geleid wordt door het efficiëntie denken. In mijn boek raak ik dat ook aan. Technologie begint zaken over te nemen die vroeger puur menselijk waren, zoals diagnoses stellen van ziektes, binnenkort autorijden, … En zo’n systeem zal ontworpen zijn zoals wij dat willen, maar het zal nooit bezwaren maken zelf tegen bvb. de gevolgen van efficiëntie drang. Als we een auto ontwerpen om autonoom te rijden dan gaan we dat doen zodat die zo efficiënt mogelijk rijdt, zo zuinig mogelijk, zeker geen ongevallen veroorzaakt, … maar die auto gaat hier zelf niets bij bedenken. De morele kant van die technologie of eventuele bezwaren, zullen dus altijd van ons moeten komen. Wij maken als mens niet enkel beslissingen vanuit onze ratio, het economische, efficiëntie denken, maar ook met ons hart, met emoties, … en dat kent technologie niet. Het contextuele bewustzijn kan verbeteren, of we kunnen bepaalde zaken voorprogrammeren, maar de morele reflex zal altijd van ons moeten komen.

De drang naar efficiëntie die nogal luid klinkt in het domein van de digitale transformatie doet soms denken aan de verwetenschappelijking van ons wereldbeeld. Het onttoveren en alles berekenbaar en beheersbaar maken. Als de hele wereld geoptimaliseerd, transparant, berekend en efficiënt wordt, wat zouden daarvan de gevolgen kunnen zijn voor mensen en gaan we deze aankunnen? Is het leven ook niet houdbaar doordat er een percentage ongrijpbaar, onkenbaar, onvatbaar, onbeheersbaar is?
De digitale technologie werkt op basis van voorspelbaarheid, dus die hebben data nodig. Hoe meer we alles data laten genereren, hoe meer dat het leven voorspelbaar wordt. Als technologie bvb. op basis van onze vorige boodschappenlijstjes ons gedrag kan voorspellen en weet wat we nodig hebben, dan is het onverwachte helemaal weg. “Ik ga eens iets vegetarisch maken” of “Ik ga eens iets doen wat ik anders nooit doe” wordt steeds moeilijker. Ik denk niet dat we al zo ver zijn, maar het is een aandachtspunt. De manier waarop we nu al nieuws of informatie krijgen, zeker via sociale media, is gebaseerd op eerder gesteld gedrag, likes, shares, … Dat is op zich niet abnormaal maar zo kom je wel terecht in die befaamde bubble. De serendipiteit, iets vinden wat je niet zocht, wordt veel moeilijker in een volledig gedigitaliseerde wereld. Je kan er wel iets aan doen denk ik. Bvb. RTBF online heeft zoals vele anderen ook een “you might also like…” functie, maar heel bewust doen ze daar altijd ook dingen bij die er niets mee te maken hebben. Een soort voorgeprogrammeerde verrassing eigenlijk. Als je enkel RomComs kijkt er af en toe een actiefilm tussen steken, dat kan je natuurlijk wel doen.
De technologische evolutie waar we ons in bevinden heeft twee stemmen, de ene denkt dat we meer mens kunnen worden dankzij technologie, de andere denkt net het omgekeerde. Kan volgens u technologie mensen méér mens maken?
Het kan ons in ieder geval helpen in het vrijmaken van de dingen die we zelf niet ervaren als typisch menselijk. Als technologie dingen doet voor ons, zoals keuzes maken in producten die interessant zijn of foto’s ordenen in een fotoalbum, dan krijg je ook meer tijd voor andere zaken. En dan is de vraag; wat doe je met die andere tijd? Als een verpleegster of leerkracht alle administratieve werk die ze nu moeten doen, mag overlaten aan een AI-systeem, kunnen ze zich meer focussen op face-to-face onderwijzen of zorg verstrekken, op die zaken waarin menselijk contact heel belangrijk is. En ik denk dat dit contact iets heel wezenlijk menselijk is dat technologie niet meer kan overnemen. Technologie kan dus ruimte en tijd maken voor ons om taken te doen die ons echt mens maken. Alleen, de vraag is welke soort taken technologie overneemt, de administratie of het menselijk contact? Technologie kan omgevingen letterlijk ontmenselijken, omdat er geen mensen meer aan te pas komen. Als je bijvoorbeeld alle trends en prototypes die al bestaan binnen e-health gaat combineren, heb je een volledig automatisch, gerobotiseerd ziekenhuis, waarbij de enige mensen nog de patiënten zijn. Je komt binnen en via een scherm check je in door middel van facial recognition. Ben je niet goed te been, kan je in een zelfrijdende rolstoel plaatsnemen en wordt je naar een kamer gereden waar weer een scherm je begroet. Een robot plaatst je op een bed en de chirurg is misschien nog wel een mens maar die zit achter de computer in een ander continent zoals India, want dat is goedkoper. Dit bestaat niet, maar het zou technisch al kunnen. Of technologie het helemaal overneemt of enkele taken is een menselijke keuze. Ik geloof niet in technologie die een natuurfenomeen is, technologie is niet neutraal, een aardbeving of een vulkaanuitbarsting is neutraal. Achter die fenomenen zit geen bedoeling, behalve voor sommige mensen misschien een goddelijke interventie, maar we laten die even buiten beschouwing. Als je naar technologie gaat kijken van een sociaal netwerk tot een spijkerbom, … die zijn niet neutraal. Daar zit altijd een bepaalde intentie in besloten, niet altijd een slechte, maar ze is er wel altijd. In die zin is technologie niet iets natuurlijks, het vraagt beslissingen van mensen. Dus het zal aan de mens zijn om te bepalen of het ons meer of minder mens maakt.

De twee voorbeelden die je aanhaalt, zorg en onderwijs, hebben een groot face-to-face component. Stel nu dat ziekenhuizen helemaal automatiseren, en alle verpleegsters krijgen een basisinkomen en super veel vrije tijd, wat moeten ze daar mee beginnen? Er is veel thuiszorg nodig en als er meer hulp was dan zouden mensen veel langer thuis kunnen leven. De verpleegster zou met haar skills ook buiten haar job nog kunnen ‘werken’ en haar vrije tijd zinvol invullen. Maar geef die zelfde vrije tijd aan iemand anders die door efficiëntie is opzij geruimd en die weet misschien helemaal niet wat ermee te doen. Sommige jobs zijn heel bedrijf/sector gebonden en niet direct transponeerbaar op het privéleven. Als je jarenlang met een specifiek softwarepakket de lonen hebt beheerd binnen een groot bedrijf, hoe zou je dat kunnen inzetten in een andere, niet professionele context? Er lijkt een groep mensen te zijn voor wie het invullen van de vrije tijd mogelijk moeilijker zal zijn. Het nadenken over die nieuw gecreëerde vrije tijd wordt precies veelal gedaan door mensen die heel goed weten wat ze ermee zouden doen. Maar zijn mensen in het algemeen wel zo goed in het omgaan met veel vrije tijd?
Een terechte bedenking. Ik vind het verstandig dat we nadenken over een basisinkomen, maar toch een beetje als een second option, in de zin dat je mensen niet volledig aan hun lot kan overlaten. Wist je dat er in België maar 4 op de 10 werken? Dat is natuurlijk inclusief gepensioneerden en kinderen, die krijgen misschien nog geen basisinkomen maar op de een of andere manier hebben ze een uitkering. Misschien bestaan daar efficiëntere systemen voor, waarbij je minder moet controleren en meer naar een basisinkomen evolueert, daar ben ik wel voorstander van. In se denk ik toch dat het beter is de mens blijft werken. Dat we een job hebben waar we structuur kunnen uithalen, soms, niet altijd, creatief in kunnen zijn, een sociaal netwerk hebben. Alle studies wijzen uit, dat als je werkende armen en werkloze armen vergelijkt, de werkende armen er beter vanaf komen. Die hebben meer structuur, minder alcoholisme, minder ziekte enzo, … Het is ook niet zo dat wie niet werkt massaal vrijwilligerswerk gaat doen en zich creatief zal ontplooien. Weinig mensen kiezen daar voor. Ik denk dat een basisinkomen met veel vrije tijd een heel andere manier van in het leven staan vergt, zoals met aangepast onderwijs dat bvb. meer op creativiteit inzet. Ik zou niet werken ook moeilijk vinden, want ik doe m’n werk heel graag. Er wordt altijd gezegd dat we in onze vrije tijd ouderen kunnen verzorgen en daklozen helpen en uiteraard is dat goed, maar niet alle mensen zouden er gelukkig van worden dat levenslang te doen. Ik denk dat die overvloed aan vrije tijd niet evident is. Er zijn nog nooit zoveel vacatures geweest als vandaag. Ok dat is korte termijn, maar toch niet onbelangrijk. Het is echt niet gezegd dat er plots geen jobs meer gaan zijn. Dat dachten ze vroeger ook en de mens creëert blijkbaar toch altijd maar nieuwe behoeftes. 100 jaar geleden had men nooit gedacht dat er zo’n beroep zou bestaan als hondenkapper, … Je kan in vraag stellen of alle nieuw gecreëerde behoeftes nodig zijn, maar op die manier blijven we wel bezig. Consultancy bestond gewoon niet vroeger. Nu doet het merendeel van de nieuwe ondernemingen aan consultancy en adviesverlening. Uiteraard ook omdat productie en landbouw veel minder jobs genereren in onze contreien. Dus geven we elkaar maar adviezen en dat wordt goed betaald blijkbaar. Ik durf toch te zeggen dat ik voorzichtig optimistisch ben over de toekomst van werk.

Ik lees hier ergens een soort zelfoverschatting in van de mensen, het idee dat als we alle vrije tijd van de wereld hadden, we ons spontaan tot übermenschen zouden ontwikkelen. Die zelfoverschatting is een fenomeen dat op andere raakpunten met technologie zich misschien ook manifesteert. Bijvoorbeeld in het overschatten van onze immuniteit voor bepaalde persuasieve tactieken, of hoeveel zelfbeheersing we denken te hebben, of hoe vooruitdenkend we eigenlijk zijn. Zouden we in de reflectie over de relatie mens-technologie niet iets meer zelf-kritisch mogen zijn? Hoe goed kunnen we al die verandering behappen, hoe snel kunnen we mee-trappen?
Er zijn experimenten die aantonen dat mensen van zichzelf denken dat ze ongevoelig zijn voor bijvoorbeeld reclame maar het merendeel wordt wel degelijk hierdoor beïnvloed in hun keuzes en handelen. Ook ik die kritisch over technologie schrijf, laat mij beïnvloeden door allerlei notificaties. Vandaar is het ook goed om daar bewustmaking rond te doen. Heel veel van de courante nudging technieken doen beroep op psychologie die ook al bestond zonder technologie. Waar het snoep staat in de supermarkt is niet toevallig. We laten ons daardoor beïnvloeden terwijl we allemaal denken dat we erg zelfbewust zijn en zelf kritisch consumeren.
Het is een kritiek die je de laatste tijd heel veel hoort tegenover de grote spelers uit Silicon Valley, dat men ongegeneerd hard inspeelt op de hoofdzonden van de mens. Is dat iets wat überhaupt te reguleren valt, en zou dat wenselijk zijn? Als digitale producten heel de tijd inspelen op het gebrek aan zelfbeheersing van mensen, maken deze dan niet terug kleuters van mensen?
De respons van veel technologie-experten is “You can’t stop technology”. En inderdaad, je kan iets iets niet ‘ont-uitvinden’. Toch zijn er genoeg voorbeelden in het verleden waarbij we een halt geroepen hebben aan de ontwikkeling, zoals bij militaire technologie en in de energiesector. Landmijnen bestaan nog, maar veel landen hebben ze afgezworen. Kernenergie staat ook onder druk, in Scandinavië willen ze zelfs fossiele brandstoffen stoppen, asbest is verboden, … Er is bij deze voorbeelden wel een heel directe relatie tussen de technologie en de menselijke impact, maar er zijn nog heel veel voorbeelden van innovaties waarbij we door weerstand of bedenkingen er afstand van nemen. Kernenergie zal nog heel lang bestaan, maar we kijken wel naar nieuwe oplossingen. Dat is één aspect, het is niet zo dat we denken ‘Het is er nu, dus laten we het maar doen.”
De wetgeving rond GDPR toont dat er iets te enthousiast met data werd omgegaan en dan krijg je dus een tegenreactie. Zelfs Facebook heeft nu de algoritmes van z’n news feed aangepast. Misschien niet door regelgeving maar eerder door de publieke opinie. Die aanpassing kwam er doordat ze zagen dat mensen steeds minder posten op Facebook, mensen stappen er niet uit, maar het werd wel minder relevant. Ik denk en hoop dat we net zoals bij de klassieke mvo- (maatschappelijk verantwoord ondernemen) thema’s zoals verantwoorde textielproductie, bedrijven gaan zien die helemaal de omslag gaan maken, zoals een Umicore, en zich echt gaan richten op maatschappelijk duurzaam digitaliseren. Niet als schadebeperking, zoals nu vaak het geval is, maar vanuit overtuiging. Het digitale is misschien nog maar 10 jaar oud, dus de meeste spelers zijn nog niet zo ver, maar ik hoop wel dat met het protest die beweging zich sneller gaat voltrekken.

Je sprak daarnet over de directe negatieve neveneffecten van bepaalde technologie, van asbest tot landmijnen. Misschien ligt daar ook een beetje de moeilijkheid met digitale technologie, dat de neveneffecten heel indirect en soms ook confronterend zijn. Dat het toegeven dat bepaalde producten niet de mooiste kant van mensen naar boven brengen, door het inspelen op de zwakheden, niet gemakkelijk is voor de mens. Als je eerst moet toegeven dat een sociaal platform het slechtste in jou naar boven brengt vooraleer je kan protesteren, kan dit misschien een serieuze drempel zijn voor kritisch consumentisme.
Dat is mogelijk een factor die ons minder kritisch maakt, omdat je eigenlijk ook kritisch voor jezelf moet worden. Als bedrijven zoals Unilever druk zetten op Facebook omdat ze hun advertenties niet meer samen met haatdragende content geassocieerd willen zien dan worden die ook onder druk gezet om hun model te herzien. Kijk, je hebt — metaforisch gesproken — Muskianen en Zuckerianen. Musk heeft duidelijk een visie die stelt dat wij als ontwerpers van technologie en als maatschappij een belangrijke verantwoordelijkheid hebben tav technologie want die is niet neutraal. Zuckerbergs visie is er daarentegen een van, “Wij maken gewoon een tool en zijn daarin neutraal, het is aan de gebruikers om er al dan niet verantwoord mee om te gaan.” Dat klopt niet, want een sociaal netwerk werkt met algoritmes die bepalen wat je te zien krijgt en wat niet. Ook Facebook stelt dat nu vast zoals bij de verkiezing van Trump of bij gevallen van haatspuierij op hun netwerk. Dus moeten ze ingrijpen en naar hun eigen waarden kijken vanuit de vraag:“Hoe vinden wij dat ons netwerk mensen al dan niet mag beïnvloeden?”. Ik denk dat de Zuckeriaanse neutraliteitsvisie er een beetje zal uitgaan. Door aanpassingen te willen maken geeft Zuckerberg nu ook wel toe dat FB een maatschappelijke impact heeft en dat ze er maar beter voor zorgen dat dit een goede is. Denk aan de nudging technieken: uiteindelijk gaat er iets op het bovenste schap in de supermarkt moeten liggen. We kunnen dus maar beter goed nadenken over wat we daar willen leggen. Je gaat altijd mensen beïnvloeden, de vraag is dan hoe je dat wil doen. Ik vind het ook niet verkeerd dat een bedrijf klanten beïnvloedt.
Wat de onzichtbaarheid van de neveneffecten van digitale technologie betreft, heb je wel een punt. Een mogelijk gevaar is dat de negatieve effecten misschien niet op korte termijn te zien zijn maar zich op lange termijn wel gaan laten voelen. Zoals dat je pas na vele jaren merkt dat je geen anoniem persoon meer kan zijn in de publieke ruimte omdat er zoveel data van je beschikbaar zijn. Er stond vandaag bijvoorbeeld een oproep in de Standaard van een organisatie die vroeg om geen foto’s van je kinderen op sociale media te plaatsen. Dat is een duidelijke tegenreactie. Foto’s van onze kinderen posten is misschien vandaag geen probleem, maar het kan later ongewild wel negatieve effecten hebben op de privacy van het kind. Al wil ik hier niet te negatief over zijn.
We moeten er niet te negatief over zijn, maar toch ben ik blij dat facebook niet bestond toen ik een tiener was of ik had misschien nooit een job gevonden. Het vraagt wel een bepaalde gedragsaanpassing precies ?Inderdaad, het is omdat de technologie meer kan dat we er meer aandacht voor moeten hebben.

Nu naast de risico’s of meer negatieve aspecten spreek je in je boek ook over de andere zijde van technologie, dat die mensen meer empatisch zou kunnen maken.
Een voorbeeld is de televisie, die een belangrijke rol speelde in liefdadigheidsacties zoals Live-Aid van Geldof in de jaren ’80. De beelden van de Ethiopische kindjes met de hongerbuiken kwamen via de televisie de huiskamers binnen waardoor er ontzettend veel giften binnenkwamen. Je kent die kindjes eigenlijk helemaal niet, maar technologie brengt hun lijden dichterbij. Zo kan empathie of medeleven ontstaan. Ik zal niet zeggen dat de televisie op zich ons empathischer maakt, al kan technologie wel een versterkend effect hebben op emoties. Er wordt wel eens gezegd dat er zonder Youtube geen Arabische Lente was geweest omdat alle traditionele media kanalen waren stilgelegd. De verontwaardiging werd doorgegeven via nieuwe technologie. Dus nog eens, het is niet de technologie op zich die dat doet, maar via die technologie ontstaan er ook wel (on)gewenste neveneffecten. Dit gezegd zijnde: we worden vandaag zodanig overladen met beelden en informatie dat er een gewenningseffect en apathie optreedt.
Infobesitas is een fenomeen waar meer en meer rond te doen is. Ons begrip van waarheid zou hard onder druk staan, door de technologische mogelijkheden om deze te vervormen, manipuleren, sturen, isoleren, … Beginnen mensen zich anders te verhouden tot de waarheidswaarde van feiten?
Ja, en ergens terecht ook, dat betekent dat ze kritischer worden ten opzichte van alles wat online verschijnt. Persoonlijk denk ik dat de bron of afkomst nog altijd een belangrijke rol speelt, meer dan het kanaal waarop het verschijnt, niet alle online informatie is te wantrouwen. Je had vroeger ook al tabloids die gedrukte onzin verkochten naast de klassieke kranten, maar nu heb je natuurlijk veel sneller, meer bereik als krant of blog.

Media is heel snel gedisrupteerd geweest en heeft daardoor misschien al vroeg een geloofscrisis bij zijn afnemers ontketend. Maar je hebt nu alternatieven zoals de Correspondent of Medium die opkomen & een advertentieloos en betalend model voorleggen. Zijn zo’n modellen een mogelijke oplossing of lopen we het risico mensen met een kleiner budget te discrimineren doordat de waarheid online achter een betaalmuur zit ?
De betaling op zich maakt nieuws niet meer waard natuurlijk, die heeft gewoon te maken met je businessmodel. Als je zoals de Correspondent werkt zonder advertenties, moet je ergens je inkomsten halen. Ik denk dat hun betaalmodel eerder is afgestemd op hun publiek. Denk je zelf dat dit een oplossing zou zijn ?
Ik vraag het mij af, misschien wordt kwaliteit zo wel heel elitair ?
Dat denk ik zeker, maar het is niet dat omdat het betalend is, dat het als meer waar zal worden aanzien. Wel onafhankelijker misschien. Het is een moeilijke vraag, waarom zou de Correspondent minder waardevol zijn als ze toch gratis en met een advertentiemodel zouden werken? … Een belangrijke kwestie binnen de post-truth society.
Het concept van betalen voor kwaliteit komt ook soms boven in het privacydebat. Men zegt dat privacy een luxe-goed dreigt te worden. Als data een currency is waar je mee moet betalen als je geen euro’s of dollars hebt zou die commerciële logica een breuk kunnen slagen in het ‘neutrale internet’ tussen de have’s en de have-not’s.
Dat is absoluut een risico en in mijn boek heb ik dat ook aangehaald. Neem nu bijvoorbeeld verzekeringen; In het buitenland bestaat het concept al dat je korting krijgt wanneer je data over je rijgedrag gaat delen. Vandaag moet je ook al minder betalen als je bonus malus goed is, dus men weet op een indirecte manier of je rijgedrag al dan niet wenselijk is. Ze kijken niet mee in de auto, maar uit de afwezigheid van ongevallen kan men bepaalde zaken afleiden. Het principe minder risico is minder betalen, dat bestaat al, daar zijn verzekeringen op gebaseerd. Natuurlijk als dit evolueert naar een scenario waar je enkel maar de (nu al dure) autoverzekering kan betalen door je data vrij te geven dan is dat niet meer een vrije keuze. En dan vind ik dat de waarde vrijheid onder druk komt te staan.
Om op je vorige vraag terug te komen; ik denk dat door de almaar toenemende massa aan informatie het bestaan van gekaderde informatie almaar belangrijker wordt. Een kadering om de infobesitas tegen te gaan. Je ziet dat bijvoorbeeld in de stijgende populariteit van reisbureaus. Je kan zelf je reis boeken, maar er zijn zoveel sites, zoveel opties, zoveel keuzes, … op Tripadvisor staan honderdduizenden recensies waarbij de ene laaiend enthousiast is en de andere het hotel verschrikkelijk vond. Wat mensen terug in de richting van de specialist stuurt met de vraag wat nu eigenlijk relevante informatie is en dat daar een betalingsbereidheid voor is.
Je kan jezelf dan de vraag stellen, wordt informatie zo elitair… Alles waar vraag naar is gaat in prijs stijgen, en het kan wel dat zo de prijs van relevante waarheid of juiste informatie ook gaat stijgen. Je kan dat vergelijken met het advies inwinnen bij experts omdat zij meer over een onderwerp weten. Ik weet niet of we kunnen zeggen dat consultancy iets elitair is, terwijl het wel bedrijven met een bepaalde omzet zijn die ze kunnen veroorloven. Dat is natuurlijk een beetje de wet van vraag en aanbod en ondertussen is er nog altijd veel meer basis, gratis informatie beschikbaar die er vroeger niet was.

Je spreekt over de informatie over de beste reis, dat daar een economische logica achter zit, met een gratis basis en kostelijke expertise, dat lijkt inderdaad niet gevaarlijk of oneerlijk. Maar is het voor alle services of producten die door technologie ontstaan nu wel veilig om ze onder een economische logica te plaatsen ?
Neem nu kennisvergaring, met Wikipedia als hét voorbeeld van gecrowdsourced informatie; Iedereen heeft vandaag toegang tot de grootste encyclopedie ter wereld, van een zekere kwaliteit en redelijk betrouwbaar. Wat niet wil zeggen dat Wikipedia het onderwijs zal vervangen, omdat je voor sommige dingen toch terug experten gaat raadplegen. Je kan vandaag veel meer informatie online vinden over gezondheidszorg, maar toch zal je voor een behandeling nog altijd naar een dokter gaan. Ik denk dat dit geen negatieve evolutie is en dat informatie veel meer gedemocratiseerd is dan enkele decennia geleden. Maar in die veelheid zal je wel een extra prijs betalen voor informatie die meer op maat is, of het nu een diagnose is van een ziekte of een reis.
Als we diezelfde redenering nu niet op informatie maar op de nieuwe mogelijkheden van Biotechnologie loslaten, gaat die logica dan nog op ? Of raken we hier aan een ander domein ? Neem bijvoorbeeld de vooruitgang binnen het domein van genmodificatie, daar ontstaat een groeiende macht over de kwaliteit van een mensenleven. Wat als die achter een grote betaalmuur zit ?
Wat betreft biotechnologie zijn er zeker veel ethische vragen te stellen, designer babies, genmodificatie, hoe ver kunnen we hier in gaan? Die kwesties gaan terug tot de uitvinding van de geneeskunde en dezelfde vragen zag je ook bij de opkomst van abortus en dergelijke meer. Door de snelle ontwikkeling van technologie gaan we veel meer moeten vooruit denken op de mogelijke impact. Als we effectief mensen kunnen klonen moeten we ons bijvoorbeeld eerst al eens de vraag stellen of we dat wel willen. Sinds kort is het menselijk genoom bijna helemaal bekend, maar willen we dat wel kennen? Willen we weten wanneer we gaan sterven en waaraan? Die vragen zijn niet enkel individueel maar ook een maatschappelijke kwestie, als een verzekeraar je enkel wil verzekeren als je alle informatie over je genoom vrijgeeft, … Dat kan verstrekkende gevolgen hebben. Nu wat betreft de financiële kant, dat is inderdaad een aandachtspunt. Zorg moet altijd toegankelijk zijn voor iedereen. Maar het is wel enkel door te experimenteren met technologie, die in het begin peperduur is, dat die zorg op termijn ook betaalbaar wordt voor anderen. Hetzelfde met medicijnen, daar zit enorm veel commercie achter, daar ben ik me heel bewust van, toch is het maar doordat men eerste peperdure experimenten doet dat ze daar iets werkbaar kunnen ontdekken en ontwikkelen, waarna ze goedkoper kunnen worden en iedereen uiteindelijk zich de medicatie kan veroorloven. Als we er nu even vanuit gaan dat de biotechnologie goede ontwikkelingen voor de mensheid doet of daarin experimenteert, denk ik dat het niet valt te vermijden dat daar in het begin meer geld voor nodig is.

Zoals het Elon Musk model ?
Inderdaad, je focust eerst op het premium segment, vooraleer je de massa kan bedienen. Dat is een goed voorbeeld. Elektrisch rijden is nu zo duur omdat de ontwikkeling nog handen vol geld kost, de vraag nog niet groot genoeg is, … en dus zullen eerst de mensen die wat meer geld hebben daarvan kunnen profiteren. Maar hoe meer mensen dat doen hoe meer de prijs gedrukt wordt. Dus dat moeten we wel in het achterhoofd houden wanneer we naar nieuwe ontwikkelingen kijken die nog duur zijn. IVF zal ook wel veel duurder geweest zijn vroeger dan nu en er zullen misschien wel mensen geweest zijn die er geen gebruik van hebben gemaakt vanuit financiële overwegingen en dat is jammer. Maar als we toen gezegd hadden dat het enkel aan een hele lage prijs verkocht mocht worden ging het misschien nooit ontwikkeld worden. Farmacie heeft uiteraard een maatschappelijke verantwoordelijkheid, maar ik snap wel dat ze ook middelen nodig hebben om de opstart van een nieuw medicijn te financieren.
Je zegt dat het nu heel snel gaat, zeker in het domein waar biologie en technologie samenkomen, en dat we ons toch moeten proberen bewust zijn van de mogelijk implicaties. In je boek spreek je onder andere over de hard en soft impacts, maar hoe doen we dit best? Hoe bedenken we het onbedenkbare of het onbekende ?
De belangrijkste disclaimer daarbij is “je zult nooit alles op voorhand kunnen voorspellen.” In mijn boek haal ik dat drie of vier keer aan; Probeer niet de toekomst te voorspellen. Maar je kan wel vanuit een meer multidisciplinaire blik naar technologie en innovaties te kijken. Een voorbeeld zijn de scenario’s die in opdracht van de Europese overheid zijn gemaakt door teams waarin filosofen, ingenieurs, beleidsmakers, sociologen, psychologen, en die met hun blik naar innovaties gaan kijken. Dus eigenlijk gebruikmakend van ervaring uit het verleden en vanuit verschillende disciplines kan je het ecosysteem rond innovaties beter in beeld brengen. In Duitsland heeft men nu bijvoorbeeld een moreel kader ontwikkeld waar zelfrijdende wagens en bij uitbreiding autonoom bewegende technologie aan zal moeten beantwoorden. Dat is in feite een regelgevend kader voor iets dat nog niet bestaat. Natuurlijk zal het nog bijgesteld moeten worden, maar dat vind ik een vorm van vooruit denken. Een van die regels is dat een wagens nooit bewust mensen mag aanrijden. Waar het daar over gaat is dat ze een verschil maken tussen ‘killing’ & ‘let die’. Dat wil concreet zeggen dat als er plots vier mensen voor de auto springen, die wagen niet gaat berekenen dat als hij uitwijkt en daarbij één persoon raakt in plaats van vier dit verkiesbaar is en ook zo handelen. De wagen zal wel alles doen, remmen, uitwijken, … maar nooit bewust iemand die toevallig op het voetpad loopt aanrijden. En dat is een deontologisch principe. Dat is niet vanuit efficiëntie denken voortgekomen. Wat ons terugbrengt op onze eerste vraag. De mens komt hierin tussen. Het is inderdaad efficiënter om voor één leven te kiezen in plaats van vier, maar het voelt onrechtvaardig. Zoals het voorbeeld uit mijn boek over survival lottery, waarbij een regering gezonde mensen zou afmaken om met hun organen een veelheid aan mensen te redden die op donoren wachten. Dat zouden wij nooit aanvaarden, want je kan niet rekenen in mensenlevens. De regelgeving voor autonoom verkeer in Duitsland gaat misschien niet vermijden dat er ongelukken gaan gebeuren, maar de technologie is in ieder geval wel vanuit een rechtvaardig principe vormgegeven. Technologie zal nooit ontworpen worden om mensen bewust te raken.

Het ‘trein-dilemma’; de situatie waarbij een zelfrijdende auto zou moeten kiezen tussen een school met kinderen of een oud vrouwtje wordt vaak als dooddoener gebruikt in gesprekken over de haalbaarheid of wenselijkheid van zelfrijdende auto’s. Dit zou misschien opgevangen kunnen worden door een kader of regelgeving zoals ze nu in Duitsland is ?
Je kan niet anders dan programmeren. Als er, vreemd genoeg, ooit een hele school voor een auto loopt en er staat toevallig een oud vrouwtje op de stoep, dan zal de auto alles doen om uit te wijken. Maar de wagen zal niet bewust andere mensen aan de kant van de weg raken om de schoolkinderen te sparen. Ik vind dat persoonlijk een meer moreel principe dan echt de rekening te proberen maken tussen de mogelijke slachtoffers onderling. De keuze tussen 10 kinderen en 1 ander persoon, die misschien kanker heeft en de dag erna zowiezo zou sterven, geprogrammeerd als een berekening in je technologie steken, waarbij je oordeelt welk leven meer of minder waard is, dat is een heel kwalijke evolutie. Vooral omdat je het moet programmeren. Wij als mens zouden dat misschien spontaan nog doen, de keuze maken als we die 10 kinderen zien staan. Je zou misschien 100 mensen aanrijden als het is om je eigen kind te redden, en dat is moreel ook niet perse verkeerd. Maar vanaf dat je zegt aan een computer; “Bereken maar in aantallen of leeftijden wie wat waard is”, dan denk ik dat we op een hellend vlak terecht komen. Wij rekenen nog vanuit een moreel bewustzijn, maar een computer rekent niet vanuit een gevoeligheid of vanuit een ik, die maakt gewoon een voorgeprogrammeerde som. Ik denk dat het verkeerd wordt als we zo gaan denken en dat het vermijden vs. bewust doden een heel valabel principe is. Het punt is vooral, dat het een mooi voorbeeld is van vooruit denken op innovatie. Misschien een extreem voorbeeld, maar als je kijkt naar gedragsbeïnvloeding, met alles wat we al weten over hoe Apps ons leven veranderen, kan er bij elke nieuwe App wel rekening gehouden worden met voorgaande effecten.

Ik ben je al lang aan het bezighouden, dus ik ga naar m’n laatste 2 vragen overgaan die misschien iets persoonlijker zijn; Wat is jouw grootste vrees? Als alles echt sideways zou gaan in onze relatie met technologie, hoe ziet die dystopie er dan uit ?
Dat is een goede vraag en die brengt me terug naar waar we het in het begin van het gesprek over hadden. Voor mij is de dystopie een wereld waarin eigenlijk geen individuele keuzes meer gemaakt kunnen worden omdat de technologie het al voor je doet. En daarom doet technologie dat niet slecht, maar de serendipiteit verdwijnt, de verrassing verdwijnt, en we worden eigenlijk een beetje slaaf van diezelfde technologie die het ons gemakkelijker wil maken. Niet omdat ze ons domineert, maar omdat we zelf zeggen, “goh, dat is toch gemakkelijker als technologie voor mij kiest, ik vraag het wel aan Google”. Of je moet het zelfs niet vragen want Google wist al dat je tegen 11u naar huis ging, dus de taxi staat voor de deur. In het voorbeeld dat ik nu geef is dat misschien niet erg, maar stel je voor dat ditzelfde patroon ook naar studiekeuzes wordt doorgetrokken. “Jij speelt graag met lego, je zou architect moeten worden.” Ik zeg niet dat we die analyses, zoals scholen die nu ook geven, helemaal moeten vergeten, maar dat ze zo bepalend zouden worden dat je niet meer anders mag of kan, dat lijkt me te vermijden. Een neefje van me heeft zich maar net door technisch onderwijs gesukkeld en toen hij filosofie wou gaan studeren werd hij bijna uitgelachen, maar hij heeft het wel met glans gehaald. Een AI-systeem op basis van zijn verleden zou die uitkomst misschien niet hebben kunnen voorspellen. Als we te veel geloof gaan hechten aan technologie of misschien ook niet anders meer kunnen dat lijkt me een dystopische toekomst. Dan zou je scenario’s kunnen krijgen zoals iemand die een studieadvies naast zich neerlegt en niet slaagt die zijn of haar recht op een uitkering verliest omdat er staatsgeld verspilt is. Met zo’n scenario’s raak je aan bij Brave New World van Aldous Huxley. Die schreef niet over AI maar wel over de andere manieren waarop technologie een samenleving kan controleren.
Wat je hier aanhaalt leunt dicht aan bij het voorbeeld uit je boek van Peter-Paul Verbeek.

Je spreekt over de relatie van de mens ten aanzien van de echografie en over de onmogelijkheid om hulp van zo’n technologie nog af te slaan. Wordt het ‘niet-meedoen of niet-gebruiken-van’ bepaalde technologie in jouw dystopie een onmogelijke keuze?
Dat valt natuurlijk heel moeilijk te vermijden, dat het niet kiezen ook een keuze is. Maar als bijvoorbeeld bij de echografie deze al gemaakt is bij de conceptie, en je kan er niet meer onderuit, dan lijkt me dat zeker dystopisch. Nu kan je nog kiezen om de beelden niet te zien, hoewel je misschien sociaal toch ook al onder druk staat. Je ziet dat aan het feit dat er ook nog maar heel weinig kinderen met het syndroom van Down geboren worden. Als je kijkt naar het wereldbeeld dat Yuval Harari in zijn boek Homo Deus schept, een 2-deling tussen een soort übermensch die zichzelf als het ware kan gaan uploaden en het plebs, dan beschrijft hij een gelijkaardige dystopie. Met als grote verschil is dat hij het neerzet als onvermijdelijk, terwijl ik niet denk dat deze dystopie een uitgemaakte zaak is. Ik denk dat de menselijke behoefte aan vrijheid en zingeving groot genoeg is om zich zomaar over te geven aan ‘het systeem’. De mens is een raar wezen, en dat is soms maar goed ook.
Mijn laatste vraag is het omgekeerde; Niet wat de utopie zou zijn, dat brengt ons misschien iets te ver, maar wel wat technologie voor jou zou mogen doen. Als je iets mag bestellen bij Silicon Valley, wat zou het dan zijn ?
Op meta niveau kom je inderdaad uit op de grote wereldproblemen. Uiteraard wil ik dat technologie de klimaatopwarming kan tegengaan. En ik denk, helaas, dat technologie hier ook de belangrijkste impuls aan zal geven. Dit in de zin dat we er alleen met menselijke gedragsverandering niet gaan komen. Op microniveau zou ik het wel handig vinden dat mijn zelf verzamelde informatie, dus niet het internet in zijn geheel, maar mijn eigen collectie, eenvoudig op te roepen was. Ik denk ook niet dat het onrealistisch is dat dit over een paar jaar bestaat. Beeld je in dat alle artikelen die je over de jaren heen hebt gelezen over innovatie bijvoorbeeld ergens in een mapje staan en door een gedachte op te vragen zijn. Of dat je die ene foto van die ene vakantie toen… gemakkelijk kan bovenhalen. Dat zou ik handig vinden. Dit gaat dus niet over wat technologie waar of schoon of juist of relevant vindt, maar wat ik zelf ooit al eens had opgeslagen onder die noemers. Ik ben vrij ordelijk, maar op die manier zou ik het zelfs niet meer moeten ordenen. Een assistent die niet voor mij beslist maar wel mijn extern geheugen met slimme zoekfunctie is, dat wil ik graag. En een mute-knop voor kinderlawaai misschien.

En met die wens sluiten we af, hopelijk lezen ze dit in Silicon Valley en gaan ze snel aan de slag. Bedankt Jochanan voor je tijd en het verrijkende gesprek !

Jochanan zijn boek is oa te koop via https://www.lannoo.be/nl/robot-aan-het-stuur en bol.com waarschijnlijk. Een heel toegankelijke, maar daarom niet oppervlakkige, bespreking van de relatie mens-technologie vandaag de dag. #aanrader

 

< all posts