S04E013 - Slangenolie, Olifantepaadjes & Detectiepoortjes - Marc van Meel

Wat hebben slangenolie, olifantenpaadjes, prikkeldraad, bruggen, kernenergie en detectiepoortjes te maken met de systeemtechnologie AI? Marc van Meel,  AI Ethics Lead @ KPMG vertelt daar alles over.

Dit is het tweede deel van het gesprek met Marc. Deze aflevering is het leukst als je de eerdere aflevering eerst luistert.

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

Hoi, leuk dat je weer luistert naar een nieuwe aflevering van AI Today Live. Vandaag deel 2 van het gesprek met Mark van Mil van KPMG over AI en ethiek. Mijn naam is Joop Snijder, CTO bij Aigency. En mijn naam is Niels Naglé, chapter lead Data & AI bij Info Support. Nou, welkom opnieuw Mark. Dank je. We zijn er gewoon blijven zitten, dit is gewoon deel 2. We gaan het zo direct over detectiepoortjes hebben, had je het net over. Maar ik zou eigenlijk eerst willen weten, wat is eigenlijk ethiek? Ja, wat is het niet? Nee, geintje. Heel flauw. Hoe ik het meest uitleg is dat menselijke ethiek en moraliteit bijvoorbeeld nog wel eens door elkaar. Dus wat vaak helpt is om dat verschil even te belichten. Moraliteit is vaak wat jij als individu, als persoonlijk, goed of fout vindt, goed of slecht vindt. Ethiek heeft vaak een collectief karakter. Dus je kan denken, niet wat ik als individu goed of slecht vind, maar wat wij als groep, als organisatie bijvoorbeeld, in een collectieve setting, wel of niet willen zien. Dat is het heel kort. Dus ethiek heeft altijd een collectief karakter. Daarom vind ik het ook vaak de uitwerking in principes, guidelines, dat soort dingen, waar je, nou ja, je kan erop sturen vanuit een bepaald abstractieniveau. Het is concreet, maar ook niet te concreet. En normen en waarden hebben daar ook mee te maken, toch? Ja, zeker. Als wij bijvoorbeeld organisaties helpen. Ten eerste, bedrijfsethiek is iets wat ook al heel lang bestaat. Vaak als we het hebben over de ethiek in de context van AI, data ethics. Ethiek bestaat al 2500 jaar of zo. Het is helemaal geen nieuwe discipline. Bedrijfsethiek bestaat bijvoorbeeld al heel erg lang. Bij KPMG helpen we organisaties ook al heel erg lang met wat is nou je bedrijfsetiek. Hoe wil je nou effectief sturen op het gedrag van medewerkers bijvoorbeeld. Hoe ze wel en niet met elkaar zouden moeten omgaan. Hetzelfde, kunstje wil ik het niet noemen, maar diezelfde methodologie kan je natuurlijk ook toepassen op, je noemt het dan dataethiek, de ethiek van data, van algoritmes en de toepassing daarvan. Je kan ook sturen op hoe wil je nou dat je medewerkers omgaan met het ontwikkelen en het inzetten van, laten we het dan even AI-systeem noemen, of data-gedreven besluitvorming. Ja, duidelijk. Ja, dat wil ik wel weten. Je voorbeeld zat je net met detectiepoortjes. Oh ja, we hadden het voor de luisteraars heel kort in de pauze, hadden we het even over detectiepoortjes. Wat ik vaak doe, ik geef vaak presentaties over ethiek, over technologie, en daar breng ik ook meestal het punt naar voren van, AI is niet per definitie nieuw. Technologie bestaat al heel erg lang. De technologie van wat we dan deep learning noemen, bestaat al sinds de jaren zestig of zo. Bestaat al heel erg lang. Technologie bestaat al duizenden jaren. Bijna zo lang als de mens. Ethiek bestaat dus al duizenden jaren. En heel veel problemen die voortkomen uit datagedreven besluitvorming, het toepassen van algoritmes, modellen, dat zijn vaak, het zijn nieuwe problemen, maar het zijn gewoon nieuwe instanties van bestaande problemen. En ik geef vaak voorbeelden uit de praktijk. Een leuk voorbeeld vind ik zelf detectiepoortjes op het station. Dit is een vorm van wat ik noem invisible barbed wire. Dus een onzichtbaar prikkeldraad. Heb je jezelf wel eens afgevraagd waarom staan die poortjes daar? Dus als je bijvoorbeeld naar Utrecht gaat, op het station Utrecht kom ik vaak, ik kan niet naar de Starbucks als ik geen OV-kaart heb. Ik moet eerst dat poortje door, dan kan ik naar de Starbucks. Of ik kan ligerieshoppen op het station. Ik weet niet waarom mensen dat doen, dat heb ik nooit begrepen. Maar ik kan dus niet naar de Starbucks als ik geen OV-kaart heb. En dit zie je wel vaker in de samenleving. Sorry, ik noem nog een voorbeeld. Wat ik ook heel erg leuk vind, dat is een van mijn favoriete voorbeelden. Ik noem vaak detectiepoortjes, maar ook olifantenpaadjes. In het Engels heet dat desire paths. Een heel erg mooie naam. Jullie kennen dat allemaal wel. Je hebt een grasveldje of zo, weet je wel, of een gangetje. De gemeente heeft het geweldige idee om de flow te reguleren. Ze zetten meestal zo'n hekwerk neer, of twee van die. Maar je moet een beetje fietsen omheen komen. Verschrikkelijk. Mensen komen dan tot de geniale idee van, nou ik ga gewoon afsnijden. Dat is een olifant, een paadje. Ik neem een shortcut. En dan zie je mooi op het gras zo'n paadje ontstaan. De gemeente denkt dan vaak, wacht even, dit is niet de bedoeling. Dus we gaan nog een hek zetten. En dan denken mensen, nou oké, dan gaan we daar weer omheen. Ik heb al grasveldjes gezien met een opeenvolging van hekjes en paaltjes. En waarom ik dit zo'n mooi voorbeeld vind, is omdat dit raakt aan menselijke autonomie. Met andere woorden, de mogelijkheid om in principe de regels te kunnen breken. Ja, er staat een poortje of een paaltje, maar ik kan er omheen. Nou, die paaltjes op het station, dat is dus een hardcoded oplossing om jou er niet doorheen te laten gaan. Dus die paaltjes op het station doen eigenlijk afbreuk aan jouw autonomie als mens. Jij kan ergens letterlijk niet naartoe. Terwijl je met olifantenpaadjes, olifantenpaadjes zou je ook kunnen zien als een designimprovement. Daar werd het term menselijke maat in de loop gebezigd. Dat vond ik op zich wel een mooie. Het is wel moeilijk hoe dat in de praktijk eruit ziet, maar het idee dat je inderdaad, eigenlijk wat jij zegt, je moet nog steeds er wel van af kunnen wijken indien nodig. Ja, dat is denk ik een beetje duaal. Dus enerzijds zijn mensen bijvoorbeeld. Er zijn dingen waar mensen heel goed in zijn, en dingen waar wij heel slecht in zijn. Bijvoorbeeld, we kunnen helemaal eigenlijk niet goed rekenen. Daar zijn we helemaal niet voor gebouwd, weet je wel. Maar bijvoorbeeld afstanden. Je kent al die. Onze zintuigen zijn heel makkelijk voor de gek te houden. Je kent al die plaatjes wel. Je hebt zo'n pijl, weet je wel. En dan draai je die dingetjes om en dan lijkt die twee keer zo lang, weet je wel. Dus wij zijn heel slecht in bepaalde audiovisuele kiezen opvatten. Terwijl in andere dingen zijn we weer heel erg goed. Bijvoorbeeld het menselijk oog kan het meeste verschillende soorten groen onderscheiden. Enig idee waarom dat is? Ja, dat komt nog uit onze reptiele brein, zeg maar. Vanuit de oer-tijd. Ja, exact. Reptielen zijn allemaal wel mooi, hè? Lekker actueel woord ook. Ja, ik denk gooi hem erin. Nee, inderdaad. Het is best allemaal af van, laten we zeggen, neurotische apen. En de meest neurotische apen hebben het overleefd. En dat waren degene die slangen konden zien, bijvoorbeeld in het gras. Dus hoe meer kleuren groen jij kan zien, dat bepaalt of je wel of niet goed een slang kan zien. Hoeveel kleuren groen zie jij Niels? Eén. Ik zou er niet goed over leven dadelijk. Ik moet ook thuis niet de kleuren van de buurt verkiezen, want dan is er maar één kleur. Sorry, ik dwaal een beetje af. Nee, dit is waar het over gaat toch? Wat ik eigenlijk wilde zeggen was, we hebben bijvoorbeeld de menselijke intuïtie, dus het aanvoelen van iets, daar zijn we dan weer heel erg goed in. weer helemaal niet goed in. Dus ik denk dat AI-systemen in potentie eerlijker kunnen zijn, laten we eerlijkheid als voorbeeld pakken, dan mensen. Maar tegelijkertijd ook weer niet. Maar ook heel rigide daardoor. Zwart-wit. Ja, heel zwart-wit. Dan zit er heel weinig grijs in, terwijl wij als mens zijn heel erg. Wij kunnen dingen in een grotere context zien. En dan zeg je van, normaal gesproken doen we het Dat is echt nooit zo, maar in dit geval. Dan moet ik weer even denken aan de vorige aflevering, deel 1. Je vriend die zegt van, nou ik kon toch niet, want er was wat tussengekomen. Daar gaan we dan anders mee om, terwijl het systeem zou gewoon zeggen, ja afspraak niet nagekomen. Succes. Minnetje. Ja, nee klopt. Jullie zeggen het heel mooi. Ik wil het wel een beetje spannend maken, we kunnen het een beetje politiek maken. Als je kijkt naar wat doen AI-systemen nou, of machine learning-systemen. Dat zijn toch vaak systemen die zijn gebaseerd op statistische en methodes geïnspireerd ook op evolutie. Die zijn niet altijd in het voordeel van wat ik dan noem minority distributions. Dus dit soort systemen zijn eigenlijk simpelweg patroonherkenningssystemen. Die herkennen patronen op basis van grote hoeveelheden historische data. Als je geluk hebt, heb je labels. En daaruit leiden ze eigenlijk generalisaties af. Maar die generalisaties zijn altijd vaak op groepsniveau. En vaak de twee meest voorkomende business cases om dit soort systemen te ontwikkelen is ook vaak omdat we de middelen niet hebben om alle gevallen individueel te bepalen. Of de feature space is te complex. Dus we hebben eigenlijk geen idee hoe iets te bepalen. Dat is deep learning in essentie. De feature space is te groot, te complex. Ik weet niet of dit een hond of een kat is. Ik zie het meteen, maar ik kan het niet programmeren. Dus daarom doen we dit soort systemen in gebruik nemen. En dat is natuurlijk heel erg fijn. We profiteren van de schaalbaarheid van dat soort systemen. Want dan moet je zelf erover na gaan denken. het eigenlijke doorgronden wat er voor je weggeautomatiseerd is. Dus ik denk dat we dat in de praktijk ook vaker moeten toepassen. Wat dat betreft zie ik dat ook bij de software engineering en data engineering. Ik ben van mening, we gaan pas iets automatiseren. als we het ook een keer handmatig gedaan hebben, puur om eigenlijk die weg te bouwen en vervolgens pas te gaan automatiseren. Dus ik denk dat we dat juist heel vaak zouden moeten doen. Ja, dat vind ik een goed idee. We hadden het net al even over omgevingseffecten. Dus ik denk Google Maps, eigenlijk ook een soort digital twin is het eigenlijk, van het weetje net, van Nederland. Ja, als je het hebt over gevolgen op bredere schaal, voor onze omgevingsperspectief tegenwoordig ook Google Maps files. Dus iedereen gaat massaal, neemt die ene afslag bijvoorbeeld. Dus dat is een, ik zeg nogmaals, ik maak geen normatieve statements hier. Ik maak alleen een observatie, die ik leuk vind om te delen. Maar dat is bijvoorbeeld een transformatief effect op de samenleving. Absoluut. Wat er voorheen niet was. Dat is een interessant fenomeen. Heel mooi. Ik had een vraag in mijn hoofd en die ben ik nu even kwijt. Dat is ook lekker handig. Of je eigenlijk een voorbeeld misschien hebt. Want we hebben het hier heel veel over, je hebt het verteld over risico's en dat soort zaken. Heb jij een voorbeeld waarbij je vindt dat het eigenlijk heel goed is aangepakt. en dat het tot nu toe een heel goed uitpakt? Van? Van, zeg maar, al ethisch vroeg nagedacht over de effecten. Eigenlijk een goed voorbeeld waar je echt zo de stempel op zou rammen. Ja, en een goed voorbeeld doet volgen. Dus dat we dan zeggen van, weet je, als je dat. Kijk hier eens naar. Ja, kijk hier eens naar. Ik snap dat het een moeilijke vraag is. Nee, nee, nee, zeker. Ik denk, om even met complimenten te gaan strooien, nou ik denk dat de overheid, als je bijvoorbeeld kijkt naar die speeches en teksten van de staatssecretaris van digitalisering, Alexander van Huffelen, je ziet wel dat in ieder geval de overheid, dat is natuurlijk ook logisch in de nasleep van een aantal schandalen waar we het al even kort over hadden gehad, wel enigszins wakker is geworden en laten we zeggen de mens centraal wil stellen inderdaad in de digitalisering. Dus ik zie steeds meer. Voorheen was ik, ik had wel eens het gevoel dat ik de enige was die dat zei, maar techniek is niet neutraal zeg maar. Tegenwoordig is dat bijna mainstream geworden. Ik zie politici dat zeggen. Ik heb niet altijd het idee dat ze precies weten wat het betekent. Op zich vind ik dat wel een positieve trend. Mis geen aflevering, volg ons via je favoriete podcast-app. en dan krijg je vanzelf een seintje als er een nieuwe aflevering beschikbaar is. Dank je wel. *POP*