S08E67 - Niet onze AI: waarom regie pakken belangrijker is dan voor of tegen AI zijn

Gabriella Obispa, projectleider AI-ethiek bij de Politie Nederland, en journalist Laurens Vreekamp zien hoe organisaties zichzelf in de voet schieten door te beginnen met "hoe zetten we AI in?" in plaats van "welk probleem lossen we op?"Hun boek *Niet onze AI* laat zien waarom die volgorde uitmaakt: de gemeente Amsterdam werkte twee jaar aan een AI-systeem voor bijstandsontvangers dat bleef discrimineren en uiteindelijk niet werd ingezet.

Obispa beschrijft hoe een vaste vertraging aan het begin van een project juist betere resultaten oplevert: eerst het probleem definiëren, dan pas tools evalueren.Vreekamp voegt een concreet hulpmiddel toe: behandel uitspraken over de toekomst van Artificial Intelligence als beloften, niet als feiten, en formuleer twijfel als vraag in plaats van bezwaar.Morgen kun je bij je lopende AI-project één vraag stellen: voor wie werkt dit systeem goed, en voor wie niet?

Onderwerpen

• Het stellen van de waarom-vraag in plaats van de hoe-vraag bij AI-implementatie
• Bias en representativiteit in AI-systemen door homogene ontwikkeling en trainingsdata
• Vertraging als bewuste methode voor betere AI-projecten
• Twijfel als instrument voor betere besluitvorming bij AI-toepassingen

Links

• Boek: Niet onze AI - Gabriella Obispa en Laurens Vreekamp
• Persoon/Denker: Ruha Benjamin - filosoof en denker, concept 'abundant imagination'
• Organisatie: Cybersoek - Wij helpen je gratis bij het gebruik van je laptop, tablet en smartphone.
• Kaartspel: AI Game Changer - Generative AI editie

Genoemde entiteiten: Politie Nederland - ETZ-ziekenhuis - gemeente Amsterdam - Nu.nl - Silicon Valley - ChatGPT - Peter Thiel

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,000 --> 00:00:04,320
In deze aflevering praten we met Gabriella Obispa en Laurens Vreekamp,

2
00:00:04,320 --> 00:00:07,320
auteurs van het boek Niet onze AI.

3
00:00:07,320 --> 00:00:13,039
De titel klinkt fel, maar hun verhaal is genuanceerd, en ze zijn niet tegen AI.

4
00:00:13,039 --> 00:00:15,759
Ze zijn juist voorstander van AI.

5
00:00:15,759 --> 00:00:20,239
In dit gesprek leggen ze uit wat AI wel kan zijn als het meer van ons wordt.

6
00:00:20,399 --> 00:00:23,279
Joop: Dat je weer luistert naar een nieuwe aflevering van AIToday Live.

7
00:00:23,279 --> 00:00:26,078
Joop: Mijn naam is Joop Snijder, Head of AI bij Info Support.

8
00:00:26,078 --> 00:00:28,959
Niels: Mijn naam Niels Naglé, Area Lead Data & AI bij Info Support.

9
00:00:28,959 --> 00:00:38,478
Joop: En we zijn heel blij met onze gasten in de studio, Gabriella Obispa en Laurens Vreekamp, auteurs, beide van het boek Niet onze AI.

10
00:00:38,639 --> 00:00:40,239
Joop: En daar gaan we het ook vandaag over hebben.

11
00:00:40,239 --> 00:00:44,478
Joop: Maar voordat we daarover beginnen, zouden jullie jezelf even willen voorstellen.

12
00:00:44,478 --> 00:00:46,959
Gabriella: Ja hoor, ik ben Gabriella Obispa.

13
00:00:46,959 --> 00:00:51,918
Gabriella: Ik ben momenteel werkzaam bij de Politie Nederland als Projectleider AI Ethiek en Digital Rechten.

14
00:00:51,918 --> 00:00:55,119
Gabriella: en ik ben medeauteur van het boek Niet onze AI.

15
00:00:55,759 --> 00:01:02,479
Laurens: En ik ben Laurens Vreekamp, schrijver, journalist, trainer, werk veel met mediabedrijven, uitgevers, redacties.

16
00:01:02,479 --> 00:01:08,879
Laurens: Ook wel opleidingen soms, en soms een uitstapje in de advocatuur, die dan over creativiteit en AI dingen willen weten.

17
00:01:09,839 --> 00:01:13,278
Laurens: En ik heb samen met Gabriella het boek geschreven, Niet onze AI.

18
00:01:13,279 --> 00:01:15,598
Joop: Ja, en hoe zijn jullie zo bij elkaar gekomen?

19
00:01:15,598 --> 00:01:21,278
Joop: Want het is niet zomaar dat je als adviseur bij de Politie Nederland en journalist.

20
00:01:23,759 --> 00:01:26,798
Joop: Gabriella begint altijd met appeltaart, dus misschien moet jij dat ook al.

21
00:01:28,079 --> 00:01:32,478
Gabriella: Ja, dus we hebben elkaar voor het eerst ontmoet in Dudok, in Den Haag.

22
00:01:32,479 --> 00:01:35,438
Gabriella: Jullie zijn vast bekend met appeltaart van Dudok.

23
00:01:35,678 --> 00:01:42,398
Gabriella: En onder het genot van een appeltaart, hebben wij een gesprek gevoerd over AI en over het AI-debat.

24
00:01:42,398 --> 00:01:46,478
Gabriella: En wat we eraan missen nu en vooral wie er ontbreekt.

25
00:01:46,479 --> 00:01:55,359
Gabriella: En zodoende kwamen we op het idee voor dit boek van laten we een podium bieden aan andere perspectieven als het gaat om AI.

26
00:01:55,999 --> 00:01:57,918
Joop: En hoe kwamen jullie erop?

27
00:01:57,919 --> 00:02:05,998
Joop: Want het boek heeft best wel een heel mooie opbouw van Niet onze AI, hun AI.

28
00:02:07,439 --> 00:02:08,398
Joop: Jouw AI.

29
00:02:09,919 --> 00:02:10,877
Laurens: Ons jou.

30
00:02:12,239 --> 00:02:14,718
Joop: Hoe zijn jullie daarop gekomen?

31
00:02:15,678 --> 00:02:21,918
Laurens: Ja, ik denk ook wel door er zelf over na te denken, en we hebben ook een eindredacteur gehad, Sanne Wouters, die heeft ons ook wel geholpen.

32
00:02:21,918 --> 00:02:32,799
Laurens: Want in het begin zo hadden we bedacht we gaan gewoon heel veel mensen interviewen van die wij kennen waarvan we weten, die hebben net iets andere ideeën dan die nu die je nu vaak hoort in de media of in de krant leest of op podia staan.

33
00:02:33,038 --> 00:02:41,919
Laurens: En dan schrijven we die interviews uit en dan zetten daar zoeken we zelf dingen uit, zetten we stukken tussendoor, en toen zei Sanne, ja, dat is voor jullie leuk, maar voor de lezer is dat ingewikkeld.

34
00:02:42,159 --> 00:02:48,958
Laurens: Dus je kunt beter zelf thema's bedenken, dus een rode draad en onderwerpen en dan de onderdelen uit die interviews daarbij plakken.

35
00:02:48,958 --> 00:02:50,239
Laurens: Dus het werd echt een puzzel.

36
00:02:50,239 --> 00:02:53,919
Laurens: Ik begreep later dat wetenschappers dat ook doen met coderen als ze dan interviews hebben.

37
00:02:53,919 --> 00:03:00,718
Laurens: Dus het was voor ons als auteurs een hoop gepuzzel, maar dat scheelt de lezer een hoop werk en die krijgt een vee llopender verhaal.

38
00:03:00,718 --> 00:03:05,039
Laurens: Dus dat was een van de van de adviezen van Sanne.

39
00:03:05,279 --> 00:03:15,039
Joop: Het leek mij leuk om vandaag ook deze indeling ook aan te houden en te kijken van dat de rode draad is.

40
00:03:15,039 --> 00:03:18,878
Joop: Dus om te beginnen bij jullie hebben geschreven over Niet onze AI.

41
00:03:19,359 --> 00:03:20,718
Joop: Waarom.

42
00:03:22,638 --> 00:03:26,319
Gabriella: Omdat we dachten van oké, de huidige AI is gewoon niet onze AI.

43
00:03:26,319 --> 00:03:32,559
Gabriella: Het is natuurlijk ontwikkeld door een groep homogene vooral mannen uit Silicon Valley.

44
00:03:32,558 --> 00:03:40,239
Gabriella: En het is niet ontwikkeld AI met onze waarden in gedachten, met ons perspectief, met ons als gemeenschap en gedachten.

45
00:03:40,318 --> 00:03:42,398
Joop: En wie is in dit geval ons?

46
00:03:42,399 --> 00:03:48,078
Gabriella: Ja, je kan zeggen als organisatie of als land of als persoon.

47
00:03:48,078 --> 00:03:49,519
Gabriella: Dus op die laag, inderdaad.

48
00:03:49,519 --> 00:03:57,839
Gabriella: Dus wij vonden van het gaat vooral nu over hun AI, over hoe zij AI zien, hoe zij AI willen ontwikkelen en voor wie ze het willen ontwikkelen.

49
00:03:57,839 --> 00:04:02,639
Gabriella: Nou, daar missen we gewoon nog een hoop mensen, groepen en ook perspectieven in.

50
00:04:02,638 --> 00:04:07,359
Gabriella: Dus zodoende kwamen we uit laten we eerst dat stuk van hun AI goed definiëren.

51
00:04:07,359 --> 00:04:12,079
Gabriella: Wat het betekent en waarom het zo belangrijk is om daar ook tegenwicht aan te bieden.

52
00:04:12,079 --> 00:04:14,159
Gabriella: Maar ik denk dat Laurens daar ook komt.

53
00:04:14,239 --> 00:04:16,798
Laurens: Ja, dit is één van de dingen dat Niet onze AI.

54
00:04:16,879 --> 00:04:30,638
Laurens: Dus het is niet van ons, want het is vooral ontwikkeld in eerste instantie in de VS, maar wel met data die en inhouden die op zich van ons zijn, maar er is geen toestemming gevraagd, geen naamsvermelding, geen compensatie financieel.

55
00:04:30,638 --> 00:04:33,278
Laurens: Dus onze informatie wordt wel gebruikt.

56
00:04:33,278 --> 00:04:37,518
Laurens: Maar daar zien we eigenlijk helemaal geen vruchten van terug als samenleving.

57
00:04:37,519 --> 00:04:40,319
Laurens: En je zou ik zeggen, als je kijkt naar Grondwet artikel 1.

58
00:04:40,318 --> 00:04:44,638
Laurens: en dat en ieder die zich in Nederland bevindt moet op dezelfde manier behandeld worden.

59
00:04:44,639 --> 00:04:54,159
Laurens: Maar als je dan twee feitjes hebt dat als je als vrouw aan ChatGPT om salarisadvies vraagt, en je upload hetzelfde cv in hetzelfde, je hebt dezelfde competentie, dezelfde ervaring.

60
00:04:54,159 --> 00:05:03,678
Laurens: en je bent een man of vrouw, dan krijg je een ander advies van ChatGPT, en zal jullie niet verbazen wie een hogere salarisadvies krijgen, zijn man, omdat die biases, die voordelen.

61
00:05:04,079 --> 00:05:04,959
Joop: En zit er nou.

62
00:05:04,959 --> 00:05:07,039
Joop: Het is wel een heel leuke voorbeeld, namelijk.

63
00:05:07,199 --> 00:05:11,719
Joop: Zaten er nog meer verschillen in dat je kan herinneren, behalve dan dat salaris.

64
00:05:11,959 --> 00:05:17,599
Joop: Is er dan ook een verschil in hoe je je moet opstellen als degene.

65
00:05:17,599 --> 00:05:19,878
Niels: Harder erin, lossen erin.

66
00:05:21,078 --> 00:05:22,118
Laurens: Volgens mij.

67
00:05:19,839 --> 00:05:25,639
Laurens: Ik weet niet of dat er ook bijstelt, maar het ging in ieder geval over dat getal.

68
00:05:25,719 --> 00:05:32,359
Laurens: en het gaat natuurlijk vaak over vrouwen hebben hier twee strijden te strijden, twee, twee gevechtstrijden.

69
00:05:33,638 --> 00:05:38,279
Laurens: Dan wordt er gezegd, je moet workshops doen, je moet je moet stoerder zijn en je moet beter onderhandelen.

70
00:05:38,279 --> 00:05:44,279
Laurens: Dus dan zouden ze als het al een probleem is moeten oplossen en ze moeten ook nog zorgen voor gelijkheid.

71
00:05:44,279 --> 00:05:51,719
Laurens: Terwijl we moeten dat systeem anders aanpakken en niet vrouwen helpen in een verkeerd systeem beter te worden, we moeten het systeem eigenlijk aanpakken.

72
00:05:51,719 --> 00:05:56,359
Laurens: Daar kwamen ook achter tijdens het boek, ik ben veel meer feminist geworden, ook sinds het niet.

73
00:05:56,359 --> 00:06:02,359
Laurens: En een andere feit is ook, en nog even terug naar die grondwet, is dat zelfrijdende auto's.

74
00:06:02,998 --> 00:06:06,359
Laurens: Die reageren ook minder goed op kinderen en mensen van kleur.

75
00:06:06,359 --> 00:06:14,039
Laurens: En als je bedenken naar de technologie die straks op straat uitgerold wordt, Tesla heeft nu die self-driving mode, geloof ik in Nederland als een van de eerste.

76
00:06:14,039 --> 00:06:16,839
Laurens: Ik vraag me af hoe veilig dat is en hoe dat getest is.

77
00:06:16,839 --> 00:06:18,118
Laurens: Want dat werkt niet voor alle Nederland.

78
00:06:18,279 --> 00:06:20,839
Laurens: Sterker nog sommige Nederlanders lopen gevaar.

79
00:06:20,839 --> 00:06:29,159
Laurens: En als je dus bedenkt hoe in de keten AI tot stand komt, dan hebben wij is ons niet geconstateerd wat willen we eigenlijk voor toepassen, willen we die taalmodellen wel en waarvoor.

80
00:06:29,158 --> 00:06:35,479
Laurens: Als je bedenkt dat er 0,1% van de ChatGPT gebruikers in een psychose raakt, dan denk je naar 0,1%.

81
00:06:35,479 --> 00:06:39,558
Laurens: Maar ze 900 miljoen gebruikers maandelijks hebben, dan zijn het 500.000 mensen.

82
00:06:40,438 --> 00:06:45,078
Laurens: Als het een drankje was of een medicijn of voedsel, dan werd het van de markt geweerd.

83
00:06:45,239 --> 00:06:51,639
Laurens: Dus dit soort dingen zijn eigenlijk niet door ons met ons in gedachten gemaakt of met onze besproken willen we dit wel.

84
00:06:51,638 --> 00:06:55,638
Laurens: Het wordt soms, en daar lijkt het op als een natuursverschijnsel over ons uitgestort.

85
00:06:55,638 --> 00:07:02,518
Laurens: En echt ja, er zijn, we kunnen er anders mee omgaan, we kunnen de technologie op een andere manier ontwikkelen zo zijn we gestart.

86
00:07:03,079 --> 00:07:07,318
Niels: Ik was opnieuw nieuwsgierig, want het geeft een moet heel anders kijken naar het vraagstuk.

87
00:07:07,479 --> 00:07:13,079
Niels: Als ik jullie boek lees, je kan van heel verschillende perspectieven kijken, maar niet eentje die voor de hand ligt.

88
00:07:13,239 --> 00:07:17,159
Niels: Hoe zorg je ervoor dat de mensen dus er ook zo naar kunnen gaan kijken?

89
00:07:17,159 --> 00:07:19,879
Niels: Want die vragen worden nu niet hardop gesteld.

90
00:07:19,878 --> 00:07:21,719
Laurens: En welke vragen denk je dan?

91
00:07:21,719 --> 00:07:23,719
Niels: Nou ja, waar wordt het gebruikt?

92
00:07:23,719 --> 00:07:26,999
Niels: Nu wordt gewoon de tool worden ingezet, ik gebruik het en je kan ermee aan de slag.

93
00:07:26,998 --> 00:07:34,758
Niels: En mensen stellen niet de vraag: van, wat zit hier achter, welke data is er gebruikt, is dit wel een goede technologie om voor dit probleem op te lossen.

94
00:07:34,758 --> 00:07:36,919
Niels: Die vragen worden niet gesteld, want het wordt gewoon gebruikt.

95
00:07:36,919 --> 00:07:39,558
Niels: Maar hoe zorgen we ervoor dat ze de vragen wel gaan stellen.

96
00:07:39,558 --> 00:07:45,638
Gabriella: Ja, ik denk ook wel, het is ook een stuk van ja, bewust worden, denk ik, gaat ook meer om geletterdheid, ook AI kunnen begrijpen.

97
00:07:45,638 --> 00:07:49,318
Gabriella: Van oké, wat kan het betekenen in verschillende contexten.

98
00:07:49,319 --> 00:07:57,639
Gabriella: En wat je heel vaak merkt, wat mijn ervaring is, dat die, ik noem het meest fundamentele basale vragen worden gewoon niet gesteld.

99
00:07:57,638 --> 00:08:03,718
Gabriella: En ik denk dat het ook echt wel ligt aan eigenlijk marketing natuurlijk om AI heen.

100
00:08:03,719 --> 00:08:09,319
Gabriella: Dus iedereen denkt van oh ja, dit moeten we gebruiken als dit is de oplossing voor ons probleem.

101
00:08:09,319 --> 00:08:13,638
Gabriella: Toen kom je echt een soort van een soort van tunnelvisie van dit moet het worden.

102
00:08:13,638 --> 00:08:19,239
Gabriella: Terwijl het heel mooi zou zijn als er meer een gezond kritische houding tegenover AI komt.

103
00:08:19,239 --> 00:08:23,558
Gabriella: En hoe je dat doet, is vooral begrijpen vooral van waar heb je het over.

104
00:08:23,558 --> 00:08:28,039
Gabriella: Ook in een boek hebben we het over nauwkeurigheid, boven snelheid bijvoorbeeld, door Sara Mohamed.

105
00:08:28,039 --> 00:08:32,119
Gabriella: En die laat het heel erg duidelijk uit van moet het nauwkeuriger gaan praten over AI.

106
00:08:32,118 --> 00:08:37,799
Gabriella: En bewust zijn van dit begrijpen we nog niet, of hier moeten we toch iets langer bij stilstaan.

107
00:08:37,799 --> 00:08:41,878
Gabriella: Dus die vertraging opzoeken om beter te begrijpen wat is nou passend of niet.

108
00:08:42,198 --> 00:08:46,199
Gabriella: Maar inderdaad, er is nu wel een situatie waar men gewoon die vragen niet stelt.

109
00:08:46,199 --> 00:08:49,239
Gabriella: Dat is echt een gemiste kans ook voor innovatie, naar mijn mening.

110
00:08:49,239 --> 00:08:53,718
Gabriella: Omdat ik denk van juist die vertraging zorgt voor betere innovatie.

111
00:08:53,719 --> 00:08:55,559
Gabriella: Het is juist helemaal geen rem op innovatie.

112
00:08:55,638 --> 00:09:00,118
Gabriella: Het zorgt juist voor dat je er meer waarde uit kan halen, dat je dat echt goed doordenkt.

113
00:09:00,118 --> 00:09:10,038
Gabriella: Dus in die zin, ja, ik heb die vraag soms ook van inderdaad, van zo wordt die vraag, maar ik denk dat het echt te maken heeft met het geletterdheid, maar ook een stuk van zijn we ook kritisch genoeg.

114
00:09:10,038 --> 00:09:13,239
Gabriella: En ja, zijn we kritisch genoeg over AI.

115
00:09:13,638 --> 00:09:22,999
Joop: Toen ik de titel van het boek las, dacht ik eigenlijk dat jullie misschien nog veel kritischer waren dan wat ik in het boek gelezen heb.

116
00:09:22,998 --> 00:09:25,719
Joop: Want ik denk dat dat een heel goed genuanceerd verhaal is.

117
00:09:25,719 --> 00:09:28,039
Joop: Ik heb het echt met heel veel plezier gelezen.

118
00:09:28,679 --> 00:09:33,638
Joop: Maar kan je uitleggen hoe je zelf ten opzichte van deze technologie staat.

119
00:09:33,878 --> 00:09:37,159
Joop: Want volgens mij zijn jullie niet tegen de technologie.

120
00:09:37,399 --> 00:09:38,439
Gabriella: Nee, helemaal niet.

121
00:09:38,439 --> 00:09:41,079
Gabriella: Nee, het gaat ook natuurlijk om welke AI natuurlijk.

122
00:09:41,078 --> 00:09:43,478
Gabriella: Het kan echt verschillende deelgebieden van AI.

123
00:09:43,479 --> 00:09:44,599
Gabriella: Maar wij zijn niet tegen.

124
00:09:44,599 --> 00:09:46,918
Gabriella: We zijn juist voor doordachte AI.

125
00:09:46,919 --> 00:09:55,239
Gabriella: En dat betekent dat je de juiste vraag stelt op de juiste momenten om te bepalen of dat inderdaad de meerwaarde biedt, wat waar je op hoopt.

126
00:09:55,239 --> 00:09:56,759
Gabriella: Maar we zijn wel genuanceerd.

127
00:09:56,758 --> 00:10:01,158
Gabriella: Want wij kunnen ook niet van tevoren vind ik altijd stellen dat AI per definitie goed of fout is.
128
00:10:01,158 --> 00:10:03,638
Gabriella: Dat is gewoon een gesprek wat je moet hebben met elkaar.
 128
00:10:03,638 --> 00:10:06,319
Gabriella: Dus je verhouding, je technologie is heel belangrijk.
 129
00:10:06,398 --> 00:10:08,239
Gabriella: Van oké, wat vind ik hiervan?
 130
00:10:08,239 --> 00:10:09,359
Gabriella: Wat is mijn houding?
 131
00:10:09,359 --> 00:10:16,639
Laurens: En ja, wat Gabriella zegt en dan dank je wel, je ook goed om te horen dat het genuanceerd is.
 132
00:10:16,638 --> 00:10:19,439
Laurens: En dit is een beetje een felle titel, niet onze AI.
 133
00:10:19,518 --> 00:10:22,719
Laurens: Omdat niet dat impliceert ook iets negatiefs, maar we zijn helemaal niet tegen.
 134
00:10:22,719 --> 00:10:26,318
Laurens: Maar als het meer van ons is, kunnen we ook bedenken waar we het voor gaan inzetten.
 135
00:10:26,319 --> 00:10:27,518
Laurens: En je zou kunnen.
 136
00:10:27,918 --> 00:10:31,278
Laurens: We hebben voor het boek, dat hebben we achterin ook in de verantwoording gezet, waar we het voor gebruikt hebben.
 137
00:10:31,518 --> 00:10:39,599
Laurens: We hebben negen mensen geïnterviewd en die hebben natuurlijk al ergens een presentatie gegeven, hebben in een podcast gezeten, een interview ergens gedaan online of in een blad.
 138
00:10:39,839 --> 00:10:45,199
Laurens: Dat hebben we natuurlijk allemaal in research opgezocht, hebben bijvoorbeeld een NotebookLM gebruikt om vragen te stellen aan de YouTube-video's.
 139
00:10:45,278 --> 00:10:51,199
Laurens: Heel handig om te vragen waarin Ruha Benjamin, een van de filosofen en denkers uit Amerika die we aanhalen.
 140
00:10:51,199 --> 00:10:53,519
Laurens: Die heeft een heel mooi andere invulling van AI.
 141
00:10:53,599 --> 00:10:55,279
Laurens: Dat noemt ze dan abundant imagination.
 142
00:10:55,278 --> 00:10:56,878
Laurens: En ze vertelt nog wat dingen.
 143
00:10:56,878 --> 00:11:01,439
Laurens: En dan kan je vragen in de video waarin leggen ze dat begrip abundant imagination uit.
 144
00:11:01,439 --> 00:11:03,278
Laurens: En dan krijg je dat heel netjes terug.
 145
00:11:03,278 --> 00:11:08,318
Laurens: En dat zijn meerdere vormen van AI waarvan we leren dat zijn de discriminatieve AI.
 146
00:11:08,319 --> 00:11:12,719
Laurens: En we hebben het vaak nu over AI als generatieve AI, de taalmodellen, de chatbots.
 147
00:11:12,719 --> 00:11:21,118
Laurens: Maar dit is eigenlijk een oude vorm die gewoon je helpt op schaal van snelheid snel iets te vinden of te clusteren of te transcriberen, vertalen, classificeren, maar ook voorspellen.
 148
00:11:21,118 --> 00:11:23,679
Laurens: Maar die niet zelf op de makersstoel gaat zitten.
 149
00:11:23,679 --> 00:11:25,759
Laurens: En dan vinden we het vaak al gevaarlijk.
 150
00:11:25,758 --> 00:11:33,758
Laurens: En we zeggen ook in die vragen van hoe zet je AI nou in als je kunt uitleggen van wanneer levert het nou voor iedereen van ons iets op.
 151
00:11:33,758 --> 00:11:42,319
Laurens: Dus het kan wel zijn dat ik dit taakje sneller doe, maar dat betekent dat ik met die andere collega die me samenwerken, dat vond ik nou juist zo'n leuk onderdeel van mijn werk, dan zal mijn manager dat misschien niet de efficiëntst te zien.
 152
00:11:42,319 --> 00:11:44,559
Laurens: Maar daar heb ik wel heel veel arbeidsplezier in.
 153
00:11:44,559 --> 00:11:45,919
Laurens: Zonder als je dat wegsnijdt.
 154
00:11:45,918 --> 00:11:49,758
Laurens: En je ziet nu veel van die rapporten dat we dan workslop noemen.
 155
00:11:49,758 --> 00:11:58,399
Laurens: Dus dan is het werk wat ik vroeger vond om leuk te doen, daar vraagt mijn manager van om dat door Claude Cowork of een bordje of een chatbot te laten doen.
 156
00:11:58,398 --> 00:12:01,519
Laurens: Dan krijg ik vervolgens machine resultaat om te corrigeren.
 157
00:12:01,518 --> 00:12:02,798
Laurens: En dan wordt dat mijn werk.
 158
00:12:02,798 --> 00:12:04,559
Laurens: Ja, dat vind ik niet zo leuk.
 159
00:12:04,558 --> 00:12:13,359
Laurens: Dus ik denk dat als we die als zeggen, we willen sneller en efficiënter zijn, wat betekent dat voor ons voor mijn werk, voor ons werk, hebben we nieuwe collega's nodig, nou dan is dat te gek.
 160
00:12:13,359 --> 00:12:17,518
Laurens: Gaan de collega's hele andere dingen doen die ze niet meer leuk vinden, nou dan moeten we dat afwegen.
 161
00:12:17,518 --> 00:12:23,679
Laurens: En die vragen, als mensen zeggen, we willen de boot niet missen of de trein rijdt al, stel dan eerst die vraag om te vragen, moeten we op die trein?
 162
00:12:23,758 --> 00:12:26,319
Laurens: Kort, gaat er nog eentje en waar gaat hij eigenlijk heen.
 163
00:12:27,118 --> 00:12:29,999
Joop: Je hadden het beide over snelheid.
 164
00:12:29,998 --> 00:12:32,799
Joop: En dat is een vraag die aan ons ook heel veel wordt gesteld.
 165
00:12:33,679 --> 00:12:36,799
Joop: Hoe kunnen we versnellen, zijn we wel snel genoeg.
 166
00:12:37,118 --> 00:12:40,558
Joop: Er zijn heel veel mensen die last hebben op dit moment van FOMO.
 167
00:12:41,118 --> 00:12:44,799
Joop: En dat wordt natuurlijk van dat schrijven in het boek ook, maar dat zien we natuurlijk ook.
 168
00:12:44,798 --> 00:12:46,719
Joop: Dat er heel veel van buitenaf wordt gezegd.
 169
00:12:46,719 --> 00:12:49,599
Joop: Je moet nu anders mis je de boot.
 170
00:12:50,318 --> 00:12:52,399
Joop: Hoe kijken jullie daartegen aan?
 171
00:12:53,118 --> 00:12:56,239
Joop: Want je zei net al van, je moet vertragen, maar hoe vertraag je dan?
 172
00:12:56,239 --> 00:12:58,238
Joop: Laat ik het concreeter maken, hoe vertraag je?
 173
00:12:58,239 --> 00:13:04,158
Gabriella: Ja, ik denk je vertraagt er bewuster keuzes te gaan maken in het proces als je AI wilt gaan inzetten of implementeren.
 174
00:13:04,158 --> 00:13:10,799
Gabriella: Want wat wij merken bijvoorbeeld in mijn ervaring, is dat dan je het heel erg hebt over oké, ik hoor heel vaak snelheid en snelheid.
 175
00:13:10,798 --> 00:13:22,878
Gabriella: Maar ik denk altijd van oké, maar die vertraging zorgt juist ervoor dat je wat nauwkeuriger kunt gaan kijken naar het probleem, naar het groter plaatje, dan alleen maar naar AI als doel.
 176
00:13:23,118 --> 00:13:25,998
Gabriella: Maar je gaat het meer zien als een interventiemogelijkheid.
 177
00:13:25,998 --> 00:13:33,118
Gabriella: Je gaat er wat neutraler in staan, zodat je goed kan bekijken van oké, waar in het proces heeft een meerwaarde, waar niet.
 178
00:13:33,118 --> 00:13:34,479
Gabriella: En soms het helemaal niet.
 179
00:13:34,638 --> 00:13:36,159
Gabriella: Dat is ook helemaal oké.
 180
00:13:36,158 --> 00:13:44,638
Gabriella: Maar ik denk dat het vooral die vertraging, in mijn ervaring, heeft juist geholpen om betere AI-systemen te ontwikkelen of in te zetten.
 181
00:13:44,638 --> 00:13:50,799
Gabriella: Omdat je juist details gaat zien, wat ook Sarah Moomet heel mooi in het boek zegt, die niet eerder zag.
 182
00:13:50,798 --> 00:13:54,239
Gabriella: Voor wat wij maken gebruik van digitale ethiek bijvoorbeeld.
 183
00:13:54,239 --> 00:13:57,839
Gabriella: Dat helpt ons echt om bewuster keuzes te maken en afweging te maken.
 184
00:13:57,839 --> 00:14:00,719
Gabriella: Nou, hier zien we geen potentie voor deze use case.
 185
00:14:00,719 --> 00:14:02,559
Gabriella: Nou, voor deze use case wel.
 186
00:14:02,878 --> 00:14:15,198
Gabriella: En zo heb ik het gevoel gehad, konden we veel meer werk aan doordachter AI, dus eigenlijk meer een lijn te volgen van fundamentele vragen aan de voorkant, dus de waarom vraag en vervolgens richting de hoe vraag.
 187
00:14:15,199 --> 00:14:18,478
Gabriella: En nu wordt vooral de hoe vraag gesteld en niet de waarom vraag.
 188
00:14:18,479 --> 00:14:22,398
Gabriella: Waardoor je toch wel vastloopt, uiteindelijk van waarom deden we dat ook alweer.
 189
00:14:22,399 --> 00:14:24,718
Gabriella: En wat was ook alweer de meerwaarde hiervan?
 190
00:14:24,719 --> 00:14:33,759
Gabriella: En na een jaar evolueer je denk je van ja, maar durven we ook nu te zeggen na een jaar van nou, het had niet dat meerwaarde gehad die we wat op hadden gehoopt.
 191
00:14:33,758 --> 00:14:36,878
Gabriella: Dus kunnen we ook nu nee zeggen daar tegen.
 192
00:14:37,278 --> 00:14:42,159
Joop: Heb jij Laurens een voorbeeld uit de journalistiek van die vertraging?
 193
00:14:42,638 --> 00:14:52,359
Laurens: Ja, er zijn nu de journalisten zijn al, nou, ik denk, sinds sinds de komst van het internet niet direct, maar na een aantal jaar dat mensen digitaal gingen lezen en op kleine schermpjes.
 194
00:14:53,158 --> 00:15:04,039
Laurens: A het zoeken naar van hoe moeten we ons nou verhouden tot publiek en tot verdienmodellen en vertrouwen en zijn onwijs het bereiken van jongeren, meegaan op externe platformen, dus dat zijn allemaal uitdagingen.
 195
00:15:04,038 --> 00:15:09,719
Laurens: En een van de ideeën is nu van kijk, daar moet ook alles snel nieuws is dan al vaak snel.
 196
00:15:09,719 --> 00:15:17,239
Laurens: Je moet ook nog op heel veel platformen aanwezig zijn en podcast en nieuwsbrieven en video's en krant en online en app.
 197
00:15:17,479 --> 00:15:19,878
Laurens: En ja, daar komt daar eigenlijk alleen maar meer bij.
 198
00:15:20,679 --> 00:15:23,958
Laurens: Maar ze verliezen ook steeds meer aandacht van mensen en vertrouwen.
 199
00:15:24,359 --> 00:15:25,559
Laurens: Dus hoe los je dat dan op?
 200
00:15:25,559 --> 00:15:30,359
Laurens: En een van de ideeën is dat je dus eigenlijk veel meer naar mensen toe moet en dat is eigenlijk een hele dure vorm.
 201
00:15:30,359 --> 00:15:36,038
Laurens: De vraag is ook wie dat gaat bekostigen, of de mensen dat zelf doen of de overheid of toch misschien adverteerders.
 202
00:15:36,359 --> 00:15:42,678
Laurens: Dus eerst vragen we heel veel aandacht en nu zijn mensen dan denken van wat als we aandacht geven aan onze gebruikers.
 203
00:15:42,839 --> 00:15:49,559
Laurens: Het interessant is dat ik wat van economen leren, want journalisten zijn eigenlijk geen goede toekomstvoorspellers, eigenlijk niemand weet ik sinds kort ook.
 204
00:15:50,038 --> 00:15:52,038
Laurens: En technologen al helemaal niet.
 205
00:15:52,278 --> 00:15:54,678
Laurens: Maar economen hebben vaak een heel ander soort kijken.
 206
00:15:54,679 --> 00:15:58,919
Laurens: En die hebben we in ons boek misschien nog wat minder, maar door het boek komen we daar in gesprek op.
 207
00:15:58,919 --> 00:16:03,158
Laurens: En er zijn natuurlijk eerst de economen die kijken, wat is nou de impact van AI op de arbeidsmarkt.
 208
00:16:03,158 --> 00:16:09,319
Laurens: en economen zeggen bij dit soort grote transformaties, ook met technologie in de samenleving, dan krijgen we meer van hetzelfde.
 209
00:16:09,559 --> 00:16:14,278
Laurens: Daar zijn wij in principe niet per se heel zien we niet met heel veel plezier naar uit.
 210
00:16:14,599 --> 00:16:20,279
Laurens: Maar je kunt ook nieuwe luxe, producten die nu luxe zijn, of diensten, kun je binnenhand bereik gaan krijgen.
 211
00:16:20,278 --> 00:16:32,679
Joop: En ze noemen dan voorbeelden als een gezinscoach voor een gezin waar niet heel veel mis mee is, die de puntjes op die komt zetten, dat zou je nu niet betalen, want het is hartstikke duur: een binnenhuisarchitect voor studenten als überhaupt al een kunnen vinden, misschien een schoonmaker.
 212
00:16:33,479 --> 00:16:39,878
Laurens: Je zou kunnen zeggen dat wij ooit naar cappuccino's buiten de deur gaan omdat we Senseo kregen, we hadden dat stapje nodig.
 213
00:16:40,118 --> 00:16:45,478
Laurens: Dat de AI van nu is de Senseo en straks komen we bij de cappuccino uit, want dat is dan de luxe koffie.
 214
00:16:45,798 --> 00:16:50,518
Laurens: En ik vind het veel interessant om ook met de ideeën uit ons boek na te denken in de journalistiek ook.
 215
00:16:50,518 --> 00:16:53,079
Laurens: Wat zou dan wat is nu heel erg luxe?
 216
00:16:53,318 --> 00:17:02,918
Laurens: Wat dankzij ergens in de keten met AI, dus misschien wel sneller of makkelijker of überhaupt gedaan kan worden op schaal en snelheid en heel veel documenten dingen doorzoeken, wat je als mens niet kon.
 217
00:17:02,919 --> 00:17:06,039
Laurens: Nou, dan kan AI software best wel goed bij helpen.
 218
00:17:06,038 --> 00:17:12,519
Laurens: En dat je dan als mensen op vakantie gaan, aan jou vragen, omdat jij de Portugal correspondent, hoe is het eigenlijk met Portugal?
 219
00:17:12,518 --> 00:17:15,239
Laurens: Want ik zie toch wel wat verval en wegen zijn.
 220
00:17:15,719 --> 00:17:21,558
Laurens: Dat je wil weten hoe dat zit, en dat je dat dus niet aan ChatGPT vraagt, omdat we weten, daar kunnen de antwoorden niet altijd van vertrouwen.
 221
00:17:21,559 --> 00:17:27,959
Laurens: Als ik een soort abonnement neem op een journalist of een redactie, dan kan ik daar persoonlijke vragen die meer lager zijn.
 222
00:17:27,959 --> 00:17:29,158
Laurens: Dan krijg je ook antwoord op.
 223
00:17:29,159 --> 00:17:33,239
Laurens: En als je dat nu zou doen, dan kan de journalist misschien drie mensen per dag servicen.
 224
00:17:33,239 --> 00:17:37,798
Laurens: Maar misschien met een AI-powered journalist, kan dan veel meer mensen bedienen.
 225
00:17:38,038 --> 00:17:39,479
Laurens: Dus dat denken vind ik wel interessant.
 226
00:17:39,479 --> 00:17:43,798
Laurens: Maar over die race en die snelheid wil ik nog wat zeggen, dat is eigenlijk ook een Amerikaanse frame.
 227
00:17:43,798 --> 00:17:46,998
Laurens: En dat zien we heel veel dingen worden gepresenteerd als een race en een wedstrijd.
 228
00:17:46,998 --> 00:17:52,358
Laurens: Terwijl in het leven, je familie is geen wedstrijd lief hebben, iemand lief hebben, dat is geen wedstrijd.
 229
00:17:52,358 --> 00:17:56,358
Laurens: Heel veel dingen in het leven zijn geen wedstrijd, maar dat is best wel een Amerikaanse manier van benaderen verkiezingen.
 230
00:17:56,919 --> 00:17:58,118
Joop: Passie voor mijn vak ook geen wedstrijd.
 231
00:17:58,119 --> 00:17:59,078
Laurens: Nee, het is toch geen wedstrijd.
 232
00:17:59,159 --> 00:18:03,078
Laurens: En ik snap wel dat in business dingen soms concurrentie zijn en een strijd.
 233
00:18:03,078 --> 00:18:05,478
Laurens: Maar net zoals de honderd dagen van dit kabinet.
 234
00:18:05,479 --> 00:18:06,358
Laurens: Ja, hoezo?
 235
00:18:06,358 --> 00:18:11,398
Laurens: Die kan kabinetten niet vergelijken, maar wat heeft het voor zin om te kijken wat ze hebben gepresteerd de eerste honderd dagen?
 236
00:18:11,479 --> 00:18:15,958
Laurens: Het is een soort false frame, waardoor we allemaal zenuwachtig worden, laatst wat ik erover wil zeggen.
 237
00:18:16,119 --> 00:18:17,719
Laurens: Sprake Cyberzoek, ook in het boek.
 238
00:18:17,719 --> 00:18:22,359
Laurens: Er zeiden heel veel mensen, tweeënhalf tot 4 miljoen Nederlanders, zijn niet zo digitaal geletterd.
 239
00:18:22,358 --> 00:18:24,518
Joop: En dat kunnen wij even uitleggen wat Cyberzoek is.
 240
00:18:24,518 --> 00:18:31,558
Laurens: Ja, Cyberzoek is een organisatie als ik het goed zeg, die mensen helpen in de samenleving, zijn nu vooral in Amsterdam gevestigd.
 241
00:18:31,879 --> 00:18:38,518
Laurens: Die er digitaal in het leven niet goed uitkomen, die bijvoorbeeld ook vragen, ik heb van mijn kleinzoon een USB-stick met foto's gekregen.
 242
00:18:38,518 --> 00:18:40,118
Laurens: Ik weet niet wat een USB-stick is.
 243
00:18:40,119 --> 00:18:42,118
Laurens: En wij vier denken, nou ja, hoe kan dat?
245
00:18:42,119 --> 00:18:49,719
Laurens: Maar er zijn dus tweeënhalf tot vier miljoen mensen die moeite hebben met DigiD om bijvoorbeeld zwemlessen aan te vragen en rijbewijs te verlengen en noem maar op.

244
00:18:50,358 --> 00:18:59,878
Laurens: En als je bedenkt dat zij dus best wel zenuwachtig worden van digitale technologie, en dan wordt het nu tegen ze gezegd, AI komt eraan, gaat alles bij je baan gaat veranderen, we gaan er allemaal aan.

245
00:18:59,878 --> 00:19:01,158
Laurens: Je moet mee.

246
00:19:01,159 --> 00:19:02,838
Laurens: Die worden alleen nog maar meer gestrest.

247
00:19:02,919 --> 00:19:06,998
Laurens: Dat zijn heel veel Nederlanders die helemaal niet zo blij worden van dit soort technologische ontwikkelingen.

248
00:19:06,998 --> 00:19:09,878
Laurens: En die krijgen juist uit de boot te vallen.

249
00:19:10,838 --> 00:19:13,479
Niels: Het lijkt me ook wel lastig, inderdaad, in de huidige situatie.

250
00:19:13,798 --> 00:19:18,038
Niels: Het is goed dat er organisaties zijn die daar dus mensen bij helpen, want het wordt alleen maar meer.

251
00:19:18,919 --> 00:19:20,959
Niels: Ik was wel nieuwsgierig naar die frames.

252
00:19:20,959 --> 00:19:23,558
Niels: Want jullie hebben heel verschillende frames en dat vond ik heel mooi in het boek.

253
00:19:23,558 --> 00:19:26,998
Niels: Welke frame was voor jullie ook echt tijdens het schrijven van het boek?

254
00:19:27,399 --> 00:19:29,479
Niels: Oh, zo had ik er nog niet na gekeken.

255
00:19:30,199 --> 00:19:33,159
Gabriella: Ja, ik heb wel één, maar die heb ik al twee keer gedoe.

256
00:19:33,639 --> 00:19:36,879
Gabriella: Ik heb er eigenlijk twee bedoel je de perspectieven neem ik aan de smaken.

257
00:19:35,239 --> 00:19:42,319
Gabriella: Ik vond bescheiden AI ook een hele mooie uitgangspunt van Judit zo blijden.

258
00:19:42,558 --> 00:19:57,199
Gabriella: Omdat het gaat veel meer over wees bescheiden over de belofte van jou, of de technologie die je als oplossing aandraag, dat ook ontwikkelaars zich een bepaalde houding moeten aannemen, dat het voor een veel eerlijker gesprekken kan zorgen.

259
00:19:57,278 --> 00:19:59,518
Niels: Hoe bedoel je de houding aannemen van de ontwikkelaars?

260
00:19:59,598 --> 00:20:06,878
Gabriella: Ja, nou, vaak hebben ontwikkelaars, tenminste als vanuit het Amerikaans natuurlijk perspectief, maar ook wel hier, denk ik.

261
00:20:07,038 --> 00:20:14,079
Gabriella: De houding van oh ja, mijn oplossing, mijn technische oplossing, is de oplossing, dat er niet andere aspecten meespelen.

262
00:20:14,078 --> 00:20:17,598
Gabriella: Dus wat jullie ook mooi uitleggen, is relationele autonomie.

263
00:20:17,598 --> 00:20:21,839
Gabriella: Dat gaat dus over dat er veel meer is alleen maar een app die je kan helpen.

264
00:20:21,838 --> 00:20:24,878
Gabriella: Je bent verweven met allerlei relaties in je leven.

265
00:20:24,879 --> 00:20:28,479
Gabriella: Dus je kan niet zeggen van de technologie is de oplossing.

266
00:20:28,959 --> 00:20:31,358
Gabriella: Dat vond ik heel mooi en ook heel eerlijk.

267
00:20:31,358 --> 00:20:36,719
Gabriella: En daar ben ik echt naar op zoek als het gaat om AI, ik ben erg op zoek met jou ook naar heerlijke gesprekken over AI.

268
00:20:36,798 --> 00:20:39,998
Gabriella: En ik vond natuurlijk dat van Sara moment heel verfrissend.

269
00:20:39,998 --> 00:20:41,918
Gabriella: Omdat vertraging is vooruit.

270
00:20:42,078 --> 00:20:42,958
Gabriella: Dat hoor je gewoon op.

271
00:20:42,959 --> 00:20:49,679
Gabriella: Ik hoort alleen maar van ja, snelheid, meer en die vertraging om dat bevestigd te krijgen door iemand anders.

272
00:20:49,679 --> 00:20:53,839
Gabriella: gaf me wel weer de moed om het ook vaker te gaan gebruiken en te zeggen.

273
00:20:53,838 --> 00:21:04,559
Gabriella: Want daarvoor was ik vooral bezig met oké, hoe ga ik hier dit goed voor worden, maar zij zei het gewoon van hey, die vertraging gaat juist zorgen vooruitgang.

274
00:21:04,558 --> 00:21:05,838
Gabriella: Daar kon ik me heel goed in vinden.

275
00:21:05,838 --> 00:21:07,919
Gabriella: Want dat zit ik ook terug in mijn werk.

276
00:21:07,919 --> 00:21:09,438
Gabriella: En ja, dat zijn twee van mij.

277
00:21:09,439 --> 00:21:10,959
Gabriella: Misschien wil jij dat toevoegen.

278
00:21:11,439 --> 00:21:14,959
Joop: Nou, nou heel even langs, want hoe zie je dat dan terug in je werk?

279
00:21:15,278 --> 00:21:21,919
Gabriella: Dat ik dat zelf ook toepas, dat ik zelf dus bijvoorbeeld processen help in te richten, waardoor we vertragen.

280
00:21:21,919 --> 00:21:26,318
Gabriella: Maar wel met de kanttekening van hey, we gaan het gewoon verrijken, de technologie.

281
00:21:26,318 --> 00:21:33,278
Gabriella: Of met de kanttekening van als we dit zo onderzoeken, kan het ook niet de passende oplossing is.

282
00:21:33,278 --> 00:21:35,119
Gabriella: En daar moeten we ook oké mee zijn.

283
00:21:35,119 --> 00:21:36,798
Niels: Maar hoe gaat je omgeving daarmee om?

284
00:21:36,798 --> 00:21:38,078
Niels: Want die willen juist versnellen.

285
00:21:38,078 --> 00:21:39,599
Niels: En jij zegt weer gaat vertragen.

286
00:21:39,599 --> 00:21:42,318
Gabriella: Wat doet dat met de dynamiek inderdaad?

287
00:21:42,318 --> 00:21:43,518
Gabriella: Ja, heel interessant.

288
00:21:43,518 --> 00:21:51,518
Gabriella: Nou, ik moet zeggen dat hoe volwassenen we ook als maatschappij worden hierin en ook ik werk ook bij een grote publieke organisatie.

289
00:21:52,159 --> 00:21:57,599
Gabriella: Is het vooral om met elkaar samen te werken van de technici hebben een beeld, ik heb een beeld.

290
00:21:57,599 --> 00:22:04,239
Gabriella: Maar hoe komen we bij elkaar om samen te bepalen van oké, wat is ons gezamenlijk doel als verantwoordelijk dat iedereen dat doel is.

291
00:22:04,239 --> 00:22:07,118
Gabriella: Nou, dan heb ik daar ideeën voor, hebben zij ideeën voor.

292
00:22:07,119 --> 00:22:09,518
Gabriella: En ons disciplines raak elkaar ook heel sterk.

293
00:22:09,518 --> 00:22:16,719
Gabriella: Dus stel je voor, je hebt een AI-tool en je zegt van hallucinatie is echt een ethisch aandachtspunt of een ander aandachtspunt.

294
00:22:16,959 --> 00:22:23,758
Gabriella: Dan kan een technisch met je meedenken van zie kunnen we daar maatregelen voor nemen die dan wel passend zijn om dat wel minder te maken.

295
00:22:25,038 --> 00:22:28,158
Gabriella: dit is niet echt voorbeeld, maar hoe het zou kunnen gaan inderdaad.

296
00:22:28,159 --> 00:22:33,439
Gabriella: Dus als je met elkaar in gesprek blijft om toch die vertraging op te zoeken om het verbeteren.

297
00:22:33,598 --> 00:22:35,679
Gabriella: En vanuit verschillende disciplines natuurlijk.

298
00:22:35,838 --> 00:22:42,799
Niels: Laurens wilde ook notg wat zeggen, maar voordat we dat bruggetje maken, had ik toch nog even een vraag dat we nu even perspectieven raken, ik was wel nieuwsgierig.

299
00:22:42,798 --> 00:22:43,438
Niels: De perspectieven.

300
00:22:43,439 --> 00:22:48,078
Niels: Jullie hebben ook een eigen perspectief waar kwam het overheen, maar ook waar botst het bij jullie.

301
00:22:48,078 --> 00:22:50,638
Niels: Want dat zijn interessante gesprekken geweest lijkt mij.

302
00:22:51,598 --> 00:22:53,678
Gabriella: Tussen ons twee.

303
00:22:55,679 --> 00:23:10,239
Laurens: Ik weet niet of we heel veel gebotst zijn, we hebben wel een gesprek gehad met iemand en die zei bijvoorbeeld, als je bijvoorbeeld het leven van een ander kunt begrijpen dank zijn chatbot en in gesprek te gaan met de chatbot, dan is dat toch ook wat waard.

304
00:23:10,239 --> 00:23:15,278
Laurens: En toen kwamen we later achter, maar je wil toch eigenlijk liever met de mens zelf dan in gesprek, want dan wil je de mensen van vlees en bloed zijn.

305
00:23:15,278 --> 00:23:21,358
Laurens: Maar ja, maar als er nou een groep mensen is die deze mensen nooit spreekt, dan is het een soort proxy en manier om dat dan toch te bewerkstelligen.
308
00:23:21,358 --> 00:23:24,638
Laurens: En toen hebben we daarna bij stilgestaan van ja, maar het is toch eigenlijk iets heel geks.

306
00:23:24,798 --> 00:23:27,599
Laurens: Dus dan zeg je doel heiligt dit middel.

307
00:23:27,758 --> 00:23:30,879
Laurens: Wij zeggen eigenlijk voor heel veel oplossingen heb je geen AI.

308
00:23:30,878 --> 00:23:33,439
Laurens: Heel veel problemen heb je geen AI nodig als oplossing.

309
00:23:33,439 --> 00:23:37,599
Laurens: Wat het 2026 is, proberen we heel veel problemen met AI te lijf te gaan.

310
00:23:37,599 --> 00:23:42,399
Joop: En wat ze dan zeggen van je gooit spaghetti tegen de muur en see what sticks.

311
00:23:42,719 --> 00:23:43,679
Laurens: Dat doen we natuurlijk ook.

312
00:23:43,679 --> 00:23:47,518
Laurens: En ik denk dat dat hoort bij die fase om erachter te komen, wat we wel niet met de AI moeten doen.

313
00:23:47,518 --> 00:23:51,518
Laurens: En we komen volgens mij best wel snel achter soms dingen wisten we al, dit moet je niet doen.

314
00:23:51,518 --> 00:23:54,479
Laurens: En hier werkt het heel handig voor bijvoorbeeld voor het boek zelf.

315
00:23:54,959 --> 00:23:56,479
Joop: Dat dan nog even eentje.

316
00:23:56,558 --> 00:24:00,479
Joop: Want ik heb in een documentaire ergens gezien, volgens mij op NPO.

317
00:24:00,479 --> 00:24:03,839
Joop: En daar is er een jongen op het autism.

318
00:24:03,838 --> 00:24:06,318
Joop: En die oefent dus met chatbot.

319
00:24:06,558 --> 00:24:09,998
Joop: Ze gesprekken van hoe die dat in de praktijk zou kunnen doen.

320
00:24:09,998 --> 00:24:11,998
Joop: Want dan krijgt hij heel veel feedback.

321
00:24:11,998 --> 00:24:13,679
Joop: Dat is zeg maar zo'n proxy.

322
00:24:13,679 --> 00:24:17,199
Joop: Die je dus inzet om dingen te oefenen.

323
00:24:17,199 --> 00:24:19,038
Joop: Dat vond ik dan juist wel weer een hele mooie.

324
00:24:19,518 --> 00:24:20,679
Laurens: Dus dit soort dingen zou wel kunnen.

325
00:24:20,758 --> 00:24:28,199
Laurens: Ik heb wel met zijn psycholoog gesproken, die zei: Ik heb dan ook, en in zijn geval ook vaak autistische jongens of mannen.

326
00:24:28,199 --> 00:24:31,558
Laurens: En die hebben dan heel veel moeite om hun gevoelens onder woorden te brengen.

327
00:24:31,558 --> 00:24:38,199
Laurens: Dus die zei, ik zou wel als een exercitie, ik weet uiteindelijk niet of die gedaan heeft, aan hen kunnen vragen, spreek nou eens je gevoelens met een chatbot.

328
00:24:38,199 --> 00:24:40,278
Laurens: En kom dan terug met bijvoorbeeld verschillende antwoorden.

329
00:24:40,278 --> 00:24:42,438
Laurens: En zeg dan welke wel begrijpt en welke niet.

330
00:24:42,439 --> 00:24:43,479
Laurens: Want dan kan ik daarmee werken.

331
00:24:43,479 --> 00:24:49,479
Laurens: Dus als je het zeg maar gecontroleerd en onder begeleiding doet, kan het best een vorm zijn die werkt.

332
00:24:49,479 --> 00:24:53,479
Laurens: Maar dan willen we natuurlijk van zo'n systeem, zo'n psycholoog weten van zo'n systeem.

333
00:24:53,959 --> 00:24:55,239
Laurens: Hoe ver gaat dat gesprek?

334
00:24:55,879 --> 00:25:01,158
Laurens: Wanneer wordt er aan de bel getrokken, met wat voor soort casuscasuïstiek is dat model gevoerd.

335
00:25:01,479 --> 00:25:02,758
Joop: Waar worden het problematisch?

336
00:25:02,758 --> 00:25:03,558
Joop: Ja, precies.

337
00:25:04,439 --> 00:25:11,399
Laurens: Wat ik nog wilde zeggen, avond op Gabriella, toen we met Sarah Mohammed spraken, toen ze ook, en dat is nog een frame van Silicon Valley ook.

338
00:25:11,399 --> 00:25:14,518
Laurens: Toen ze, we zijn heel bezig met die toekomst.

339
00:25:14,598 --> 00:25:15,719
Laurens: Probleem en toekomst.

340
00:25:15,719 --> 00:25:17,318
Laurens: Maar zijn we wel klaar voor het nu.

341
00:25:17,558 --> 00:25:19,798
Laurens: Dat vond ik heel mooi, want die bracht ons weer in het nu.

342
00:25:20,358 --> 00:25:25,318
Laurens: En ik leerde vorige week van een filosoof, Carissa Verlies.

343
00:25:25,318 --> 00:25:28,119
Laurens: Dat zij zeiden, feiten gaan over het verleden en het nu.

344
00:25:28,119 --> 00:25:29,479
Laurens: En beloften gaan over de toekomst.

345
00:25:29,479 --> 00:25:30,918
Laurens: En dat zijn het nog, het is nog niet gebeurd.

346
00:25:30,919 --> 00:25:31,719
Laurens: Dus het is geen feit.

347
00:25:31,719 --> 00:25:33,318
Laurens: Er kunnen altijd dingen anders gaan.

348
00:25:33,318 --> 00:25:35,079
Laurens: Dus we kunnen dat helemaal niet voorspellen.

349
00:25:35,078 --> 00:25:40,119
Laurens: Maar er wordt al steeds verkocht dat als we maar genoeg data, als we maar dit doen, straks worden de modellen beter.

350
00:25:40,119 --> 00:25:41,318
Laurens: En dat zijn allemaal beloftes.

351
00:25:41,318 --> 00:25:42,278
Laurens: Dus het zijn geen feiten.

352
00:25:42,998 --> 00:25:45,959
Laurens: En we zijn heel veel problemen nu die we moeten oplossen.

353
00:25:45,959 --> 00:25:48,919
Laurens: En dat kan bijvoorbeeld bij een publieke organisatie de werkdruk zijn.

354
00:25:48,919 --> 00:25:53,479
Laurens: Ja, AI gaat die werkdruk niet oplossen, die kan een taak misschien helpen versnellen.

355
00:25:53,719 --> 00:25:56,358
Laurens: Maar dat lost niet de systemische problemen op.

356
00:25:56,679 --> 00:26:00,199
Joop: En wat ook mooi terugkomt in het boek, want over die beloften en de feiten.

357
00:26:00,679 --> 00:26:04,359
Joop: Dat beloftes over waar we naartoe gaan, superintelligentie.

358
00:26:04,358 --> 00:26:12,758
Joop: Alle in mijn beleving flauwekul, worden echt als feit gepresenteerd, waar zelfs jaartallen op worden geplakt.

359
00:26:13,239 --> 00:26:16,998
Joop: De techbro's worden daar gewoon met gemak, jaartallen opgeplakt.

360
00:26:17,159 --> 00:26:21,719
Joop: Ik vond het heel mooi, jullie hadden ergens in de boek staan van Peter Thiel had ergens gezegd.

361
00:26:21,959 --> 00:26:24,839
Joop: In 2025 zijn we zover met de superintelligentie.

362
00:26:24,838 --> 00:26:26,358
Joop: Nou, zijn we voorbij, het is niet gelukt.

363
00:26:26,598 --> 00:26:28,598
Laurens: Ja, ze kunt het ook niet eens worden wat de definitie is.

364
00:26:28,599 --> 00:26:30,358
Laurens: Dus als we het zien, hoe ziet het er dan uit.

365
00:26:31,719 --> 00:26:35,798
Joop: Het wordt ook gepresenteerd als zijn er een feit dat dat moment er gaat komen.

366
00:26:35,798 --> 00:26:37,878
Laurens: Ja, maar dat is dat weten natuurlijk helemaal niet.

367
00:26:37,878 --> 00:26:43,959
Laurens: En ik heb nu ook begrepen dat Karl Popper, een filosoof en wetenschapper, die zei, ja, het is eigenlijk heel eenvoudig.

368
00:26:43,959 --> 00:26:50,518
Joop: Want als we zouden kunnen weten hoe de toekomst eruit ziet, dat de wetenschap dit kan ontwikkelen, als we weten hoe dat pad loopt, dan zijn we.

369
00:26:50,998 --> 00:26:51,959
Joop: En dan hebben we het al.

370
00:26:52,119 --> 00:27:00,678
Laurens: Maar het feit dat er onduidelijke dingen zijn die nog moet uitgevonden moeten worden, waar iemand nog een doorbraak voor moet hebben en niet weten hoe we daar gaan komen of wie dat dan doen is.

371
00:27:01,318 --> 00:27:02,598
Laurens: En of het kan, kunnen we daar niet komen.

372
00:27:02,599 --> 00:27:04,759
Laurens: Want als we het wisten, dan hadden we het al wel gedaan.

373
00:27:04,998 --> 00:27:06,919
Joop: Het is eenvoudig is het dan eigenlijk.

374
00:27:07,558 --> 00:27:11,879
Joop: Ik wil even gaan naar deel onze AI.

375
00:27:12,199 --> 00:27:20,598
Joop: En dat begint eigenlijk met een stukje van dat jouw wifi en 5G het altijd doen, vinden we niet meer dan vanzelfsprekend.

376
00:27:20,599 --> 00:27:25,638
Joop: Dat je vrije tijd hebt, boeken kunt lezen en de ruimte hebt om na te denken over het gevolgen van AI.

377
00:27:25,639 --> 00:27:29,078
Joop: Het zijn voorrechten van een kleine minderheid, zelfs binnen Nederland.

378
00:27:29,078 --> 00:27:32,518
Joop: Dat vond ik dat vond ik voor mij eigenlijk wel.

379
00:27:32,998 --> 00:27:35,158
Joop: Ik weet dat ik in een bubbel zit.

380
00:27:35,719 --> 00:27:39,318
Joop: Dit was voor mij wel best wel een heel belangrijk stukje in jullie boek.

381
00:27:39,318 --> 00:27:42,598
Joop: Dat je zegt van dat doen wij hier ook.

382
00:27:42,599 --> 00:27:45,719
Joop: Dus wij hebben de privilege om over dingen na te denken.

383
00:27:45,719 --> 00:27:54,439
Joop: waar bij jullie daarna zeggen van ja, met de gemiddelde winkel bediende, horecachef, asperge steker, pakketbezorger of fabrieksmedewerker, heeft die mogelijkheid veel minder dan wij.

384
00:27:54,439 --> 00:27:55,639
Joop: Of dan jij eigenlijk.

385
00:27:56,919 --> 00:27:59,479
Joop: Ik als lezer word aangesproken.

386
00:28:01,078 --> 00:28:03,399
Joop: Die kwam bij mij, die kwam bij mij binnen.

387
00:28:03,558 --> 00:28:06,998
Joop: Waarom hebben jullie hiervoor gekozen om het ook zo op te schrijven?

388
00:28:06,998 --> 00:28:08,919
Joop: Waarom was dit zo belangrijk?

389
00:28:09,399 --> 00:28:11,878
Laurens: Omdat wij zeggen, we willen graag perspectieven kantelen.

390
00:28:11,879 --> 00:28:15,878
Laurens: En de verhalen over technologie worden vaak als eerste verteld door mensen die er al warmpjes bij zitten.

391
00:28:15,878 --> 00:28:17,959
Laurens: En die er waarschijnlijk wel de vruchten van kunnen plukken.

392
00:28:17,959 --> 00:28:25,239
Laurens: Die dus zoals in een podcast of op een podium of met een groep collega's over na kunnen gaan denken en werkgroepjes opstellen.

393
00:28:25,239 --> 00:28:27,959
Laurens: Maar er zijn natuurlijk heel veel mensen die helemaal die invloed niet hebben.

394
00:28:27,959 --> 00:28:29,638
Laurens: Maar daar hebben we wel een verantwoordelijkheid voor.

395
00:28:29,639 --> 00:28:31,798
Laurens: Want wij zitten wel dingen te bepalen.

396
00:28:31,959 --> 00:28:35,398
Laurens: Voor hoe wij ons jullie ook bijvoorbeeld hoe jullie organisatie gaat vormgeven.

397
00:28:35,719 --> 00:28:36,998
Laurens: tussen nu in twee jaar.

398
00:28:36,998 --> 00:28:38,358
Laurens: Ja, dat betekent iets voor mensen.

399
00:28:38,358 --> 00:28:40,199
Laurens: Dat betekent iets voor waardigheid voor.

400
00:28:40,199 --> 00:28:42,998
Laurens: En ze hebben in principe weinig invloed.

401
00:28:42,998 --> 00:28:47,959
Laurens: Mensen worden er vaak niet gekend over dit soort beslissingen over de Amerikaanse thema wij in Nederland al niet.

402
00:28:48,038 --> 00:28:52,279
Laurens: Dus eigenlijk behoren wij tot een hele kleine groep.

403
00:28:52,278 --> 00:28:54,438
Laurens: Dat we hier zoveel ruimte voor hebben om over na te denken.

404
00:28:54,518 --> 00:28:58,199
Gabriella: En daarom is het ook belangrijk ook om ook daar dan heel erg voor.

405
00:28:58,278 --> 00:28:59,878
Gabriella: En zorgvuldig mee om te gaan.

406
00:28:59,878 --> 00:29:03,239
Gabriella: Want het is best wel een privilege om hierover te mogen praten.

407
00:29:03,239 --> 00:29:04,838
Gabriella: Te mogen invloed te kunnen uitoefenen.

408
00:29:04,838 --> 00:29:09,199
Gabriella: Dus ik neem ook mijn werk als auteur, maar ook als mijn professionele werk ook heel serieus.

409
00:29:09,358 --> 00:29:13,439
Gabriella: We hebben een maatschappelijke aanplicht als groep.

410
00:29:13,919 --> 00:29:17,278
Joop: Laurens, heb jij binnen jouw vakgebied?

411
00:29:18,639 --> 00:29:22,638
Joop: Jouw vakgebied een verandering teweeg kunnen brengen.

412
00:29:23,679 --> 00:29:28,799
Laurens: Ik zeg, ik heb niet de illusie dat ik heel veel invloed heb.

413
00:29:28,798 --> 00:29:34,799
Laurens: Maar wat ik wat we wel merken sinds het boek uit is, is dat steeds meer mensen nu openlijk durven twijfelen.

414
00:29:34,798 --> 00:29:38,078
Laurens: Misschien twijfelden ze ze zelf al, en tussen mensen die ze kenden.

415
00:29:38,078 --> 00:29:42,558
Laurens: Want het verhaal was natuurlijk, dat beschrijf ook dat je in Nederland is het niet zo bekend dat je een Luddiet bent.

416
00:29:42,558 --> 00:29:45,439
Laurens: Als je zegt, nou dat AI, ik ben er niet zo ben er niet zo van.

417
00:29:45,998 --> 00:29:46,959
Joop: Wat is een Luddiet?

418
00:29:47,199 --> 00:29:57,758
Laurens: Dan, dat waren dat was een soort fictief personage, bedacht als door een protestgroep in de 18e eeuw, toen kwamen de weefmachines, dus de weefgetouwen en zo.

419
00:29:57,758 --> 00:30:02,959
Laurens: En de wevers, die zeiden, ja, maar dit we vinden het niet zo erg dat het nu geautomatiseerd wordt.

420
00:30:02,959 --> 00:30:07,518
Laurens: Maar doordat het geautomatiseerd wordt, ziet ons dorp, onze samenleving heel anders uit.

421
00:30:07,518 --> 00:30:11,439
Laurens: Want de werkzaamheden zijn anders en alles begrepen in elkaar, was daar rondom gebaseerd.

422
00:30:11,439 --> 00:30:13,038
Laurens: En nu gaat dat eigenlijk helemaal kapot.

423
00:30:13,038 --> 00:30:15,838
Laurens: Onze sociaal weefsel, eigenlijk, sociale cohesie.

424
00:30:15,838 --> 00:30:19,358
Laurens: Dus die machines, die grijpen in op ons hele bestaan eigenlijk.

425
00:30:19,358 --> 00:30:22,479
Laurens: Dus je kregen dat soort vraagstukken en daar zijn we eigenlijk niet blij mee.

426
00:30:22,479 --> 00:30:26,639
Laurens: Want ja, die bazen die vonden dat een goed idee, maar de wevers zelf niet.

427
00:30:26,639 --> 00:30:30,079
Laurens: Dus die gingen die weefgetouwen molesteren, kapot maken.

428
00:30:30,078 --> 00:30:31,919
Laurens: En toen zeiden mensen die bent tegen vooruitgang zijn.

429
00:30:31,998 --> 00:30:33,278
Laurens: Nee, we zijn niet tegen vooruitgang.

430
00:30:33,358 --> 00:30:36,879
Laurens: Er is ons niet gevraagd hoe wij die vooruitgang zelf zien en hoe we die.

431
00:30:37,199 --> 00:30:39,439
Laurens: En dat is heel vaak.

432
00:30:39,919 --> 00:30:42,719
Laurens: Als je tegen AI bent, ben je tegen tegen innovatie.

433
00:30:42,719 --> 00:30:47,038
Laurens: Nou, dan ben je ouderwets, of je snapt het niet, of je hebt je huiswerk niet gedaan.

434
00:30:47,038 --> 00:30:50,239
Laurens: O en wij zeggen van nee, je bent helemaal niet tegen vooruitgang.

435
00:30:50,239 --> 00:30:53,278
Laurens: Je vindt alleen de manier waarop het nu gebeurt, daar heb je moeite mee.

436
00:30:53,278 --> 00:30:54,879
Laurens: Of dan heb je je vraagtekens bij.

437
00:30:55,119 --> 00:30:59,279
Laurens: En nu, dankzij het boek zeggen mensen, ja, ik kan wel openlijker twijfelen.

438
00:30:59,278 --> 00:31:03,518
Laurens: Dus daar helpt het boek, maar dat ze mensen ook, we zijn een keer bij een boekclub geweest van data en ethiek.

439
00:31:03,518 --> 00:31:06,479
Laurens: En dan zei je iemand, ja, ik had vanochtend een gesprek.

440
00:31:06,479 --> 00:31:10,239
Laurens: En vorige week had ik ook zo'n gesprek, wist ik niet zo goed wat ik moest zeggen, dan heb ik het boek gelezen.

441
00:31:10,239 --> 00:31:11,838
Laurens: Nu wist ik welke vraag ik kon stellen.

442
00:31:11,838 --> 00:31:14,078
Laurens: En hebben we hier en daar aan gedacht.

443
00:31:14,078 --> 00:31:16,959
Laurens: En ik voelde me gesterkt om die vraag te stellen.

444
00:31:16,959 --> 00:31:21,199
Laurens: En toen dachten we, ja, het is goed als mensen, ja, dan ben je soms vervelend.

445
00:31:21,199 --> 00:31:23,199
Laurens: En dan ben je tegen vooruitgang.

446
00:31:23,199 --> 00:31:28,079
Laurens: Maar ja, als straks heb je een paar duizend euro verspeeld.

447
00:31:28,078 --> 00:31:31,518
Laurens: en mensen niet blij gemaakt om erachter te komen om nee te zeggen.

448
00:31:31,518 --> 00:31:33,119
Laurens: Nou, dan heb je geïnformeerd nee.

449
00:31:33,119 --> 00:31:36,959
Laurens: Maar als je een paar vragen had gesteld aan het begin, was je daar iets sneller gekomen.

450
00:31:38,479 --> 00:31:41,838
Niels Naglé: En ook een heel mooi compliment richting het boek, als je dat zo hoort.

451
00:31:41,838 --> 00:31:48,959
Laurens: Ja, en we denken wel dat het ondertussen wel wat meer anti-AI-sentiment groeien is tegen datacenters en de klimaatimpact natuurlijk.

452
00:31:48,959 --> 00:31:58,719
Laurens: En studenten ook, zeker in Amerika, dit zijn de eerste lichting studeert af, die ChatGPT volop heeft omarmd of heeft moeten omarmen, omdat heel veel onderwijsinstellingen zijn.

453
00:31:58,798 --> 00:32:01,919
Laurens: Ja, we gaan dat dit is de toekomst, dus we gaan het gebruiken.

454
00:32:01,919 --> 00:32:04,878
Laurens: Nu zijn ze afgestudeerd en dan zeggen ze ja, alle banen verdwijnen dan.

455
00:32:05,278 --> 00:32:07,038
Laurens: Dus eerst moest ze er volop inzetten.

456
00:32:07,199 --> 00:32:08,638
Laurens: Nu krijg ze geen werk meer voor.

457
00:32:08,798 --> 00:32:14,078
Joop: Maar krijg je niet de tegenbeweging.

458
00:32:14,318 --> 00:32:17,679
Joop: Dat het straks iets bijna religieus gaat worden.

459
00:32:17,679 --> 00:32:22,399
Joop: Dus aan de ene kant hebben we natuurlijk de mensen die al zeggen van ja, maar je moet het overal gebruiken.
463
00:32:22,719 --> 00:32:27,679
Joop: Ik denk dat de andere kant, we bent anti-AI.

460
00:32:27,679 --> 00:32:30,078
Joop: Dat dat ook niet een gezonde houding is.

461
00:32:30,318 --> 00:32:33,998
Joop: Want dan ga je er ook zeg maar rigide in zitten.

462
00:32:34,878 --> 00:32:37,199
Laurens: Ja, dus dat polariseert dan ook weer op die manier.

463
00:32:37,758 --> 00:32:43,118
Gabriella: Maar ik zie zo zo inderdaad, want wat wij dan belangrijk vinden een stukje van regie pakken.

464
00:32:43,119 --> 00:32:47,119
Gabriella: Dus meer van je bent je niet tegen of voor, maar meer van oké, hoe wil jij het doen?

465
00:32:47,119 --> 00:32:48,639
Gabriella: Wat is je invloedsfeer?

466
00:32:48,639 --> 00:32:50,958
Gabriella: En hoe pak je die regie eigenlijk op AI?

467
00:32:50,959 --> 00:32:54,559
Joop: En dan ga je meer richting onze AI of jouw AI daar.

468
00:32:54,558 --> 00:33:02,878
Gabriella: Dus dat vonden we ook heel belangrijk, dat stuk van oké, pak die regie, het is niet voor of tegen, maar bepaal waar het wel of niet aan passend is.

469
00:33:03,439 --> 00:33:05,679
Laurens: Ja, en er zijn in de journalistiek wel aardige voorbeelden.

470
00:33:05,758 --> 00:33:09,199
Laurens: Ik weet zelf dat nu.nl heeft bijvoorbeeld voor hun gebruikersreactie.

471
00:33:09,199 --> 00:33:10,398
Laurens: En dat gaat ook over frames.

472
00:33:10,398 --> 00:33:12,479
Laurens: Vroeger was het, als mensen gaan reageren online.

473
00:33:12,479 --> 00:33:16,159
Laurens: En dat weten natuurlijk wel op social media of asociale media.

474
00:33:16,159 --> 00:33:20,958
Laurens: En dan wordt het toxisch en haat en ophef wordt gestimuleerd, maar bijvoorbeeld op eigen platform.

475
00:33:21,439 --> 00:33:23,919
Laurens: We willen onmenselijke reacties, zouden we tegen willen houden.

476
00:33:23,919 --> 00:33:25,679
Laurens: Dat heeft nu.nl een aantal jaar gedaan.

477
00:33:25,679 --> 00:33:33,679
Laurens: En toen kwamen ze terug met nu.nl en zeiden, nou, dankzij machine learning kunnen we die reacties wel ongeveer op sentiment en op haat, zeg maar, klassificeren.

478
00:33:33,679 --> 00:33:35,118
Laurens: Maar mogen ze wel of niet.

479
00:33:35,119 --> 00:33:37,839
Laurens: Maar ze dachten, maar wat nou als we met een andere bril kijken?

480
00:33:38,239 --> 00:33:40,479
Laurens: Welke reacties zijn constructief?

481
00:33:40,479 --> 00:33:45,838
Laurens: Helpen het gesprek onder, help onze journalisten om meer onderzoek te doen, brengt ons op nieuwe leads.

482
00:33:45,838 --> 00:33:49,518
Laurens: Als we het zo insteken, dan helpt die machine.

483
00:33:49,599 --> 00:33:52,358
Laurens: En nogmaals, dit is weer die oude vorm die dus alleen classificeerd zeggen.

484
00:33:52,439 --> 00:33:53,878
Joop: Dit is een haat, dit is constructief.

485
00:33:50,079 --> 00:33:56,439
Laurens: Je zit een nieuwe bron in, wellicht een suggestie.

486
00:33:56,838 --> 00:33:57,798
Laurens: Dat helpt de journalistiek.

487
00:33:57,798 --> 00:34:02,679
Laurens: En ze zeiden, daardoor worden die gesprekken vaak beter sneller, omdat reacties sneller door kunnen.

488
00:34:02,679 --> 00:34:04,518
Laurens: En dan blijft het gesprek ook gaande.

489
00:34:04,518 --> 00:34:06,199
Laurens: Dus ze hebben daar best wel veel vruchten van.

490
00:34:06,199 --> 00:34:13,239
Laurens: En OS heeft Joost Schelvis onder andere, die heeft over die Ierse kalfjes die naar Nederland kwamen, maar die dan niet te eten en te drinken krijgen tijdens dan sport.

491
00:34:13,399 --> 00:34:17,318
Laurens: Die mogen geloof ik niet eens hier naartoe geëxporteerd worden.

492
00:34:17,318 --> 00:34:22,679
Laurens: Hij zei, ja, we hadden daar een idee van, maar dan moesten we al die nummers van bepaalde katten, die krijgen allemaal zo'n soort idee.

493
00:34:22,679 --> 00:34:26,038
Laurens: En dat was bijna niet te doen, want dat zijn duizenden records in spreadsheets.

494
00:34:26,038 --> 00:34:33,638
Laurens: En dan hadden ze ook AI voor gebruikt en deels een taalmodel om te voorspellen welke nummers, welke badges er dan van Ierland naar Nederland kwamen.

495
00:34:33,639 --> 00:34:35,639
Laurens: En dan steeksproefwijs werkte dat heel goed.

496
00:34:35,639 --> 00:34:42,197
Joop: En zij waarde dat idee om het te onderzoeken, dat was AI nooit meegekomen, maar we had het onderzoek ook niet kunnen uitvoeren zonder.

497
00:34:42,199 --> 00:34:44,838
Laurens: En dit soort toepassingen, die vind ik heel krachtig.

498
00:34:44,838 --> 00:34:47,797
Laurens: En als die taalmodellen dan ook nog eens eerlijk zijn ontwikkeld.

499
00:34:47,797 --> 00:34:57,638
Laurens: En we weten met welke data en dat mensen toestemming hebben gegeven en waar de fouten zit, als ze dat allemaal weten, en ze draaien Europees en ze nemen niet en je kunt ze lokaal draaien, dat zijn best wel wat voorwaarden.

500
00:34:57,798 --> 00:34:59,959
Laurens: Dan vinden we dat hele zinvolle toepassing.

501
00:35:00,438 --> 00:35:08,599
Joop: En over, zeg maar, hoe zijn je de nou van onze AI jouw AI.

502
00:35:08,918 --> 00:35:11,559
Joop: Daarvoor moet je dan ook het gesprek voeren.

503
00:35:11,719 --> 00:35:14,599
Joop: En laten wij daar nou wat voor hebben.

504
00:35:16,999 --> 00:35:21,558
Joop: Want dat is wel een belangrijke waarom we dit hebben ontwikkeld.

505
00:35:21,559 --> 00:35:29,158
Joop: Dus we hebben samen met het ETZ, Elisabeth twee steden ziekenhuis, hebben we een kaartspel ontwikkeld rondom de inzet van AI in de zorg.

506
00:35:29,159 --> 00:35:35,878
Joop: En dan gaat het er niet om van ben je het ergens mee eens of niet eens, maar hoe kijk je er eigenlijk naar?

507
00:35:36,119 --> 00:35:45,158
Joop: Dus we hebben een heel kaartspel vol met wel met stellingen, waarbij je met elkaar bespreekt van hoe kijk ik ten opzichte van zo'n onderwerp.

508
00:35:45,159 --> 00:35:47,319
Joop: Dus die willen we jullie graag voorleggen.

509
00:35:55,478 --> 00:36:01,798
Muziek: Je denkt  verhalen.

510
00:36:05,478 --> 00:36:08,998
Niels: Het thema deze keer is wetgeving en beleid.

511
00:36:08,999 --> 00:36:11,079
Niels: En de stelling luidt als volgt.

512
00:36:11,478 --> 00:36:15,399
Niels: Iedere zorgverlener moet verplicht AI geschoold zijn.

513
00:36:15,719 --> 00:36:17,719
Gabriella: Als ze omgaan met AI.

514
00:36:20,518 --> 00:36:23,159
Niels: Iedere zorgverlener moet verplicht AI geschoold zijn.

515
00:36:23,159 --> 00:36:23,878
Niels: Dus iedere zorgen.

516
00:36:24,199 --> 00:36:28,838
Gabriella: Dus toch afhankelijk van de context volgens mij ook wettelijke verplichting uit de AI-verordening.

517
00:36:28,838 --> 00:36:45,078
Gabriella: Maar ik vind inderdaad wel dat als we met AI omgaan of nou ontwikkelen is of gebruiken of inzetten, is het heel belangrijk om geletterd te zijn, om goede gesprekken te kunnen voeren, is het ook wel belangrijk om te weten van oké, over wat hebben we nou eigenlijk, en daar draagt gaat het heel erg aan bij.

518
00:36:45,079 --> 00:36:48,758
Gabriella: En het zorgt ook vaak vind ik afhankelijk van hoe je zoiets aanvliegen.

519
00:36:48,758 --> 00:36:53,398
Gabriella: Want het gaat niet in de wij van hoe je nou dit moet uitdragen aan een organisatie.

520
00:36:53,398 --> 00:36:56,278
Gabriella: Maar wel belang dat je kritische houding wel benadrukt.

521
00:36:56,278 --> 00:36:59,239
Gabriella: Van oké, je hebt ook een verantwoordelijkheid hier ook.

522
00:36:59,239 --> 00:37:00,438
Gabriella: Je hebt ook invloed.

523
00:37:00,438 --> 00:37:02,679
Gabriella: Dus ga wel bewust mee om.

524
00:37:02,679 --> 00:37:05,639
Gabriella: Dus nee, ik ben eens met de stelling als het gaat om het.

525
00:37:05,639 --> 00:37:06,598
Gabriella: 100%.

526
00:37:06,918 --> 00:37:09,478
Joop: Laten we een andere doen voor Laurens.

527
00:37:11,878 --> 00:37:13,958
Joop: Maakt het niet uit, worden het niet van mij al.

528
00:37:16,039 --> 00:37:17,959
Joop: Dat is de menselijke kant.

529
00:37:19,239 --> 00:37:23,558
Niels: De volgende die eruit komt, is risico's en uitdagingen en een stelling luidt.

530
00:37:23,798 --> 00:37:28,919
Niels: Onze datakwaliteit is goed op orde voor gebruik van AI in de zorg.

531
00:37:29,559 --> 00:37:33,399
Joop: Het is gemaakt ervoor voor zorginstanties.
536
00:37:33,798 --> 00:37:40,359
Niels: Maar op basis van misschien je eigen ervaring van wat is er bij jou bekend over jouw data.
 532
00:37:40,679 --> 00:37:43,318
Niels: Is dat goed genoeg voor gebruik in de zorg?
 533
00:37:43,878 --> 00:37:46,038
Laurens: Wat mij betreft is deze stelling heel algemeen.
 534
00:37:46,039 --> 00:37:52,678
Laurens: Want wat is goed gebruik in de zorg, dan zou ik zeggen, dan wil ik de doelen weten, dus die de patiënt adequaat helpt.
 535
00:37:52,679 --> 00:38:00,278
Laurens: En soms is dat iets wat ik zelf zou willen, maar waarvan een specialist weet, dat moet je eigenlijk, daar moeten we meer tijd voor nemen of dit onderzoek.
 536
00:38:00,278 --> 00:38:05,958
Laurens: Dus dat adequaat moeten door een specialist worden ingeschat en de context bepaalt.
 537
00:38:05,958 --> 00:38:07,239
Laurens: Ik denk als ik.
 538
00:38:07,318 --> 00:38:13,318
Laurens: Ik heb laatst met een arts gesproken en die zei zij doen dan de anamnese.
 539
00:38:13,639 --> 00:38:14,838
Laurens: Wat heeft de patiënt nodig?
 540
00:38:14,838 --> 00:38:18,518
Laurens: Wil die gehoord worden, wil die gewoon pillen, wil die zijn leefstijl aanpassen.
 541
00:38:18,518 --> 00:38:23,559
Laurens: En de meeste artsen weten nu, we moeten eigenlijk naar leefstijl kijken, heel vaak begint het daar.
 542
00:38:24,999 --> 00:38:30,679
Laurens: Dus het soort wens en behoeften die die patiënt heeft, kijk, als je acute problemen hebt, dan wil je ook meteen geholpen worden.
 543
00:38:31,278 --> 00:38:32,958
Laurens: Ja, die spelen daar ook in een rol.
 544
00:38:32,958 --> 00:38:38,719
Laurens: En dan is sommige data helemaal niet nodig, net zoals als ik pizza bestel, hoef ze niet te weten welk jaar ik geboren ben, toch?
 545
00:38:39,358 --> 00:38:48,798
Laurens: Dat zijn gelukkig al AVG-wetten, maar het is heel lastig om vanuit data zelf te zeggen dat de kwaliteit goed is of niet, of dat het veilig is of niet.
 546
00:38:48,798 --> 00:38:51,278
Laurens: Het gaat om de context waarin het gebruikt wordt.
 547
00:38:51,278 --> 00:38:52,558
Niels: Helemaal helemaal eens.
 548
00:38:52,639 --> 00:38:53,518
Niels: Ender mooi.
 549
00:38:53,838 --> 00:38:54,959
Joop: Ja, duidelijk.
 550
00:38:56,079 --> 00:38:59,518
Joop: Ik pak nog even het boek erbij.
 551
00:38:59,679 --> 00:39:01,679
Joop: Het is heel lastig om een leesbril om te zetten.
 552
00:39:01,679 --> 00:39:04,479
Joop: samen met de koptelefoon.
 553
00:39:05,599 --> 00:39:08,318
Joop: Even kijken hoor, wat ik nog had aangemerkt.
 554
00:39:08,318 --> 00:39:12,159
Joop: Ik heb een hele hoop ezelsoortjes in het boek gezegd, toch?
 555
00:39:12,239 --> 00:39:13,118
Joop: Dat zien we graag.
 556
00:39:15,438 --> 00:39:20,159
Joop: Een van de van de hoofdstukken is ook meer keuzes, andere smaken.
 557
00:39:20,478 --> 00:39:27,838
Joop: En daar wordt eigenlijk gekeken: hoe zou je nu naar de implementatie kunnen kijken, toch?
 558
00:39:27,838 --> 00:39:29,758
Joop: Hoe je het hoe je het gebruikt.
 559
00:39:29,918 --> 00:39:34,318
Joop: En jullie pakken best wel de smaken van de mensen die jullie geïnterviewd hebben.
 560
00:39:34,318 --> 00:39:37,199
Joop: Maar ik ben eigenlijk wel benieuwd naar jullie smaak.
 561
00:39:37,199 --> 00:39:38,318
Joop: Ik moet eigenlijk nog beginnen.
 562
00:39:38,398 --> 00:39:39,918
Joop: Want dat vond ik wel heel grappig.
 563
00:39:39,918 --> 00:39:44,319
Joop: Jullie zeggen van ja, als AI nou net als gas een geur zou hebben.
 564
00:39:44,798 --> 00:39:46,399
Joop: Dat vond ik zo'n goede.
 565
00:39:47,758 --> 00:39:49,678
Joop: Laat me daar beginnen.
 566
00:39:50,318 --> 00:39:52,798
Joop: Hoe zou die voor jou ruiken, Gabriella?
 567
00:39:53,999 --> 00:39:55,118
Gabriella: Door dag.
 568
00:39:55,119 --> 00:39:56,079
Joop: Door dacht.
 569
00:39:56,079 --> 00:39:57,679
Joop: En jij Laurens.
 570
00:39:58,239 --> 00:40:00,639
Joop: Ik weet niet hoe je het doordacht kan ruiken.
 571
00:40:01,199 --> 00:40:02,958
Joop: Oh, echt een geur mee geven.
 572
00:40:03,358 --> 00:40:05,198
Gabriella: Dan zou het zijn, denk ik.
 573
00:40:05,838 --> 00:40:06,798
Niels: Goede vraag.
 574
00:40:06,798 --> 00:40:08,239
Laurens: Misschien naar Kiwi.
 575
00:40:09,199 --> 00:40:12,239
Gabriella: Misschien is waarom je.
 576
00:40:12,239 --> 00:40:16,879
Joop: Het zit wel iets bitters in, maar het is ook wel iets zoiets hebben.
 577
00:40:17,199 --> 00:40:19,038
Gabriella: Ik zag een sterke geur.
 578
00:40:20,639 --> 00:40:24,239
Gabriella: Ja, ik denk juist een zware geur.
 579
00:40:24,798 --> 00:40:26,639
Gabriella: Ja, misschien een kiwi, dat kan ook.
 580
00:40:26,958 --> 00:40:28,479
Joop: Ik weet het eigenlijk nog niet.
 581
00:40:29,119 --> 00:40:32,478
Joop: Maar goed, uiteindelijk komen er op allerlei smaken.
 582
00:40:32,478 --> 00:40:35,278
Joop: En even gewoon als voorbeeld voor de luisteraar.
 583
00:40:35,278 --> 00:40:38,478
Joop: Dus de eerste smaak is bijvoorbeeld nauwkeurigheid, boven snelheid.
 584
00:40:38,478 --> 00:40:41,918
Joop: Of het tweede smaak, AI die past als breiwerk op maat.
 585
00:40:41,918 --> 00:40:45,199
Joop: Zo zijn er een aantal smaken beschreven door jullie.
 586
00:40:45,199 --> 00:40:47,599
Joop: Maar wat zouden jullie eigen smaak zijn?
 587
00:40:47,918 --> 00:40:52,399
Gabriella: Ja, nu ben ik natuurlijk wel biased door al die negen mooie smaken.
 588
00:40:53,199 --> 00:40:56,078
Gabriella: Maar mijn eigen smaak zou zijn, goede vraag.
 589
00:40:56,079 --> 00:40:59,199
Gabriella: Ik weet of jij al een idee om kan ik even nadenken.
 590
00:41:01,039 --> 00:41:10,718
Laurens: Ik heb wel van de week iets vorige week iets geleerd of een soort inzicht gekregen door iemand stelde vraag, toen was ik bij de Buma, de muziekbrancheorganisatie.
 591
00:41:10,719 --> 00:41:13,758
Laurens: Die hadden een dag over media in motion en ook over muziek.
 592
00:41:13,758 --> 00:41:17,598
Laurens: En dan mocht ik bij een ronde tafelgesprek zijn en toen zei iemand iets.
 593
00:41:18,398 --> 00:41:22,239
Laurens: Als een artiest, een muzikant, als die muziek maakt zelf.
 594
00:41:22,878 --> 00:41:27,998
Laurens: Die heeft een songtekst geschreven, of die speelt een gitaar of een piano op zo'n manier dat het je raakt.
 595
00:41:27,999 --> 00:41:34,239
Laurens: En dat je denkt, deze persoon voelt mij, of die snapt mij door de tekst, of dat nummer dat raakt me.
 596
00:41:34,239 --> 00:41:35,518
Laurens: Dan kan je naar diegene toe.
 597
00:41:35,518 --> 00:41:38,239
Joop: En dan zeg je, dankjewel, dan kan je complimenten geven.
 598
00:41:38,478 --> 00:41:41,838
Laurens: Ik heb veel steun aan je gehad, of je hebt me vervoerd, of ik word blij van je.
 599
00:41:42,079 --> 00:41:44,798
Laurens: Dat kan van alles allerlei soorten emoties zijn.
 600
00:41:45,039 --> 00:41:52,398
Laurens: En wij zeggen heel vaak dat we zeggen een machine, dat zij IBM al, een machine can never be held accountable.
 601
00:41:52,639 --> 00:41:56,558
Laurens: Dus het zijn mensen kun je ter verantwoording roepen, maar machines niet.
 602
00:41:56,559 --> 00:41:58,318
Laurens: Maar ik vond dit de positieve variant.
 603
00:41:58,318 --> 00:42:05,119
Laurens: Hier kun je een mens verantwoordelijk houden voor iets wat jou te wegen wat jou vervoerd heeft of bewogen heeft.
 604
00:42:05,119 --> 00:42:11,199
Laurens: En we hebben het vaak over, dat was bijvoorbeeld met die Kids Top 20 was er dan een AI-presentatie die de levensecht uitziet.
 605
00:42:11,199 --> 00:42:15,598
Joop: En die zou dan nu de hitlijst voor kinderen presenteren, als televisieprogramma.
 606
00:42:16,239 --> 00:42:21,199
Laurens: Het platen label wat daar de recht die had een AI-presentator in het leven geroepen.
 607
00:42:21,199 --> 00:42:26,318
Laurens: Maar daar niet bij gezet dat het AI was, het zag je fotorealistisch uit, het leven is echt bewogen als video.
 608
00:42:26,318 --> 00:42:29,678
Laurens: En kinderen wisten dan niet van is het nou echt mens of niet.
 609
00:42:29,679 --> 00:42:32,478
Laurens: En pedagogen en eten hebben er allerlei dingen bij.
 610
00:42:32,478 --> 00:42:39,119
Laurens: Maar een van de dingen is als die presentator straks een band aankondigt of een muzikant.
 611
00:42:39,599 --> 00:42:44,798
Laurens: Kan ze een grapje maken of iets over zeggen, wat een kind die fan is, misschien niet leuk vindt of die snap de grap niet.
617
00:42:44,798 --> 00:42:50,718
Laurens: Die kan dan niet naar die presentator toe en zeggen, ik vind het eigenlijk niet zo leuk wat je gezegd hebt of deed me zeer, of het is niet waar.

612
00:42:50,719 --> 00:42:54,398
Laurens: Dus je kunt die AI-presentator niet verantwoordelijk houden voor als het mis is.

613
00:42:54,398 --> 00:42:55,838
Laurens: Dus dat wil naar een mens toe.

614
00:42:55,838 --> 00:42:59,599
Laurens: Maar wij leggen het, ik legde het vaak negatief uit ter verantwoording.

615
00:42:59,599 --> 00:43:03,438
Joop: Het gaat altijd over als iets mis is of onleuk of lullig.

616
00:43:03,758 --> 00:43:08,719
Laurens: Maar deze persoon zei, ja, maar het is ook als je een compliment wil geven aan iemand als je iemand zegt.

617
00:43:08,719 --> 00:43:12,558
Laurens: Je hebt iets, je hebt niets geleerd of je hebt niets verteld, of je hebt het anders laten zien.

618
00:43:12,559 --> 00:43:14,239
Laurens: Je zag, dat werkt ook weer twee kanten op.

619
00:43:14,239 --> 00:43:15,518
Laurens: Ik weet niet of dit de smaak is.

620
00:43:15,999 --> 00:43:19,958
Niels: Nee, maar het is wel een bepaald perspectief om bewust even stil te staan om ook de andere kant.

621
00:43:20,278 --> 00:43:24,998
Laurens: En daarom is het zo belangrijk dat we dat we mensen zijn en dat we kunnen voelen.

622
00:43:20,079 --> 00:43:26,599
Laurens: Want dat horen we wel vaak terug.

623
00:43:26,679 --> 00:43:29,078
Laurens: Ja, maar machine, maar mens maakt ook fouten.

624
00:43:29,079 --> 00:43:31,878
Laurens: Maar dan zeg ik al, naar een mens kun je toe gaan.

625
00:43:33,159 --> 00:43:36,518
Joop: Ik vind die omdraaiing naar het positief.

626
00:43:36,679 --> 00:43:40,199
Joop: Dat je inderdaad dat je niemand kan complimenteren.

627
00:43:40,199 --> 00:43:41,719
Laurens: Ja, kun je een machine een compliment maken.

628
00:43:41,798 --> 00:43:42,598
Joop: Ja, dat kan wel.

629
00:43:43,079 --> 00:43:44,518
Joop: Dus als je dat nu doet.

630
00:43:45,079 --> 00:43:46,838
Joop: En die zegt dan oh, dankjewel.

631
00:43:46,838 --> 00:43:49,798
Joop: Ze zeggen dankjewel terug, maar dat heeft geen waar het heeft geen waarde.

632
00:43:50,199 --> 00:43:51,639
Niels: Doen jullie het wel.

633
00:43:52,599 --> 00:43:58,758
Joop: Nou, nee, soms zeg ik wel iets van top en dan ga ik verder of zo.

634
00:43:58,758 --> 00:44:00,839
Joop: Dus dat is wel een soort van compliment.

635
00:44:02,119 --> 00:44:10,518
Gabriella: Ik had trouwens wel nog eentje, maar ik dacht vooral voor, het wordt wel benoemd in het boek, maar kwam ook wel voort uit mijn eigen overtuiging, vooral over feminisme en AI.

636
00:44:10,519 --> 00:44:12,598
Gabriella: Dus AI eigenlijk voor wie.

637
00:44:12,599 --> 00:44:14,358
Gabriella: En feminisme kan dat heel mooi aan.

638
00:44:14,358 --> 00:44:16,438
Gabriella: Dat is ook in het boek heel mooi uitgeschreven.

639
00:44:16,438 --> 00:44:21,879
Gabriella: Maar dat is voor mij wel echt iets waar ik echt nog steeds voordat ik het boek al schreef al veel mee bezig was.

640
00:44:22,199 --> 00:44:25,078
Gabriella: Omdat gelijkheid binnen AI vind ik gewoon heel belangrijk.

641
00:44:25,079 --> 00:44:26,278
Gabriella: Dus dat is één.

642
00:44:26,838 --> 00:44:32,518
Joop: En hoe draagt AI dan bij in jou in jouw smaak op het gebied van feminisme.

643
00:44:32,758 --> 00:44:35,079
Gabriella: Een feminisme bijdraagt aan AI eigenlijk.

644
00:44:36,039 --> 00:44:37,399
Joop: Allebei, misschien wel.

645
00:44:37,559 --> 00:44:38,518
Joop: Ja, andersom ook.

646
00:44:39,079 --> 00:44:42,758
Joop: Het heeft altijd een tweeweg invloed, toch?

647
00:44:42,758 --> 00:44:51,478
Gabriella: Ja, nou ja, ik denk zo dus feminisme en AI, ik denk dat het vooral te maken heeft met wat de vraag die ik al net uitlegde over wie eigenlijk.

648
00:44:51,478 --> 00:44:58,598
Gabriella: En hoe kunnen we als het gaat om data of als het gaat om allerlei andere AI-aspecten, meer op zoek naar gelijkheid.

649
00:44:58,599 --> 00:45:02,519
Gabriella: En niet meer op zoek naar hoe zeg ik dat?

650
00:45:02,519 --> 00:45:07,159
Gabriella: Wat we in het begin al zeiden, meer op zoek gaan naar de dominantie, maar meer van voor iedereen.

651
00:45:07,559 --> 00:45:11,079
Gabriella: Want ik had een keer wat ik op de hogeschool was ik in gesprek met een docent.

652
00:45:11,079 --> 00:45:13,318
Gabriella: En toen zei ze tegen mij, ja, maar AI voor wie.

653
00:45:13,318 --> 00:45:14,758
Gabriella: En dat is me altijd bijgebleven.

654
00:45:14,918 --> 00:45:16,758
Gabriella: Voor wie is zo'n belangrijke vraag.

655
00:45:16,758 --> 00:45:20,998
Gabriella: Die we eigenlijk nooit stellen, ook niet als het gaat om vooral nu als het gaat om hun AI.

656
00:45:20,999 --> 00:45:22,839
Gabriella: Dus ik denk feminisme juist.

657
00:45:23,318 --> 00:45:30,359
Gabriella: Het opent juist vind ik het gesprek over wie doen we het eigenlijk en voor wie is AI wel of niet passend.

658
00:45:32,119 --> 00:45:36,198
Laurens: Het is ook geen verrassing, denk ik dat Gabriella.

659
00:45:36,199 --> 00:45:40,198
Laurens: De rol van ethicus, bij de politie vervult.

660
00:45:40,199 --> 00:45:43,719
Laurens: Want er was vorig jaar was er wat onderzoek en dan was het frame.

661
00:45:43,958 --> 00:45:46,758
Laurens: Vrouwen blijven achter bij AI gebruiken.

662
00:45:46,758 --> 00:45:48,679
Laurens: En die twijfelen meer.

663
00:45:49,079 --> 00:45:50,039
Laurens: Wat is het eigenlijk het nut?

664
00:45:50,039 --> 00:45:52,038
Laurens: Waar gaat dit naartoe en is het wel verstandig.

665
00:45:52,039 --> 00:45:55,638
Laurens: En dus het frame was: ja, vrouwen bij verwachten en mannen, die gaan vooruit.

666
00:45:56,519 --> 00:46:00,998
Laurens: Die durven dingen en die proberen dingen uit en die gaan mee met de tijd en de toekomst.

667
00:46:00,999 --> 00:46:02,678
Laurens: Maar ik dacht, ja, draai het om.

668
00:46:02,918 --> 00:46:04,519
Joop: Mannen denk je niet na.

669
00:46:05,559 --> 00:46:07,398
Laurens: Die gaan gewoon maar wat zitten doen.

670
00:46:07,398 --> 00:46:15,558
Laurens: Terwijl misschien vrouwen en ik chargeer natuurlijk erg is van wat kan ik hier eigenlijk mee en wil ik dat eigenlijk wel en is het wel handig, kan het ook misgaan.

671
00:46:15,559 --> 00:46:20,438
Laurens: En dat wordt door mannen dan gezien als vertragend en vervelend en tegen vooruitgang.

672
00:46:20,438 --> 00:46:26,679
Laurens: Terwijl je kunt ook zeggen, als we dat als die andere blik dominant maken, hé mannen, wacht eens even, kom eens even terug.

673
00:46:26,679 --> 00:46:27,558
Laurens: Wat ben je nou precies aan doen?

674
00:46:27,559 --> 00:46:28,758
Joop: Ja, weet ik ook niet wat is vet.

675
00:46:29,478 --> 00:46:34,119
Laurens: En ik merk zelf, daar moet ik ook weer eerlijk toegeven dat ik heb die vermissing houdt ook.

676
00:46:34,119 --> 00:46:39,159
Laurens: Dus ik ben laatst ook misschien voor de meer technische luister met MCP service en klant CoWork aan de slag gaan.

677
00:46:39,878 --> 00:46:42,598
Laurens: Als mensen zeggen, ook wat jij zei, Joop.

678
00:46:42,918 --> 00:46:44,278
Laurens: Anders polariseert het zo.

679
00:46:44,278 --> 00:46:45,159
Laurens: Dus ik ben niet tegen.

680
00:46:45,398 --> 00:46:48,518
Laurens: Soms moet ik het ook uitproberen om te begrijpen waar mensen dan zo enthousiast over zijn.

681
00:46:48,519 --> 00:46:50,439
Laurens: Want dan wil ik het ook snappen.

682
00:46:50,438 --> 00:46:54,278
Laurens: En ik kan natuurlijk over lezen en andere mensen over spreken, maar soms wil je het ook zelf doen.

683
00:46:54,278 --> 00:46:57,798
Laurens: En dan voel ik die lokroep ook om dat te doen.

684
00:46:57,798 --> 00:47:02,518
Laurens: En toen had ik mijn Stravadata gekoppeld aan klant met een MCP-server.

685
00:47:02,519 --> 00:47:05,159
Niels: Helemaal blij, het kost het toch veel meer tijd dan ik dacht.

686
00:47:05,719 --> 00:47:13,159
Laurens: En toen dacht ik, ja, ik snap wel als ik dan kan vragen, hoeveel mountainbike kilometers heb ik de afgelopen negen maanden afgelegd en hoeveel hoogte meten is rondom de Veluwe.
693
00:47:13,159 --> 00:47:17,319
Laurens: En dan krijg je dat best wel goed terug, maar ik snap die data heel goed, dus ik weet er goed waar het over gaat.

687
00:47:17,318 --> 00:47:20,919
Laurens: Maar toen dacht ik daarna, ja, wat ben ik dan eigenlijk als ik uitzoom.

688
00:47:20,999 --> 00:47:21,478
Niels: Waarom?

689
00:47:22,358 --> 00:47:23,079
Laurens: Waarom doe ik dit?

690
00:47:23,079 --> 00:47:23,958
Laurens: Wat betekent dit?

691
00:47:23,959 --> 00:47:26,518
Laurens: En ik begrijp nu wel, maar er zit ook nog heel veel haak en oog.

692
00:47:26,599 --> 00:47:32,039
Laurens: Het gaat niet altijd goed en ik moet heel veel kennis nog steeds hebben van mijn data van wielrennen of mountainbiken.

693
00:47:32,039 --> 00:47:38,358
Laurens: Dus ja, dan denk ik, nee, ik moet toch ook weer even terug van oké, als dit dan een nieuwe evolutie is, hoe gaat dit wie dan weer helpen?

694
00:47:38,358 --> 00:47:41,719
Laurens: Dus ik moet mezelf dus bewust blijven roepen.

695
00:47:41,719 --> 00:47:45,159
Gabriella: Maar daar gaat toch ook feminisme ook over van die machtsbeschrijvingen, toch?

696
00:47:45,159 --> 00:47:52,038
Gabriella: Dus van oké, van die hun AI van big tech, naar gemarginaliseerde groepen die worden geraakt, zeg maar door dit soort systemen.

697
00:47:52,039 --> 00:47:54,039
Gabriella: Dus dat vind ik wel mooi, het is ook kern van ons boek, toch?

698
00:47:54,039 --> 00:47:58,838
Gabriella: Die machtsverschuiving in kaart brengen en te kijken, oké, naar wie gaat de macht nu en naar wie niet.

699
00:47:58,838 --> 00:48:01,959
Gabriella: En wat kunnen daar we aan doen, daarom vind ik feminisme daarvan echt een mooi om.

700
00:48:02,199 --> 00:48:04,998
Joop: En jij zei er straks, je bent meer feminist geworden.

701
00:48:05,679 --> 00:48:07,358
Joop: Hoe komt dat tot uiting dan?

702
00:48:07,358 --> 00:48:16,079
Laurens: Nou komt het tot uiting, omdat ik in presentaties en workshops heel erg naar voren brengen, wat er al wat er ook wat er mis is en wat de impact op vrouwen is.

703
00:48:16,079 --> 00:48:23,518
Laurens: En een van de voorbeelden is die Nudifier apps, die uitkleedapps, daar worden 99% van de gevallen worden vrouwen en meisjes daar de dupe van.

704
00:48:23,519 --> 00:48:24,159
Laurens: Mannen niet.

705
00:48:24,159 --> 00:48:26,159
Laurens: Als het andersom zou zijn, zouden ze dan.

706
00:48:26,159 --> 00:48:28,079
Laurens: Ze zijn nu gelukkig verboden.

707
00:48:28,079 --> 00:48:29,758
Laurens: Dan was dat waarschijnlijk veel sneller aangepast.

708
00:48:29,758 --> 00:48:31,678
Laurens: Dus heel veel van die software.

709
00:48:31,679 --> 00:48:41,038
Laurens: Daarvan zien we, omdat die met de mannelijke blik ontwikkeld zijn en heel veel dingen als uitgangspunten nemen die van mannen vanzelfsprekend zijn ze niet alleen vrouw, maar werken ze vaak ook tegen ze.

710
00:48:41,039 --> 00:48:44,478
Laurens: En dat lijkt ja, dan zeggen mensen technologisch neutraal, maar dat is.

711
00:48:44,478 --> 00:48:48,478
Laurens: We weten dat het een socio-economisch, sociotechnische context heeft.

712
00:48:48,639 --> 00:48:50,639
Laurens: En dan worden bestaande systemen meegenomen.

713
00:48:50,639 --> 00:48:52,159
Laurens: En mij heeft dat de ogen geopend.

714
00:48:52,239 --> 00:48:57,358
Laurens: Misschien door technologie, maar ook door met Verlieren Hermans te praten en andere filosofen en Maa Harbours.

715
00:48:57,438 --> 00:48:59,679
Laurens: En dan komen we daar kom je er eigenlijk achter.

716
00:49:01,519 --> 00:49:05,518
Laurens: Het zit er heel erg in dat we vrouwen moeten maar mee.

717
00:49:06,798 --> 00:49:15,919
Laurens: O we laten AI-assistenten taken doen die we als soort vrouwentaken, assistenten, die mannen eigenlijk al niet doen, oh, dat is niet zo belangrijk werk, dat kunnen machines wel.

718
00:49:15,999 --> 00:49:17,598
Laurens: En zo wordt misschien niet.

719
00:49:17,838 --> 00:49:20,079
Laurens: Elke man denkt zo natuurlijk, maar het is een heel soort mannelijke manier.

720
00:49:20,318 --> 00:49:21,518
Joop: Gewoon even chargeren.

721
00:49:21,838 --> 00:49:29,598
Niels: Er zitten heel veel denkbeelden in de technologie, in de oplossingen die worden gemaakt waar we niet bij stilstaan, dat vind ik zo mooi, dat stilstaan.

722
00:49:29,599 --> 00:49:32,558
Niels: En dat voelt als vertragen, maar eigenlijk betekent dat nadenken.

723
00:49:32,798 --> 00:49:34,878
Niels: Nadenken, waarom doen we zoiets?

724
00:49:34,878 --> 00:49:36,239
Niels: Waarom willen we dit?

725
00:49:36,239 --> 00:49:41,919
Niels: Maar ook hoe is het tot stand gekomen en bereiken we daarmee ons doel, eigenlijk allemaal vragen.

726
00:49:43,438 --> 00:49:45,039
Niels: Wat is jullie beeld?

727
00:49:45,039 --> 00:49:48,478
Niels: Worden de vragen vaak genoeg gesteld in de media.

728
00:49:48,478 --> 00:49:51,199
Niels: En hoe kunnen we dat vergroten?

729
00:49:51,519 --> 00:49:53,039
Gabriella: In de media?

730
00:49:54,079 --> 00:49:56,798
Niels: Dit is iets wat bij veel meer mensen moet gaan leven.

731
00:49:56,798 --> 00:50:01,199
Niels: Het boek helpt erbij, maar om die vraag te gaan stellen, maar niet iedereen leest een boek.

732
00:50:01,199 --> 00:50:04,639
Niels: Ik ben zelf ook meer een webcaster en wat minder boeken lezen.

733
00:50:04,798 --> 00:50:10,479
Niels: Hoe zorgen we ervoor dat dit beeld en dit gesprek meer gedaan wordt.

734
00:50:11,278 --> 00:50:14,239
Gabriella: Mooi vraag, maar wel heel ideeën bij.

735
00:50:14,798 --> 00:50:23,598
Laurens: Je ziet het bijvoorbeeld, dus meteen heel heftig, maar die Epstein zaak, daarin gaat het in de gewone berichtgeving heel vaak over de mannen.

736
00:50:23,599 --> 00:50:27,278
Laurens: En die worden eigenlijk niet veroordeeld.

737
00:50:27,278 --> 00:50:28,878
Laurens: Tenminste, ze zitten niet vast.

738
00:50:28,878 --> 00:50:31,679
Laurens: Ze krijgen een groot huis, zoals de Prins Andrew.

739
00:50:31,679 --> 00:50:37,518
Laurens: O ze verliezen een baan, maar ze worden nooit echt berecht en vastgezet.

740
00:50:38,478 --> 00:50:42,558
Laurens: En de vrouwen die zeggen van je moet veel meer die verhalen van de vrouwen.

741
00:50:42,798 --> 00:50:44,639
Laurens: Nu worden nog steeds de verhalen van de mannen verteld.

742
00:50:44,639 --> 00:50:47,278
Laurens: Terwijl de vrouwen hier geschaad zijn.

743
00:50:47,519 --> 00:50:50,958
Laurens: Krijgen de vrouwen alleen in de opiniepagina's vaak de aandacht.

744
00:50:51,599 --> 00:50:53,518
Laurens: Dus daar zitten al best wel een groot verschil.

745
00:50:53,519 --> 00:50:56,639
Laurens: Dus die verhalen die we vertellen, ik weet dat heel veel redacties bezig zijn.

746
00:50:56,639 --> 00:51:01,758
Laurens: We moeten veel meer die gendergelijkheid in onze berichtgeving terug laten komen.

747
00:51:01,838 --> 00:51:03,359
Laurens: Dat kost moeite.

748
00:51:03,599 --> 00:51:04,958
Laurens: En dat hebben wij ook gedaan.

749
00:51:04,959 --> 00:51:09,358
Laurens: Want we hadden makkelijk negen mannen kunnen vinden die over over AI had kunnen vertellen.

750
00:51:09,358 --> 00:51:11,518
Laurens: En we dachten, wij moeten juist wat verder doorzoeken.

751
00:51:11,519 --> 00:51:14,559
Laurens: Als je één of twee gevonden hebt, kan je gewoon een sneeuwbal.

752
00:51:14,559 --> 00:51:16,318
Laurens: Want dan zei jullie Judith Zoë Blijden weer.

753
00:51:16,318 --> 00:51:17,518
Laurens: Je moet Ruben Brave hebben.

754
00:51:17,519 --> 00:51:19,839
Gabriella: En Braaf vertelde, weet je, kan met die gaan praten.

755
00:51:20,239 --> 00:51:22,398
Laurens: Zo kwamen wij een hele nieuwe netwerken.

756
00:51:22,398 --> 00:51:29,598
Laurens: Maar je moet er ergens expliciet, misschien niet of het moeite is, maar ja dan moet je een andere weg inslaan waarvan je niet weet wat dan gaat gebeuren.

757
00:51:29,599 --> 00:51:31,278
Laurens: Op een gegeven moment gaat dat balletje wel rollen.

758
00:51:31,278 --> 00:51:33,918
Gabriella: Maar ook als iemand mij vraagt van hey, wil je iets komen vertellen?

759
00:51:33,918 --> 00:51:41,438
Gabriella: En stel, ik kan niet of zo, dan stel ik ook andere namen voor met een ander perspectief, die ook heel interessant zijn voor het medialandschap.

760
00:51:41,438 --> 00:51:46,239
Gabriella: En denk ook van ja, wie laat je aan tafel ook op de televisie of in de krant.

761
00:51:46,239 --> 00:51:49,118
Gabriella: Dus wie geef je het woord?
769
00:51:49,119 --> 00:51:54,478
Gabriella: En nou, mogen verschillende mensen zijn, natuurlijk, zijn dat één perspectief alleen aan tafel moet zitten.

762
00:51:54,478 --> 00:51:59,918
Gabriella: Maar vaak zie je wel alleen maar één dominant persoon of perspectief binnen de media.

763
00:51:59,918 --> 00:52:12,078
Gabriella: Maar als we dan met elkaar dan elke keer meer mensen aandragen van hey, dit is ook interessant geluid, of meer mensen een podium bieden met een ander kijk of blik, dan komen we denk ik wel ver, wat jij zegt dan, Laurens.

764
00:52:12,639 --> 00:52:13,999
Gabriella: Dat geloof ik ook.

765
00:52:16,719 --> 00:52:19,838
Joop: En een deel jouw AI zitten ook oefeningen.

766
00:52:21,599 --> 00:52:23,998
Joop: Ik denk dat het hele leuke oefeningen zijn.

767
00:52:25,278 --> 00:52:30,638
Joop: Maar een van de van de leuke die voorbij kwam, is die van Verlien Herman.

768
00:52:30,639 --> 00:52:34,718
Joop: En dat gaat over anders dingen omdraaien.

769
00:52:34,719 --> 00:52:39,679
Joop: En zij vertelt wat over een andere manier naar de Turingtest kijken.

770
00:52:39,838 --> 00:52:42,319
Joop: Ik weet niet of jullie die scherp hebben.

771
00:52:42,559 --> 00:52:44,718
Joop: En die zouden kunnen uitleggen.

772
00:52:44,719 --> 00:52:46,399
Joop: Of moet ik hem even.

773
00:52:49,199 --> 00:52:52,999
Joop: Ik heb zelf ook een boek geschreven, en ik weet ook niet alles precies meer.

774
00:52:50,159 --> 00:52:54,598
Joop: Zo werken dat soort dingen.

775
00:52:55,559 --> 00:53:04,359
Joop: De Turingtest gaat er om of wij of we geen onderscheid meer kunnen maken met antwoorden die terugkomen, of het een mens is of een machine.

776
00:53:05,239 --> 00:53:18,278
Joop: En zij zegt van ja, dan wordt er een soort van wij moeten gaan bijna gaan bewijzen, dat wij nu een mens worden door die capcha's die we moeten gaan invullen.

777
00:53:18,278 --> 00:53:22,519
Joop: Dus dat je overal op moet klikken, de bussen, de bruggen, de motoren.

778
00:53:22,519 --> 00:53:23,798
Joop: Ik ben geen robot.

779
00:53:24,679 --> 00:53:30,358
Joop: En zij zegt eigenlijk, we zouden eigenlijk naar een andere turingtest moeten.

780
00:53:30,679 --> 00:53:34,359
Joop: Namelijk laten wij robots in een wachtkamer zetten.

781
00:53:34,358 --> 00:53:38,999
Joop: En ze tot eeuwig laten wachten totdat ze zelf tot de conclusie komen.

782
00:53:40,999 --> 00:53:42,758
Joop: Nee, mensen komen dan tot de conclusie.

783
00:53:43,398 --> 00:53:44,998
Joop: Dit slaat nergens op.

784
00:53:44,999 --> 00:53:47,478
Joop: En dat is eigenlijk dan de robottest.

785
00:53:47,478 --> 00:53:49,718
Joop: Dus de robot blijft zitten.

786
00:53:50,039 --> 00:53:52,438
Joop: En de mens die zegt van ja, maar dit gaan we niet doen.

787
00:53:52,438 --> 00:53:54,518
Laurens: Ja, dat noemen ze nu dat de ergenistest.

788
00:53:55,559 --> 00:54:01,398
Joop: En daarmee draait ze eigenlijk het om: van ja, maar wij, wij moeten niet iedere keer bewijzen dat wij geen robot zijn.

789
00:54:01,639 --> 00:54:05,399
Joop: De robot moet maar onderzoek bewijzen dat hij geen mens is.

790
00:54:06,999 --> 00:54:11,079
Laurens: Wat daar ook in zit, is denk ik het soort van vrijheid versus veiligheidsprincipe.

791
00:54:11,079 --> 00:54:20,438
Laurens: Bijvoorbeeld als je gaat vliegen, dan moeten we allemaal door die door die controlepoortjes en soms moet je en je koffer wordt gescand en je soms moet je je riem afdoen in je schoenen uit en zo.

792
00:54:20,438 --> 00:54:25,558
Laurens: En dan zou je kunnen zeggen, ja, dan is dus een hele grote groep te dupen, omdat er heel af en toe iemand met kwade zin.

793
00:54:25,559 --> 00:54:28,278
Laurens: Ja, best wel effect kan hebben negatief.

794
00:54:28,278 --> 00:54:30,199
Joop: En zeg ik het heel even.

795
00:54:30,199 --> 00:54:37,159
Laurens: Maar we hebben dan onze vrijheid op dat moment en ons comfort even opgegeven voor de veiligheid van een grotere groep.

796
00:54:37,798 --> 00:54:41,958
Laurens: Ik vind het altijd moeilijk om te accepteren op dat moment, maar ik geef het wel een overheid.

797
00:54:41,958 --> 00:54:43,318
Laurens: Maar dat hebben we geaccepteerd.

798
00:54:43,318 --> 00:54:46,038
Laurens: En dat is met bijvoorbeeld preventief fouilleren is dat ook zoiets.

799
00:54:46,119 --> 00:54:49,398
Laurens: Dan geef je ook de vrijheid van het individu op voor de veiligheid van de groep.

800
00:54:49,398 --> 00:54:50,278
Laurens: En dat is dit ook.

801
00:54:50,278 --> 00:54:56,278
Laurens: Dus wat geven we eigenlijk op als we als wij dat als mens moeten bewijzen dat we mens zijn, kan je het ook omdraaien.

802
00:54:56,999 --> 00:54:58,518
Laurens: Wat gebeurt er als die machines.

803
00:54:58,519 --> 00:55:02,918
Laurens: En dan is die capcha test, die kunnen daar komen taalmodellen en chatbots nu ook langs.

804
00:55:03,079 --> 00:55:05,719
Laurens: Dus dan is zo'n ergernistest misschien best wel een aardige.

805
00:55:05,719 --> 00:55:08,278
Laurens: En ik kreeg van de week een filmpje doorgestuurd van een vriend.

806
00:55:08,278 --> 00:55:09,318
Laurens: Die had twee.

807
00:55:09,639 --> 00:55:15,798
Laurens: Dus in dat filmpje was een man had twee telefoons met ChatGPT de spraakversie opstaan.

808
00:55:15,798 --> 00:55:16,598
Laurens: En die zei.

809
00:55:16,918 --> 00:55:20,119
Laurens: hey, guys, ik wil het wat jullie hebben over onze favoriete films.

810
00:55:20,119 --> 00:55:21,878
Laurens: Kunnen we ze vertellen wat wij al.

811
00:55:22,039 --> 00:55:25,959
Laurens: En die chatbots komen daar niet uit, want er zijn drie mensen in het spel.

812
00:55:26,199 --> 00:55:27,638
Laurens: En dat gaat dan helemaal mis.

813
00:55:27,639 --> 00:55:29,878
Laurens: Dus daar komen ze eigenlijk al niet uit.

814
00:55:29,878 --> 00:55:32,599
Laurens: En dat is ook weer wat jullie dit zou je blij, moet ik het altijd denken.

815
00:55:32,679 --> 00:55:44,358
Laurens: Die relationele autonomie, heel veel van onze technologie wordt bedacht van één op één, één gebruiker die heel homogeen is, die eigenlijk wel gezond en goed is en heel duidelijk zijn behoefte kan formuleren en het allemaal wel voor elkaar heeft.

816
00:55:44,599 --> 00:55:51,159
Laurens: Maar in dit geval zie je, als er dan drie personen zijn, dan komen die chatbots, die kunnen helemaal niet luisteren naar twee andere mensen, maar die moeten hele regen.

817
00:55:51,239 --> 00:55:52,758
Laurens: Die zijn helemaal niet zo ontworpen.

818
00:55:52,758 --> 00:55:57,318
Laurens: Dus in heel veel gewone mensen situaties gaat deze technologie de hele tijd mank.

819
00:55:57,318 --> 00:56:00,438
Laurens: En dan de laatste wat Felienne zegt over dat omdraaien vind ik ook wel mooie.

820
00:56:00,438 --> 00:56:06,518
Laurens: Zij zegt magister, ik denk dat een hoop luisteraars dat ook kennen, omdat ze misschien kinderen hebben die wiens school dat gebruikt.

821
00:56:06,519 --> 00:56:08,598
Laurens: En dat ze een soort leerling volgsysteem.

822
00:56:08,999 --> 00:56:17,478
Laurens: Dan word ik, ik word een surveillant, ik word een politieagent, ik moet kijken of er iemand aanwezig was, of die laat komt, of die boek bij zich heeft, of die huiswerk had gedaan, die presentatie goed was.

823
00:56:17,478 --> 00:56:21,878
Laurens: En maar kan niet zeggen, één student heeft heel mooi een heel mooi antwoord gegeven op een open vraag.

824
00:56:21,878 --> 00:56:27,719
Laurens: Of zij helpt altijd haar haar muur, haar klasgenoten en komt dan zelf niet aan het werk toe.

825
00:56:28,039 --> 00:56:30,598
Laurens: Voor complimenten is geen ruimte in het surveillance.

826
00:56:30,599 --> 00:56:32,918
Laurens: En we richten die systemen vaak in op surveillance.

827
00:56:32,918 --> 00:56:35,558
Laurens: Hoe zou het zijn als we op complimenten zouden inrichten.

828
00:56:35,559 --> 00:56:37,878
Joop: En dat triggerde met juist deze oefening.

829
00:56:37,878 --> 00:56:46,598
Joop: Want dat gaat ook in wordt ook heel vaak ingezet in bijvoorbeeld fraudebestrijding of dat soort zaken.

830
00:56:46,599 --> 00:56:52,599
Joop: Terwijl als je het hebt dan in de publieke sector, zou je ook kunnen omdraaien.

831
00:56:52,599 --> 00:56:54,678
Joop: Als je het hebt over de oefening, draai het om.

832
00:56:54,679 --> 00:56:58,598
Joop: van zouden we het kunnen inzetten om te kijken van wie heeft waar recht op.

833
00:56:58,599 --> 00:57:04,599
Joop: in plaats van dat je we denken altijd zeg maar in een soort van repressie of in wat niet goed.

834
00:57:05,079 --> 00:57:08,998
Joop: Dus dat vond ik mooi aan deze oefening van als je nou zo'n systeem bedenkt.

835
00:57:08,999 --> 00:57:14,038
Joop: Als je het nou eens omdraait, zouden we er dan ook een positieve variant van kunnen maken.

836
00:57:14,039 --> 00:57:17,718
Laurens: En moeilijk is dat het ook gebeurd is met de gemeente Amsterdam.

837
00:57:17,719 --> 00:57:18,438
Gabriella: Ja, klopt.

838
00:57:18,438 --> 00:57:21,958
Gabriella: Nee, maar ik denk ook een stukje van vertrouwen natuurlijk, vanuit vertrouwen het meer benaderen.

839
00:57:21,959 --> 00:57:26,518
Gabriella: In plaats vanuit wantrouwen als het gaat om fraude en gemeente, natuurlijk, Amsterdam.

840
00:57:26,758 --> 00:57:28,319
Gabriella: Boen je dan van een slimme.

841
00:57:27,878 --> 00:57:32,958
Gabriella: Ja, dat ze inderdaad dan hebben gekozen om dan niet daarmee door te gaan.

842
00:57:33,159 --> 00:57:39,038
Gabriella: En dat is ook wel van ja, volgens mij was het project dat zij zeiden van zo'n mensen kregen een soort bijstand.

843
00:57:39,199 --> 00:57:43,278
Laurens: En als ze moesten opletten of ze bijvoorbeeld als ze weer geld ging verdienen, dan moet je laten terugbetalen.

844
00:57:43,278 --> 00:57:45,278
Laurens: En dan zei, we zien dat u nu inkomen heeft.

845
00:57:45,278 --> 00:57:46,878
Laurens: Dus let op, je moet het nu stopzetten.

846
00:57:46,878 --> 00:57:51,118
Laurens: Dus ze wilden mensen helpen om iets te voorkomen in plaats van te beboeten of te controleren.

847
00:57:51,119 --> 00:57:54,239
Laurens: En toen hebben ze volgens mij echt wel meer dan twee jaar aan het systeem gewerkt.

848
00:57:54,318 --> 00:57:57,679
Laurens: Kwamen ze eruit, dat bleef maar vooroordelen en discrimineren.

849
00:57:58,079 --> 00:57:59,038
Laurens: Welke knoppen ze ook draaien.

850
00:57:59,039 --> 00:58:00,318
Laurens: Ze hebben dat heel openlijk gedeeld.

851
00:58:00,318 --> 00:58:02,719
Laurens: Heel veel mensen geconsulteerd in het open ook.

852
00:58:02,719 --> 00:58:06,478
Laurens: Het is eigenlijk heel lovenswaardig en uiteindelijk besloten om het niet in te zetten.

853
00:58:06,478 --> 00:58:11,359
Laurens: Dus daar bleek toch die inherente vooroordelen die aan dit soort machines zitten.

854
00:58:11,519 --> 00:58:14,719
Laurens: Dat konden ze dus niet wenselijk toepassen.

855
00:58:14,798 --> 00:58:17,838
Gabriella: En dan hebben ze ook naar nee gezegd inderdaad van hier stoppen wij mee gedaan.

856
00:58:17,838 --> 00:58:18,639
Gabriella: Dat vind ik best wel een beetje.

857
00:58:18,639 --> 00:58:19,358
Laurens: Dat is best wel toch.

858
00:58:19,599 --> 00:58:22,158
Joop: Als je daar zoveel geld en tijd nee.

859
00:58:22,159 --> 00:58:22,719
Joop: Moedig vooral.

860
00:58:24,798 --> 00:58:28,958
Laurens: Maar ja, dit is een project waarvan we weten hoe ze het hebben aangepakt, waar ze eerlijk over zijn geweest.

861
00:58:28,958 --> 00:58:31,679
Laurens: Er zijn heel veel projecten niet zo getoetst, wel doorgezet.

862
00:58:31,679 --> 00:58:33,278
Laurens: En daarna de schadelijke effecten.

863
00:58:33,519 --> 00:58:34,639
Gabriella: Dat hebben we vaak gezien.

864
00:58:35,758 --> 00:58:37,358
Joop: Daar kennen we allemaal de voorbeelden van.

865
00:58:37,599 --> 00:58:40,079
Niels Naglé: Dan gooien we het geld weg inderdaad, want dan hebben we er niet van geleerd.

866
00:58:40,079 --> 00:58:41,038
Niels Naglé: En we moeten ervan leren.

867
00:58:41,039 --> 00:58:42,239
Niels Naglé: En daar hebben we de transparantie.

868
00:58:42,798 --> 00:58:43,438
Niels Naglé: Misschien wel best.

869
00:58:43,599 --> 00:58:44,878
Niels Naglé: Dan is het een investering geweest.

870
00:58:44,878 --> 00:58:46,399
Niels Naglé: En anders is het inderdaad.

871
00:58:47,278 --> 00:58:51,758
Gabriella: Wel benutten trouwens, wat jullie hebben opgepakt bij jouw AI.

872
00:58:51,758 --> 00:58:52,958
Gabriella: Hebben jullie er nog wat?

873
00:58:53,758 --> 00:58:54,878
Gabriella: Ja, het pas je niet toe.

874
00:58:57,838 --> 00:58:59,359
Gabriella: Van dit hoofdstuk.

875
00:58:59,838 --> 00:59:01,518
Joop: Geef je eigen invulling van AI.

876
00:59:04,639 --> 00:59:07,038
Joop: Kijk, ik heb hem hier erbij gezet.

877
00:59:07,599 --> 00:59:10,638
Joop: De valkuil 1, we moeten echt meer met AI gaan doen.

878
00:59:10,639 --> 00:59:15,119
Joop: En dat is niet dat ik dat nu vanwege het boek ben gaan doen, maar het is iets.

879
00:59:15,119 --> 00:59:17,918
Joop: Ik zit al heel lang, zeg maar in deze technologie.

880
00:59:17,999 --> 00:59:27,999
Joop: Dus sinds 2017 geef ik bijvoorbeeld workshops rondom waar je AI in kan zetten in je bedrijf.

881
00:59:28,318 --> 00:59:36,798
Joop: En 9 van de 10 keer en dat is nog steeds zo, is de beginvraag waar kunnen we AI in zetten.

882
00:59:37,758 --> 00:59:47,919
Joop: En ik heb dus al vanaf 2017 zit in die workshop de omdraaiing in van wat is je doel, wat wil je bereiken, waar zitten je problemen.

883
00:59:48,878 --> 00:59:58,239
Joop: En daar zou eventueel dus als we dat helemaal afbellen van hoe je daar zou kunnen verbeteren, zou AI een middel kunnen zijn.

884
00:59:58,239 --> 01:00:00,319
Joop: Maar dat is niet het uitgangspunt.

885
01:00:00,878 --> 01:00:03,118
Joop: Dus dat was vooral eigenlijk een herkenning.

886
01:00:03,679 --> 01:00:07,358
Joop: Een bevestiging van ja, fijn dat dat ook steeds meer gezien wordt.

887
01:00:07,999 --> 01:00:10,239
Joop: Dat is niet het juiste uitgangspunt.

888
01:00:10,239 --> 01:00:12,718
Joop: Behalve als je een leerdoel hebt.

889
01:00:12,719 --> 01:00:16,958
Joop: Je zegt van ja, maar we willen dingen gewoon leren over deze technologie.

890
01:00:16,958 --> 01:00:20,159
Joop: Wat kan het, wat kan het niet, wat zijn kansen en risico's?

891
01:00:20,159 --> 01:00:21,838
Joop: Dan kan het een uitgangspunt zijn.

892
01:00:21,838 --> 01:00:22,719
Joop: Maar dan zeg ik altijd.

893
01:00:22,958 --> 01:00:27,038
Joop: Maar dan moet je ook je leerdoel formuleren en het als een leerdoel zien.

894
01:00:27,039 --> 01:00:29,199
Gabriella: En ook een eind en beginnen eind.

895
01:00:30,478 --> 01:00:34,639
Laurens: Wat zijn de reacties van die workshoppers dan als jij zegt van we moeten de vragen omdraaien.

896
01:00:34,639 --> 01:00:37,758
Laurens: En misschien ergens is AI misschien een optie.

897
01:00:37,999 --> 01:00:39,918
Joop: Over het algemeen positief.

898
01:00:39,918 --> 01:00:42,798
Laurens: Maar je wordt gegeven om we gaan met AI werken, denk ik.

899
01:00:42,798 --> 01:00:44,478
Joop: En dan kom je het niet.

900
01:00:44,478 --> 01:00:47,039
Joop: Of heel vaak niet of zo weinig.

901
01:00:48,719 --> 01:00:52,798
Joop: Het leuke is dat ze dat ze uiteindelijk zeg maar een oplossing willen voor een probleem.

902
01:00:53,278 --> 01:00:55,039
Joop: En daar komen we wel.

903
01:01:02,318 --> 01:01:05,758
Joop: Wat moeilijker is, en daar loop ik wel eens tegenaan.

904
01:01:05,758 --> 01:01:11,599
Joop: En dan worden dat soms stevige gesprekken, is dat ze die doelen moeten formuleren.

905
01:01:12,478 --> 01:01:19,199
Joop: En als ze die niet hebben of nog niet scherp hebben, dan komt er wel eens van ja, maar kom op, we willen gewoon door.

906
01:01:19,519 --> 01:01:21,119
Joop: We willen dit inzetten.

907
01:01:22,079 --> 01:01:24,239
Joop: En dan ga ik niet zomaar overstag.

908
01:01:25,039 --> 01:01:27,519
Joop: En dat zorgt wel eens voor wrijving.

909
01:01:27,999 --> 01:01:29,598
Joop: Maar dat is wel gezond, toch ergens?

910
01:01:30,398 --> 01:01:30,878
Joop: Vind ik ook.

911
01:01:31,438 --> 01:01:34,719
Joop: En ik doe het vanuit een positieve intentie.

912
01:01:34,798 --> 01:01:37,038
Joop: Want ik geloof dat ik ze daar ook mee help.

913
01:01:37,039 --> 01:01:39,199
Joop: Want als je het gewoon iets maakt om te maken.

914
01:01:39,519 --> 01:01:41,119
Joop: Ja, wat heb je daar dan aan?

915
01:01:41,838 --> 01:01:43,278
Laurens: Want dan komen ze over drie maanden terug.

916
01:01:43,918 --> 01:01:48,719
Laurens: Wij zijn heel enthousiast voor jou over die taalmodellen, maar nu blijken ze vol foute verkeerde orders.

917
01:01:50,478 --> 01:01:51,679
Joop: Of we hadden dat alleen maar niet nodig.
926
01:01:51,679 --> 01:01:53,918
Joop: Dat je de een of andere suboptimalisatie.
 918
01:01:54,639 --> 01:01:56,558
Niels: Niet passend bij het vraagstuk.
 919
01:01:58,079 --> 01:02:01,038
Laurens: Vorige week die workshop bij de politie, daar vroeg ik aan het eind.
 920
01:02:01,039 --> 01:02:06,958
Laurens: Want dan kwamen we vaak op adviezen uit doordat ze wat dingen van deze oefeningen uit het boek gebruikten om iets niet te doen met AI.
 921
01:02:06,959 --> 01:02:08,318
Laurens: En toen vroeg ik aan het eind.
 922
01:02:08,318 --> 01:02:10,678
Joop: Zijn er mensen nu ook teleurgesteld eigenlijk.
 923
01:02:10,999 --> 01:02:15,199
Laurens: Er waren dus ook best wel wat mensen die zeiden en voornamelijk mannen trouwens.
 924
01:02:15,438 --> 01:02:18,079
Laurens: Ja, nee, want ik had wel graag iets met AI willen doen.
 925
01:02:18,079 --> 01:02:19,518
Laurens: En zei, maar hoe vind je het dan?
 926
01:02:19,519 --> 01:02:19,878
Laurens: Nu zijn?
 927
01:02:19,878 --> 01:02:23,958
Laurens: Ja, dus daar ben ik wel teleurgesteld over, maar ik snap nu wel dat we dat inderdaad niet zomaar moeten doen.
 928
01:02:24,039 --> 01:02:28,118
Laurens: En dat ik nu goede vragen heb en dat dat inderdaad eerst veel meer duidelijk moet worden.
 929
01:02:28,358 --> 01:02:33,239
Joop: Dus het is goed dat we nee zeggen, maar ik vind het toch jammer dat snap ik ook heel goed.
 930
01:02:33,958 --> 01:02:35,318
Laurens: En dat maakt je heel erg menselijk.
 931
01:02:35,478 --> 01:02:41,158
Laurens: Dus iets kunnen snappen en ergens van balen tegelijk, maar kunnen uitleggen, de kunnen machines.
 932
01:02:41,318 --> 01:02:45,798
Niels: Ja, mijn puntje was vanuit het hoofdstuk was de kracht van de double diamond model.
 933
01:02:46,039 --> 01:02:49,478
Niels: Dus designing the right thing, designing the thing right.
 934
01:02:49,478 --> 01:02:53,239
Niels: En soms beseffen we niet aan welke kant van de diamant we eigenlijk aan het werk zijn.
 935
01:02:53,239 --> 01:02:54,918
Niels: En daar bij stilstaan.
 936
01:02:54,918 --> 01:02:56,598
Niels: Welke kant zijn we nu mee bezig?
 937
01:02:56,599 --> 01:03:00,119
Niels: En hebben we die andere kant van de diamant eigenlijk wel bevraagd.
 938
01:03:00,119 --> 01:03:04,038
Laurens: Ja, dat hoor ik Joop eigenlijk ook zeggen als jij binnenkomt, dan hebben ze eigenlijk het eerste deel van de diamant.
 939
01:03:04,119 --> 01:03:05,558
Laurens: Ze willen gewoon iets designen.
 940
01:03:06,199 --> 01:03:09,079
Laurens: Maar weet je wel of je de juiste ding aan het doen bent.
 941
01:03:09,398 --> 01:03:10,758
Gabriella: De waarom vraag ook wel?
 942
01:03:11,398 --> 01:03:14,358
Gabriella: Die probleemdefiniëring inderdaad, dat wordt te weinig.
 943
01:03:14,679 --> 01:03:16,278
Niels: Jullie noemen de doordachte AI.
 944
01:03:16,278 --> 01:03:17,798
Niels: Ik zeg het passende innovatie.
 945
01:03:17,798 --> 01:03:18,678
Niels: Het moet passen.
 946
01:03:20,758 --> 01:03:22,039
Gabriella: Precies.
 947
01:03:22,039 --> 01:03:23,639
Gabriella: Allemaal mooi uitgangspunten trouwens.
 948
01:03:23,798 --> 01:03:27,878
Joop: Gezien de tijd, volgens mij zouden wij nog een uur met elkaar kunnen vullen.
 949
01:03:28,119 --> 01:03:30,039
Joop: Maar dat willen we de luisteraars.
 950
01:03:30,519 --> 01:03:32,278
Joop: Ja, ik weet niet of het niet aandoen is.
 951
01:03:33,878 --> 01:03:40,359
Joop: Is er een vraag die wij niet gesteld hebben, of wil je nog iets zeggen over het boek, wat gezegd moet worden.
 952
01:03:41,239 --> 01:03:44,999
Joop: Want anders ga je hem niet met een goed gevoel naar huis.
 953
01:03:44,999 --> 01:03:49,798
Gabriella: Ik denk wel dat we één ding wat duidelijk is, AI is gewoon mensenwerk, dus je hebt invloed.
 954
01:03:49,958 --> 01:03:53,398
Gabriella: Welk niveau je ook maar zit, en maak daar vooral gebruik van.
 955
01:03:55,478 --> 01:03:58,359
Laurens: Twijfel is ook een soort vermomde nieuwsgierigheid.
 956
01:03:59,239 --> 01:04:02,679
Laurens: Dus omarm die twijfel, sterker nog maken je kracht van zeggen.
 957
01:04:03,159 --> 01:04:07,718
Laurens: Ik heb gewoon nog wat vragen en niet om het proces te traineren.
 958
01:04:07,719 --> 01:04:10,758
Laurens: Maar hebben we hier aan gedacht, als we dat gedaan hebben de antwoord prima.
 959
01:04:12,758 --> 01:04:14,358
Joop: Je zou best wel op de muur kunnen.
 960
01:04:14,599 --> 01:04:16,758
Joop: Twijfel is vermomd nieuwsgierigheid.
 961
01:04:17,719 --> 01:04:19,478
Laurens: Maar je hebt gewoon nog wat dingen onduidelijk.
 962
01:04:19,719 --> 01:04:25,878
Laurens: En nu durf je dat heel misschien niet te uiten, omdat we wat we in het boek zeiden, omdat je bang bent, omdat ze je voor je baan.
 963
01:04:25,878 --> 01:04:29,398
Laurens: Omdat zeggen, jij zit altijd zo tegen te houden, slechte beoordeling.
 964
01:04:29,398 --> 01:04:31,478
Laurens: Of jij gaat niet op dat team met de leuke dingen.
 965
01:04:31,478 --> 01:04:32,598
Laurens: En daar mag jij niet op.
 966
01:04:32,599 --> 01:04:37,079
Laurens: Dus mensen houden dat voor zich, maar presenteer je twijfel als nieuwsgierigheid.
 967
01:04:37,318 --> 01:04:42,199
Joop: Ik zou de luisteraar mee willen geven: lees het boek niet in onze AI fijne diepgang.
 968
01:04:42,519 --> 01:04:44,918
Joop: Ik weet zeker dat je er wat van leert.
 969
01:04:45,318 --> 01:04:48,358
Niels: En je gaat ook praktisch mee aan de slag, daar ben ik ook 100% zeker.
 970
01:04:48,599 --> 01:04:50,999
Joop: Dankjewel dat jullie in de studio wilden zijn.
 971
01:04:51,318 --> 01:04:52,358
Joop: Bedankt voor dit gesprek.
 972
01:04:55,318 --> 01:05:00,358
Joop: Leuk dat je weer luisterden naar deze aflevering, vergeet je niet te abonneren via favoriete podcast-app.
 973
01:05:00,358 --> 01:05:03,558
Joop: Dan mis je geen aflevering, iedere maandag en donderdag.
 974
01:05:03,559 --> 01:05:07,479
Joop: En tot de volgende.