S07E08 - AI-geletterdheid: meer dan een verplichting

Joop Snijder schetst een verhelderend perspectief op AI-geletterdheid en laat zien dat het voor veel mensen helemaal geen verplichting is onder de nieuwe Europese AI-wet. Hij legt uit waarom je ondanks dat toch zou willen weten hoe AI werkt. 

Met een praktisch verhaal over een marketingteam dat blind vertrouwde op AI-aanbevelingen wordt duidelijk hoe belangrijk het is om AI te begrijpen. Door AI-geletterdheid te zien als een kans voor persoonlijke ontwikkeling in plaats van een verplichting, opent zich een wereld aan mogelijkheden voor effectiever gebruik van AI-systemen.

Onderwerpen

• De reikwijdte van verplichte AI-geletterdheid volgens de nieuwe EU AI-wet
• Het verschil tussen hoge en lage risicoklasse AI-systemen en bijbehorende verplichtingen
• Praktische voordelen van AI-geletterdheid voor betere besluitvorming
• De boetes en consequenties voor niet-naleving bij hoog-risico AI-systemen

Links

• Podcast: AIToday Live podcast
• Opleidingsinstituut: Nationale AI-cursus
• Wetgeving: Europese AI-wet
• Definitie: Wikipedia

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,001 --> 00:00:06,120
Hoi, leuk dat je weer luistert naar een korte aflevering van AIToday Live,

2
00:00:06,120 --> 00:00:09,500
de Nederlandstalige podcast over kunstmatige intelligentie.

3
00:00:09,500 --> 00:00:12,600
Mijn naam is Joop Snijder, CTO van Aigency.

4
00:00:12,600 --> 00:00:18,160
Er wordt de laatste tijd veel gezegd over AI-geletterdheid.

5
00:00:18,160 --> 00:00:21,740
Je moet AI-geletterd worden, lees je overal.

6
00:00:21,740 --> 00:00:24,740
Nou, ik heb nieuws voor je. Je moet helemaal niks.

7
00:00:24,740 --> 00:00:27,060
Nou ja, niet helemaal niks.

8
00:00:27,460 --> 00:00:34,700
Volgens de nieuwe Europese AI-wet moet je het inderdaad zijn als je werkt met systemen in de hoge risicoklasse.

9
00:00:34,700 --> 00:00:37,500
Maar weet je wat? Die groep is helemaal niet zo groot.

10
00:00:37,500 --> 00:00:41,340
De meeste AI-systemen vallen in een lagere risicoklasse.

11
00:00:41,340 --> 00:00:45,100
Daarvoor is AI-geletterdheid niet verplicht.

12
00:00:45,100 --> 00:00:50,620
Nu denk je misschien, mooi, dan kan ik nu wel stoppen met luisteren, want het hoeft niet.

13
00:00:50,620 --> 00:00:53,500
Maar ik vraag je toch om nog even te blijven.

14
00:00:54,920 --> 00:01:02,580
Want hoewel de wet AI-geletterdheid voor de meeste systemen onder de hoog risicoklasse alleen maar aanmoedigt,

15
00:01:02,580 --> 00:01:07,320
denk ik dat er een veel belangrijkere reden is om AI-geletterd te worden.

16
00:01:07,320 --> 00:01:08,840
Je eigen ontwikkeling.

17
00:01:08,840 --> 00:01:15,920
Het helpt je namelijk om beter met AI om te gaan, betere beslissingen te nemen en meer uit de technologie te halen.

18
00:01:17,200 --> 00:01:20,500
Maar hoe weet je eigenlijk dat je AI-geletterd bent?

19
00:01:20,500 --> 00:01:25,960
Het is niet alsof iemand je op een dag ridderlijk op de schouder tikt en plechtig verklaart,

20
00:01:25,960 --> 00:01:28,760
"Ik verklaar u tot AI-geletterd."

21
00:01:28,760 --> 00:01:30,760
Het zit hem juist in de details.

22
00:01:30,760 --> 00:01:37,860
En wat opvalt, de nieuwe wet vertelt wel wie er allemaal betrokken moet zijn bij het bevorderen van AI-geletterdheid,

23
00:01:38,860 --> 00:01:41,060
maar niet precies hoe dat moet gebeuren.

24
00:01:41,060 --> 00:01:45,680
Er staat vooral dat het belangrijk is en dat verschillende partijen moeten samenwerken.

25
00:01:45,680 --> 00:01:51,020
Die vrijheid is tegelijk lastig, maar biedt ook kansen.

26
00:01:51,520 --> 00:01:58,320
Want het betekent dat organisaties zelf mogen bepalen hoe ze hun medewerkers en andere betrokkenen AI-geletterd maken.

27
00:01:58,320 --> 00:02:01,060
Het enige wat telt is het eindresultaat.

28
00:02:01,060 --> 00:02:05,780
Dat mensen genoeg kennis en begrip hebben om verantwoord met AI om te gaan.

29
00:02:05,780 --> 00:02:10,180
Zal ik je vertellen waarom ik denk dat dit zo belangrijk is?

30
00:02:10,180 --> 00:02:15,100
Laten we eens kijken wat AI-geletterdheid eigenlijk inhoudt.

31
00:02:15,760 --> 00:02:21,660
Het doet me denken aan hoe we de afgelopen jaren steeds nieuwe vormen van geletterdheid hebben zien ontstaan.

32
00:02:21,660 --> 00:02:26,720
Eerst moesten we computervaardig worden, toen digivaardig, daarna data geletterd.

33
00:02:26,720 --> 00:02:29,260
En nu staat AI-geletterdheid voor de deur.

34
00:02:29,260 --> 00:02:34,380
Het lijkt wel een digitale evolutie waarbij het een op het ander voortbouwt.

35
00:02:35,140 --> 00:02:46,740
De Europese AI-wet definieert het behoorlijk formeel als de vaardigheden, kennis en het begrip die nodig zijn om geïnformeerd met AI-systemen om te gaan.

36
00:02:46,740 --> 00:02:49,820
Maar wat betekent dat nou in de praktijk?

37
00:02:49,820 --> 00:02:56,340
Het gaat er niet om dat je precies weet hoe AI-machine learning werkt of dat je kunt programmeren.

38
00:02:56,340 --> 00:02:59,340
Nee, het gaat erom dat je snapt wat AI kan.

39
00:02:59,340 --> 00:03:03,060
En misschien nog wel belangrijker, wat het niet kan.

40
00:03:04,260 --> 00:03:08,740
Als het gaat om AI-geletterdheid maakt de Europese Unie een belangrijk onderscheid.

41
00:03:08,740 --> 00:03:16,500
En voor AI-systemen met grote risico's moeten de mensen die er toezicht op houden voldoende AI-geletterd zijn.

42
00:03:16,500 --> 00:03:23,080
Ze moeten niet alleen snappen hoe AI werkt, maar ook genoeg kennis en autoriteit hebben om in te grijpen als dat nodig is.

43
00:03:23,080 --> 00:03:30,820
Bij die andere AI-systemen, zoals ik al aangaf, worden organisaties alleen maar aangemoedigd om voor AI-geletterdheid te zorgen.

44
00:03:31,000 --> 00:03:37,560
Dit onderscheid is belangrijk omdat het laat zien dat de EU begrijpt dat niet elk AI-systeem dezelfde impact heeft.

45
00:03:37,560 --> 00:03:45,160
Een chatbot die je helpt bij het kiezen van een cadeau is wel heel wat anders dan een AI-systeem dat bepaalt of je een hypotheek krijgt of niet.

46
00:03:45,160 --> 00:03:51,500
Maar hoe ziet AI-geletterdheid er nou in de dagelijkse praktijk uit?

47
00:03:51,500 --> 00:03:55,280
Wat betekent het er om echt te begrijpen wat een AI-systeem wel en niet kan?

48
00:03:55,940 --> 00:03:59,500
Laat ik je aan de hand van een verhaal laten zien wat ik bedoel.

49
00:03:59,500 --> 00:04:02,740
Je gaat het pas zien als je het doorhebt.

50
00:04:02,740 --> 00:04:09,840
Deze woorden van Johan Cruijff schoten door Toms hoofd tijdens een wekelijkse teamvergadering bij het marketingbureau waar hij werkte.

51
00:04:09,840 --> 00:04:17,780
Het bedrijf had net een nieuw AI-systeem geïmplementeerd dat klantgedrag analyseerde en voorspelde welke leads het meest kansrijk waren.

52
00:04:18,500 --> 00:04:21,140
Zijn collega's waren enthousiast over de efficiëntie.

53
00:04:21,140 --> 00:04:25,160
Kijk, het systeem zegt dat we ons moeten focussen op deze groep potentiële klanten.

54
00:04:25,160 --> 00:04:27,280
Laat we daar direct mee aan de slag gaan.

55
00:04:27,280 --> 00:04:34,900
Tom, die zich de laatste maanden verdiept had in hoe het AI-systeem werkte, zag iets wat zijn collega's miste.

56
00:04:34,900 --> 00:04:41,920
Net als bij een voetbalwedstrijd waar de onervaren kijker alleen de bal volgt terwijl de kenner het spel ziet ontvouwen,

57
00:04:41,920 --> 00:04:44,660
zag Tom meer dan alleen de aanbevelingen.

58
00:04:45,360 --> 00:04:52,100
Wacht even, onderbrak hij. Hebben jullie gezien dat het systeem vooral kijkt naar historische data van bestaande klanten?

59
00:04:52,100 --> 00:04:54,520
En dat zijn voornamelijk grote bedrijven.

60
00:04:54,520 --> 00:04:58,220
Maar wij willen juist groeien in het MKB-segment.

61
00:04:58,220 --> 00:05:00,580
Die patronen kent het systeem nog niet.

62
00:05:00,580 --> 00:05:03,180
Zijn collega's keken verrast op.

63
00:05:03,180 --> 00:05:07,920
Ze hadden blind vertrouwd op de aanbevelingen zonder te begrijpen hoe deze tot stand kwamen.

64
00:05:07,920 --> 00:05:13,260
Het was als naar een voetbalwedstrijd kijken zonder de tactiek te snappen.

65
00:05:13,420 --> 00:05:16,380
Je ziet wel wat er gebeurt, maar begrijp niet waarom.

66
00:05:16,380 --> 00:05:22,240
In de weken die volgden leerde Tom zijn team hoe ze verder konden kijken dan alleen de output van het systeem.

67
00:05:22,240 --> 00:05:27,660
Hij legde uit welke data het systeem gebruikte, hoe het patronen herkende en vooral wat het niet zag.

68
00:05:27,660 --> 00:05:32,400
En ze leerden de aanbevelingen te combineren met hun eigen marktkennis en ervaring.

69
00:05:32,400 --> 00:05:36,640
Drie maanden later zaten ze weer in dezelfde vergaderruimte.

70
00:05:37,260 --> 00:05:39,120
Een junior collega stak haar hand op.

71
00:05:39,120 --> 00:05:48,340
Ik zie dat het systeem deze start-up als laag potentieel markeert, maar volgens mij mist het cruciale informatie over hun recente financieringsronde.

72
00:05:48,340 --> 00:05:49,920
Tom glimlachte.

73
00:05:49,920 --> 00:05:51,960
Zijn team begon het door te krijgen.

74
00:05:51,960 --> 00:05:56,480
Je gaat het pas zien als je het door hebt, citeerde hij Cruyff nog een keer.

75
00:05:57,400 --> 00:06:04,900
AI is een geweldig hulpmiddel, maar alleen als je begrijpt hoe het werkt, wat het kan en vooral wat het niet kan.

76
00:06:04,900 --> 00:06:10,500
Die middag paste het team hun strategie aan, een combinatie van AI-inzichten en menselijke expertise.

77
00:06:10,500 --> 00:06:19,660
Ze hadden geleerd dat echte AI-geletterdheid niet alleen gaat over het kunnen gebruiken van de technologie, maar over het werkelijk begrijpen ervan.

78
00:06:19,660 --> 00:06:20,920
Net als bij voetbal.

79
00:06:20,920 --> 00:06:25,980
Je kunt naar het spel kijken, maar pas als je het door hebt, zie je wat er echt gebeurt.

80
00:06:27,380 --> 00:06:31,480
Dit verhaal laat precies zien waar het bij AI-geletterdheid om gaat.

81
00:06:31,480 --> 00:06:35,340
Het gaat niet om een certificaat aan de muur of een vinkje op je cv.

82
00:06:35,340 --> 00:06:42,860
Het gaat om het vermogen om verder te kijken dan alleen de uitkomst van een AI-systeem, om te begrijpen wat er onder de motorkap gebeurt.

83
00:06:42,860 --> 00:06:46,340
En weet je wat zo mooi is aan die nieuwe EU-wetgeving?

84
00:06:46,340 --> 00:06:51,720
Die laat juist veel ruimte aan organisaties om zelf te bepalen hoe ze hun mensen AI-geletterd maken.

85
00:06:51,720 --> 00:06:56,980
Dus nogmaals, er staat wel in wie er betrokken moet zijn bij het bevorderen van AI-geletterdheid.

86
00:06:57,360 --> 00:06:59,500
Maar het is niet precies hoe dat moet gebeuren.

87
00:06:59,500 --> 00:07:05,700
De nadruk ligt vooral op het belang ervan en dat verschillende partijen moeten samenwerken om dit te bereiken.

88
00:07:05,700 --> 00:07:12,660
In Nederland zijn we hier al best wel goed mee bezig, want neem bijvoorbeeld de nationale AI-cursus.

89
00:07:12,660 --> 00:07:16,560
Deze cursus helpt je te begrijpen wat AI is en hoe het werkt.

90
00:07:16,560 --> 00:07:20,220
En het mooie is, er zijn verschillende versies voor verschillende sectoren.

91
00:07:20,220 --> 00:07:24,080
Of je nu in de zorg werkt, in het onderwijs of in de logistiek.

92
00:07:24,080 --> 00:07:30,300
Er is een versie die aansluit bij jouw praktijk, maar het gaat verder dan alleen de cursus volgen.

93
00:07:30,300 --> 00:07:35,200
Het is zoals bij het verhaal van Tom en zijn team, je leert het meeste in de praktijk.

94
00:07:35,700 --> 00:07:43,380
Door kritische vragen te stellen, door te begrijpen waarom een AI-systeem bepaalde keuzes maakt en vooral door te snappen wat het systeem allemaal niet kan.

95
00:07:43,380 --> 00:07:46,860
Want daar ligt de echte kracht van AI-geletterdheid.

96
00:07:46,860 --> 00:07:53,600
Niet in het blind vertrouwen op wat een systeem je vertelt, maar in het combineren van AI-inzichten met menselijke expertise.

97
00:07:55,040 --> 00:07:58,260
En zoals Cruijff zou zeggen, je gaat het pas zien als je het doel hebt.

98
00:07:58,260 --> 00:08:02,780
En nu vraag je je misschien af, wanneer moet dit allemaal gebeuren?

99
00:08:02,780 --> 00:08:10,000
Deze regels rond AI-geletterdheid in de EU AI Act treden in werking op 2 februari 2025.

100
00:08:10,000 --> 00:08:11,200
Heel snel al.

101
00:08:11,200 --> 00:08:14,960
Maar weet je, wachten tot die datum is eigenlijk zonde.

102
00:08:14,960 --> 00:08:21,600
Want als je nu manager bent, ontwikkelaar, gebruiker of gewoon iemand die met AI te maken krijgt in het dagelijks leven.

103
00:08:21,600 --> 00:08:24,200
AI-geletterdheid is voor iedereen waardevol.

104
00:08:24,200 --> 00:08:28,380
Maar goed, hoe word je dan AI-geletterd?

105
00:08:28,380 --> 00:08:33,480
De nationale AI-cursus die ik net noemde is een goed begin, maar er zijn meer manieren.

106
00:08:33,480 --> 00:08:39,300
Je kunt bijvoorbeeld experimenteren met AI-tools die je tegenkomt en je steeds afvragen.

107
00:08:39,300 --> 00:08:41,340
Waarom doet dit systeem wat het doet?

108
00:08:41,340 --> 00:08:46,980
Met collega's in gesprek gaan over hoe jullie ervaringen met AI zijn.

109
00:08:46,980 --> 00:08:51,260
Artikelen lezen over hoe AI werkt in jouw vakgebied.

110
00:08:52,400 --> 00:08:55,720
Of deelnemen aan workshops of webinars over AI.

111
00:08:55,720 --> 00:08:58,240
Het mooie is, je hoeft het niet alleen te doen.

112
00:08:58,240 --> 00:09:02,980
Als je in een organisatie werkt, kun je samen met collega's op ontdekkingstocht gaan.

113
00:09:02,980 --> 00:09:06,600
Organiseer bijvoorbeeld een maandelijkse sessie waarin jullie ervaringen delen.

114
00:09:06,600 --> 00:09:11,360
Of start een klein project waarin je onderzoekt hoe AI jullie werk kan verbeteren.

115
00:09:12,080 --> 00:09:15,700
Want uiteindelijk draait AI-geletterdheid om samenwerking.

116
00:09:15,700 --> 00:09:20,060
Of je nu directeur bent of medewerker, ontwikkelaar of eindgebruiker.

117
00:09:20,060 --> 00:09:23,460
We hebben elkaar nodig om AI op een verantwoorde manier in te zetten.

118
00:09:23,460 --> 00:09:28,120
De wet verplicht het misschien alleen voor systemen met een hoog risico.

119
00:09:28,120 --> 00:09:32,300
Maar de waarde van AI-geletterdheid gaat veel verder dan wat de wet voorschrijft.

120
00:09:34,340 --> 00:09:41,680
Nu we het toch over de wet hebben, het is goed om even stil te staan bij wat er gebeurt als je systeem wel in de hoog risicoklasse valt.

121
00:09:41,680 --> 00:09:44,640
En je niet voldoet aan de eisen van AI-geletterdheid.

122
00:09:44,640 --> 00:09:52,160
Want hoewel er geen directe boetes zijn voor het niet zorgen voor AI-geletterdheid, kan het je organisatie wel degelijk geld kosten.

123
00:09:52,360 --> 00:10:00,900
Stel je voor, je moet aan de autoriteiten rapporteren over je AI-geletterdheid of over hoe AI-geletterdheid je organisatie is.

124
00:10:00,900 --> 00:10:09,180
Als je dan onjuiste, onvolledig of misleidende informatie verstrekt, kun je verwachten dat er boetes zullen volgen.

125
00:10:09,180 --> 00:10:19,860
En algemeen staat in de wet dat op het verstrekken van onjuiste informatie boetes staan van 7,5 miljoen euro of 1% van je omzet,

126
00:10:19,860 --> 00:10:22,220
naargelang welk bedrag hoger is.

127
00:10:22,980 --> 00:10:24,100
Dat is nogal wat.

128
00:10:24,100 --> 00:10:29,560
Maar weet je, ik vind dat we niet vanuit angst voor boetes AI-geletterd moeten worden.

129
00:10:29,560 --> 00:10:32,920
Want dan wordt het precies wat we niet willen, een afvinklijstje.

130
00:10:32,920 --> 00:10:36,380
Het gaat er juist om dat je het zelf wilt.

131
00:10:36,380 --> 00:10:40,580
Dat je begrijpt waarom het waardevol is om te snappen wat AI wel en niet kan.

132
00:10:40,580 --> 00:10:49,220
Zodat je betere beslissingen kunt nemen, effectiever kunt samenwerken met AI-systeem en vooral zodat je ook echt er plezier aan beleeft.

133
00:10:51,080 --> 00:10:53,680
Laten we terugkomen op waar deze aflevering mee begon.

134
00:10:54,740 --> 00:11:02,540
Je moet helemaal niet AI-geletterd worden tenzij je werkt met systemen in de hoge risicoklasse, maar je wilt het wel.

135
00:11:02,540 --> 00:11:09,600
Want net als Tom en zijn team in het verhaal ontdek je pas de echte waarde van AI als je begrijpt wat er onder de motorkap gebeurt.

136
00:11:10,200 --> 00:11:12,980
De komende jaren gaan we steeds meer met AI werken.

137
00:11:12,980 --> 00:11:22,980
Nogmaals, of je nu manager bent, ontwikkelaar, gebruiker of gewoon nieuwsgierig, AI-geletterdheid helpt je om bewuster en effectiever met deze technologie op te gaan.

138
00:11:22,980 --> 00:11:28,000
Niet omdat het moet van de wet, maar omdat het je helpt betere beslissingen te nemen.

139
00:11:28,800 --> 00:11:37,660
En voor wie meer wil weten over AI-geletterdheid, begin gewoon eens met die nationale AI-cursus op AI-cursus.nl.

140
00:11:37,660 --> 00:11:45,400
En nog belangrijker, praat erover met je collega's, experimenteer met AI-tools en stel vooral veel vragen.

141
00:11:46,400 --> 00:11:50,580
Want, zoals Johan Cruijffel zei, je gaat het pas zien als je het door hebt.

142
00:11:50,580 --> 00:11:54,480
En blijf natuurlijk vooral luisteren naar AI-tools live.

143
00:11:54,480 --> 00:11:58,960
Want weet je wat een van de beste manieren is om AI-geletterd te worden?

144
00:11:58,960 --> 00:12:04,980
Door er regelmatig over te horen, erover na te denken en er met anderen over te praten.

145
00:12:04,980 --> 00:12:09,120
Dus, volg ons via je favoriete podcast app.

146
00:12:09,120 --> 00:12:10,820
Tot de volgende aflevering!

147
00:12:10,820 --> 00:12:40,800
[Muziek]