S07E06 - AI agents in 2025: je organisatie voorbereiden

Kunstmatige intelligentie expert Joop Snijder en AI-specialist Niels Naglé bespreken in de podcast AIToday Live de impact van AI agents op de toekomst van werk. Ze behandelen Human Centered AI, een aanpak waarbij AI-systemen worden ontwikkeld die aansluiten bij menselijke behoeften en werkwijzen.

De hosts gaan in op de voorbereiding die organisaties moeten treffen voor de AI-transitie, waaronder het opbouwen van kennis, het aanpassen van de bedrijfscultuur en het opstellen van ethische richtlijnen. Ook bespreken ze de praktische implicaties van de EU AI Act en de nieuwe competenties en functies die ontstaan door de komst van AI agents.

Onderwerpen

• Human Centered AI
• Voorbereiding op de AI-transitie
• De EU AI Act en de praktische implicaties
• Nieuwe competenties en functies
• De implementatie van AI agents

Links

• Deel 1: S07E02 - 2025 de doorbraak van AI agents: hoe werken ze?
• Deel 2: S07E04 - Jouw eerste AI agent: zo begin je succesvol
• Wetgeving: EU AI Act (artikel 165)

Genoemde entiteiten: EU AI Act - Human Centered AI - AI agents - Organisaties - Ontwikkelaars - Managers - Prompt engineers - AI operations specialisten - AI ethics officers - AI champions - Universiteiten - Vakbonden - Consumentenorganisaties

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,001 --> 00:00:06,560
Hoi, welkom bij de derde en laatste aflevering van onze serie over AI agents.

2
00:00:06,560 --> 00:00:13,560
Je luistert naar AIToday Live, de Nederlandse talige podcast die je alles leert over de ontwikkelingen in kunstmatige intelligentie.

3
00:00:13,560 --> 00:00:16,400
Mijn naam is Joop Snijder, CTO bij Aigency.

4
00:00:16,400 --> 00:00:27,680
In de eerste aflevering hebben we kennis gemaakt met AI agents en zagen we hoe ze zich onderscheiden door hun vermogen om hun omgeving waar te nemen, autonoom te handelen en te leren.

5
00:00:28,620 --> 00:00:35,280
In deel 2 bespraken we hoe je zelf aan de slag kunt met AI agents en welke valkuilen je moet vermijden.

6
00:00:35,280 --> 00:00:44,360
Vandaag kijken we naar de toekomst. Hoe verandert AI de manier waarop we werken en hoe bereid je je organisatie daar nou op voor?

7
00:00:44,360 --> 00:00:51,620
Een van de belangrijkste ontwikkelingen voor die voorbereiding is de opkomst van Human Centered AI.

8
00:00:51,620 --> 00:00:55,740
Dit is een fundamenteel andere benadering dan dat we gewend zijn.

9
00:00:55,740 --> 00:01:05,160
In plaats van mensen te dwingen zich aan te passen aan technologie draait het om het ontwikkelen van AI systemen die aansluiten bij de menselijke behoeften en werkwijze.

10
00:01:05,160 --> 00:01:14,040
Denk aan een AI agent die je leert hoe je je werk aanpakt en zich daaraan aanpast in plaats van dat jij moet leren werken volgens de regels van de machine.

11
00:01:14,040 --> 00:01:19,940
Human Centered AI, mensgerichte AI gaat verder dan alleen gebruiksvriendelijke interfaces.

12
00:01:20,340 --> 00:01:26,980
Het betekent dat we al bij het ontwerp nadenken over hoe mensen en machine optimaal kunnen samenwerken.

13
00:01:26,980 --> 00:01:32,040
En hoe zorgen dat we de sterke punten van beide elkaar versterken.

14
00:01:32,040 --> 00:01:39,480
Mensen zijn bijvoorbeeld uitstekend in het begrijpen van context, het tonen van empathie en het maken juist van ethische afwegingen.

15
00:01:39,480 --> 00:01:47,100
En AI agents exceleren in het verwerken van groot hoeveelheden data en het uitvoeren van repetitieve taken.

16
00:01:47,340 --> 00:01:54,040
Door deze kwaliteiten slim te combineren creëer je een werkomgeving waar mens en machine elkaar versterken.

17
00:01:54,040 --> 00:01:59,840
De transitie naar AI agents begint met het creëren van een solide fundament.

18
00:01:59,840 --> 00:02:07,620
In plaats van direct agents te implementeren moeten organisaties eerst hun huis op orde brengen in drie belangrijke gebieden.

19
00:02:07,620 --> 00:02:09,700
Kennis, cultuur en governance.

20
00:02:10,340 --> 00:02:11,440
Laten we beginnen met die kennis.

21
00:02:11,440 --> 00:02:20,960
Het is essentieel dat verschillende lagen in de organisatie begrijpen wat AI agents zijn en wat ze kunnen betekenen.

22
00:02:20,960 --> 00:02:25,380
Het management moet inzicht hebben in de strategische kansen en risico's.

23
00:02:26,100 --> 00:02:32,120
ontwikkelaars en product owners moeten begrijpen hoe ze mensgerichte AI, human-centered AI kunnen ontwikkelen.

24
00:02:32,120 --> 00:02:36,460
Waarbij de technologie, zoals ik gezegd heb, zich aanpast aan de mensen en niet andersom.

25
00:02:37,740 --> 00:02:44,320
Daarnaast is specifieke kennis nodig over wet en regelgeving en met name de EU AI Act.

26
00:02:44,320 --> 00:02:50,600
Deze EU AI Act heeft grote impact op hoe we agents kunnen inzetten in organisaties.

27
00:02:50,600 --> 00:02:56,420
Maar in plaats van te verzanden in juridische details laat ik je zien wat het in de praktijk betekent.

28
00:02:56,420 --> 00:02:59,040
Want deze wet doet iets bijzonders.

29
00:02:59,040 --> 00:03:03,060
Ze kijkt niet alleen naar de technische kant van AI, maar juist ook naar de menselijke kant.

30
00:03:03,260 --> 00:03:11,760
Een mooi voorbeeld hiervan is dat de wet organisaties aanmoedigt om verder te kijken dan alleen de minimale vereisten.

31
00:03:11,760 --> 00:03:16,360
Zelfs als je AI systeem niet als hoog risico wordt gezien.

32
00:03:16,360 --> 00:03:25,060
Er zijn verschillende risicoklasses waarbij de hoog risico het meeste van je vraagt, maar ze moedigen dus aan om verder te kijken.

33
00:03:25,060 --> 00:03:27,940
En wat betekent dit concreet voor jouw organisatie?

34
00:03:27,940 --> 00:03:34,180
Ten eerste wordt er veel nadruk gelegd op het aanmoedigen van wat we AI geletterdheid noemen.

35
00:03:34,180 --> 00:03:39,520
Het is niet meer voldoende dat alleen je technische team begrijpt hoe AI werkt.

36
00:03:39,520 --> 00:03:45,580
Iedereen die ermee werkt moet snappen wat de impact is op hun werk en de samenleving.

37
00:03:45,580 --> 00:03:49,060
Ten tweede vraagt de wet om inclusief ontwerp.

38
00:03:49,060 --> 00:03:54,480
Simpel gezegd, je AI agents moeten voor iedereen bruikbaar zijn, ook voor mensen met een beperking.

39
00:03:54,700 --> 00:04:00,340
Het klinkt misschien logisch, maar het vraagt wel om een andere manier van denken bij het ontwerpen van AI systemen.

40
00:04:00,340 --> 00:04:04,380
En het derde punt dat ik interessant vind is de nadruk op diverse teams.

41
00:04:04,380 --> 00:04:11,040
De wet moedigt aan om teams samen te stellen met verschillende achtergronden en een goede genderbalans.

42
00:04:11,040 --> 00:04:14,060
De gedachte hierachter is simpel maar krachtig.

43
00:04:14,060 --> 00:04:19,480
Hoe diverser het team dat AI ontwikkelt, hoe beter het systeem aansluit bij verschillende gebruikers.

44
00:04:19,480 --> 00:04:25,960
En tot slot, misschien wel het belangrijkste punt, de wet stimuleert samenwerking met externe bedrijven.

45
00:04:25,960 --> 00:04:28,600
Partijen moet ik zeggen, sorry.

46
00:04:28,600 --> 00:04:33,400
Denk aan universiteiten, vakbonden, consumentenorganisaties.

47
00:04:33,400 --> 00:04:40,100
Hun perspectief kan helpen om AI systemen te maken die niet alleen technisch sterk zijn, maar ook maatschappelijk verantwoord.

48
00:04:40,640 --> 00:04:45,400
Al deze punten uit de wet sluiten perfect aan bij wat we in de praktijk zien.

49
00:04:45,400 --> 00:04:49,860
Succesvolle AI implementaties vragen om een fundamentele cultuurverandering.

50
00:04:49,860 --> 00:04:55,880
Het is geen toeval dat de EU AI Act aandringt op diversiteit en brede betrokkenheid.

51
00:04:55,880 --> 00:05:01,460
Dit zijn precies de elementen die een organisatie nodig heeft om AI op een mensgerichte manier in te zetten.

52
00:05:02,380 --> 00:05:10,060
De implementatie van AI agents vraagt daarom om een stimulering vanuit management waarbij ethiek en mensgerichtheid centraal staan.

53
00:05:10,060 --> 00:05:16,100
En je wilt niet alleen een AI strategie ontwikkelen die voldoet aan wettelijke vereisten,

54
00:05:16,100 --> 00:05:22,100
maar ook een ethisch kader creëren dat past bij de waarde van de organisatie.

55
00:05:22,800 --> 00:05:26,780
Voor grotere organisaties betekent dit bijvoorbeeld het instellen van een ethische commissie.

56
00:05:26,780 --> 00:05:32,700
Kleinere organisaties kunnen misschien volstaan met het aanwijzen van een specifieke verantwoordelijke.

57
00:05:32,700 --> 00:05:41,720
De komst van AI agents vraagt ook om nieuwe competenties en functies en rollen binnen je organisatie.

58
00:05:41,720 --> 00:05:46,080
Laat me je meenemen langs de belangrijkste veranderingen die we zien ontstaan.

59
00:05:46,600 --> 00:05:51,300
Voor ontwikkelaars, ontwerpers en product owners komt er een nieuwe essentiële competentie bij,

60
00:05:51,300 --> 00:05:55,120
zoals ik gezegd heb, wel de kennis over human-centered AI, mensgerichte AI.

61
00:05:55,120 --> 00:05:58,300
En dit gaat verder dan alleen die technische vaardigheden.

62
00:05:58,300 --> 00:06:02,160
Het betekent dat je kunt ontwerpen vanuit menselijke behoeften en waarden.

63
00:06:02,160 --> 00:06:07,560
Je moet kunnen begrijpen hoe mensen werken en denken en vervolgens de technologie daarop afstemmen.

64
00:06:07,560 --> 00:06:14,380
Het doel is om juist AI-systemen te maken die natuurlijk aanvoelen en mensen echt ondersteunen in hun werk.

65
00:06:15,380 --> 00:06:19,800
Management krijgt een cruciale rol in het vormgeven van een AI-cultuur.

66
00:06:19,800 --> 00:06:22,720
Dit vraagt om meer dan alleen strategisch inzicht.

67
00:06:22,720 --> 00:06:26,980
Managers moeten kunnen inschatten welke kansen AI biedt voor hun organisatie,

68
00:06:26,980 --> 00:06:28,820
maar ook de risico's kunnen overzien.

69
00:06:28,820 --> 00:06:34,220
Ze moeten een cultuur kunnen creëren waarin ethische overwegingen vanzelfsprekend zijn.

70
00:06:34,220 --> 00:06:41,220
Dan zijn er nog verschillende specialistische rollen die ontstaan.

71
00:06:41,220 --> 00:06:43,420
Je zou kunnen denken aan de prompt engineer.

72
00:06:44,120 --> 00:06:48,660
Die is daar een van. Een rol die het beste te vergelijken is met een tolk tussen de mens en machine.

73
00:06:48,660 --> 00:06:53,720
In de praktijk schrijft deze persoon bijvoorbeeld de instructies voor een klantenservice agent,

74
00:06:53,720 --> 00:06:58,660
waarbij ze precies moeten aangeven hoe de agent moet reageren op verschillende emoties van klanten,

75
00:06:58,660 --> 00:07:00,540
welke tone-of-voice past bij het bedrijf,

76
00:07:00,540 --> 00:07:03,560
aan wanneer een gesprek moet worden doorverbonden naar een mens.

77
00:07:03,560 --> 00:07:09,940
Een kritieke nieuwe rol is de AI operations specialist, heb ik hem maar even genoemd.

78
00:07:09,940 --> 00:07:17,140
En denk aan deze rol als een soort van AI-bewaker die continu monitort of agents nog optimaal functioneren.

79
00:07:17,140 --> 00:07:23,600
Bijvoorbeeld als een agent die facturen verwerkt opeens meer fouten maakt bij buitenlandse facturen,

80
00:07:23,600 --> 00:07:27,600
moet deze specialist kunnen achterhalen waarom dit gebeurt en het probleem oplossen.

81
00:07:27,600 --> 00:07:33,840
Of als een agent die e-mails categoriseert steeds meer berichten verkeerd indeelt,

82
00:07:33,840 --> 00:07:40,280
moet de specialist kunnen bepalen of dit komt door veranderende e-mail patronen of door een probleem in het systeem zelf.

83
00:07:40,780 --> 00:07:45,360
De AI-ethics officer is ook een cruciale nieuwe functie.

84
00:07:45,360 --> 00:07:52,680
Deze persoon of instantie zorgt ervoor dat AI-agents eerlijk en verantwoord worden ingezet.

85
00:07:52,680 --> 00:07:58,840
Een concreet voorbeeld, als een recruitment team een AI-agent wil gebruiken om cv's te screenen,

86
00:07:58,840 --> 00:08:03,060
zorgt de ethics officer ervoor dat dit gebeurt zonder onbedoelde discriminatie.

87
00:08:03,240 --> 00:08:08,780
Of als een marketing team een AI-agent wil inzetten voor persoonlijke aanbevelingen,

88
00:08:08,780 --> 00:08:11,440
bewaakt deze persoon de privacy van klanten.

89
00:08:11,440 --> 00:08:16,280
En dan hebben we nog de, wat ik noemde, AI-champions binnen teams.

90
00:08:16,280 --> 00:08:20,040
Dit zijn mensen die extra kennis ontwikkelen over AI-agents

91
00:08:20,040 --> 00:08:23,500
en fungeren als een brug tussen technologie en dagelijks gebruik.

92
00:08:23,500 --> 00:08:27,440
Denk aan een ervaren klantenservice medewerker die collega's helpt

93
00:08:27,440 --> 00:08:30,440
om effectief samen te werken met een AI-agent.

94
00:08:30,440 --> 00:08:35,660
Of een financieel medewerker die nieuwe mogelijkheden ziet om routine taken te automatiseren

95
00:08:35,660 --> 00:08:39,040
en dit juist kan vertalen naar concrete verbeteren voorstellen.

96
00:08:39,040 --> 00:08:45,140
De AI-champions kunnen ook andere teams enthousiasmeren en tips en trucs delen met ze.

97
00:08:45,140 --> 00:08:51,040
Het bijzondere aan al deze nieuwe functies is dat ze vragen om een combinatie van technische kennis

98
00:08:51,040 --> 00:08:52,940
en menselijke vaardigheden.

99
00:08:52,940 --> 00:08:56,380
De prompt engineer moet niet alleen goed kunnen programmeren,

100
00:08:56,380 --> 00:08:58,580
maar ook uitstekend kunnen communiceren.

101
00:08:59,360 --> 00:09:04,580
De AI-operation specialist moet niet alleen data kunnen analyseren,

102
00:09:04,580 --> 00:09:07,580
maar ook begrijpen hoe mensen in de praktijk met agents werken.

103
00:09:07,580 --> 00:09:11,420
De AI-champions moeten niet alleen de technologie snappen,

104
00:09:11,420 --> 00:09:14,580
maar ook hun collega's kunnen enthousiasmeren en ondersteunen.

105
00:09:15,580 --> 00:09:20,800
Je moet de transitie naar AI-agents zien als een reis en niet als een eindbestemming.

106
00:09:20,800 --> 00:09:25,000
Het begint met een pilot waarin je kunt experimenteren en leren.

107
00:09:25,000 --> 00:09:32,300
Een goede aanpak is om te starten met een niet-kritisch proces waar wel duidelijke verbeterkansen liggen.

108
00:09:32,300 --> 00:09:39,020
Bijvoorbeeld het automatiseren van eenvoudige administratieve taken of het ondersteunen van interne kennisdeling.

109
00:09:39,640 --> 00:09:43,860
De sleutel tot succes ligt in het creëren van vroege succesverhalen.

110
00:09:43,860 --> 00:09:48,840
Als mensen zien hoe een AI-agent hun dagelijkse werk makkelijker maakt,

111
00:09:48,840 --> 00:09:52,640
verdwijnt ook van nature de angst voor vervanging van zichzelf.

112
00:09:52,640 --> 00:09:58,820
En neem bijvoorbeeld een team dat elke week uren kwijt is aan het verzamelen en analyseren van data van rapportages.

113
00:09:59,360 --> 00:10:02,420
Als een AI-agent dit werk reduceert van uren naar minuten,

114
00:10:02,420 --> 00:10:07,460
kunnen teamleden zich richten op het juist het interpreteren van de data en het bedenken van verbeteringen.

115
00:10:07,460 --> 00:10:13,080
Maar let op, het is cruciaal om mensen actief te betrekken bij de ontwikkeling en implementatie.

116
00:10:13,080 --> 00:10:18,360
Zij zijn de experts in hun vakgebied en weten als geen ander waar de echte uitdagingen liggen.

117
00:10:18,360 --> 00:10:23,040
Dus laat teams meedenken over hoe AI-agents hun werk kunnen ondersteunen.

118
00:10:23,040 --> 00:10:26,420
Vaak komen ze zelf met de beste ideeën voor toepassingen.

119
00:10:26,580 --> 00:10:29,840
Het doel is niet om processen volledig te automatiseren,

120
00:10:29,840 --> 00:10:33,420
maar om mens en machine optimaal te laten samenwerken.

121
00:10:33,420 --> 00:10:39,320
Nog een voorbeeld is het verwerken van interne documenten en rapportages.

122
00:10:39,320 --> 00:10:42,840
Een AI-agent kan de eerste analyse doen van documenten,

123
00:10:42,840 --> 00:10:46,720
relevante informatie markeren en verbanden leggen tussen verschillende bronnen,

124
00:10:46,720 --> 00:10:50,800
zodat medewerkers zich kunnen concentreren op het interpreteren van de resultaten

125
00:10:50,800 --> 00:10:52,620
en het maken van strategische beslissingen.

126
00:10:52,900 --> 00:10:57,500
De machine versterkt zo het menselijke oordeelsvermogen in plaats van het te vervangen.

127
00:10:57,500 --> 00:11:01,960
Deze mens-machine samenwerking vraagt een continue afstemming.

128
00:11:01,960 --> 00:11:06,420
Technologie moet worden aangepast aan hoe mensen werken, niet andersom.

129
00:11:06,420 --> 00:11:08,100
Ik kan het niet vaak genoeg herhalen.

130
00:11:08,940 --> 00:11:12,760
Dit betekent investeren in gebruiksvriendelijke interfaces,

131
00:11:12,760 --> 00:11:17,600
duidelijke feedbackmechanismen en transparante besluitvorming van de agents.

132
00:11:18,180 --> 00:11:21,180
Uiteindelijk gaat het om het vinden van de juiste balans.

133
00:11:21,180 --> 00:11:26,260
AI-agents zijn er om mensen te ondersteunen, niet om ze te vervangen.

134
00:11:26,260 --> 00:11:31,960
Ze nemen het repetitieve werk over, zodat mensen zich kunnen focussen op waar ze goed in zijn,

135
00:11:31,960 --> 00:11:36,980
creatief denken, problemen oplossen en betekenisvolle interacties met anderen aangaan.

136
00:11:36,980 --> 00:11:43,120
En daarmee komen we bij het einde van deze driedelige serie over AI-agents.

137
00:11:43,240 --> 00:11:47,840
We zijn samen op reis gegaan door de, laten we het toch maar even zo noemen,

138
00:11:47,840 --> 00:11:49,240
de wereld van AI-agents.

139
00:11:49,240 --> 00:11:52,060
En wat hebben we veel geleerd?

140
00:11:52,060 --> 00:11:56,020
In deel 1 ontdekten we de essentie van AI-agents,

141
00:11:56,020 --> 00:12:00,500
systemen die hun omgeving waarnemen, zelfstandig handelen en leren van hun ervaringen.

142
00:12:00,500 --> 00:12:04,660
We zagen hoe ze fundamenteel verschillen van traditionele software door hun vermogen

143
00:12:04,660 --> 00:12:07,180
om zich aan te passen aan nieuwe situaties.

144
00:12:07,180 --> 00:12:09,380
In deel 2 doken we in de praktijk.

145
00:12:09,380 --> 00:12:14,180
We leerden dat succesvolle implementatie begint bij het begrijpen van je hele bedrijfsproces

146
00:12:14,180 --> 00:12:15,600
en niet alleen losse onderdelen.

147
00:12:15,600 --> 00:12:19,420
We zagen dat de mens centraal moet staan bij elke AI-toepassing

148
00:12:19,420 --> 00:12:23,060
en dat een pilot alleen kan slagen als je gebruikers vanaf dag 1 betrekt.

149
00:12:23,060 --> 00:12:26,780
En vandaag in ons laatste deel hebben we vooruitgekeken naar een toekomst

150
00:12:26,780 --> 00:12:28,780
waarin mensen en machines steeds meer samenwerken.

151
00:12:28,780 --> 00:12:32,920
En we zagen dat deze toekomst vraagt om nieuwe rollen, nieuwe competenties

152
00:12:32,920 --> 00:12:35,980
en vooral een nieuwe manier van denken over werk.

153
00:12:35,980 --> 00:12:41,740
De EU AI Act onderstreept dit door niet alleen te kijken naar wat technisch mogelijk is,

154
00:12:41,740 --> 00:12:44,500
maar vooral naar wat menselijk wenselijk is.

155
00:12:44,500 --> 00:12:49,720
En de rode draad de hele serie is hopelijk glashelder.

156
00:12:49,720 --> 00:12:53,340
De toekomst van werk draait niet om het vervangen van mensen door machines,

157
00:12:53,340 --> 00:12:59,020
maar om het creëren van betekenisvolle samenwerkingen tussen mensen en machines.

158
00:12:59,520 --> 00:13:05,180
En organisaties die nu al experimenteren met deze mensgerichte benadering van AI

159
00:13:05,180 --> 00:13:06,740
zullen straks voorop lopen.

160
00:13:06,740 --> 00:13:09,980
Wat neem je mee in deze serie?

161
00:13:09,980 --> 00:13:12,460
Ik hoop drie cruciale inzichten.

162
00:13:12,460 --> 00:13:15,080
1. Begin met de mens, niet met de technologie.

163
00:13:15,080 --> 00:13:18,820
2. Investeer in kennis, cultuur en governance.

164
00:13:18,820 --> 00:13:23,800
3. Zie AI niet als eindpunt, maar als een reis van continue verbetering.

165
00:13:24,120 --> 00:13:26,320
Want uiteindelijk gaat het niet om de technologie zelf,

166
00:13:26,320 --> 00:13:29,920
maar hoe we deze inzetten om werk betekenisvoller te maken voor iedereen.

167
00:13:29,920 --> 00:13:32,900
Vond je deze serie interessant?

168
00:13:32,900 --> 00:13:35,260
Deel hem dan eens met je collega's en connecties.

169
00:13:35,260 --> 00:13:39,100
Want hoe meer we van elkaar leren over de implementatie van AI Agents,

170
00:13:39,100 --> 00:13:43,200
hoe beter we deze technologie kunnen inzetten binnen ons werk.

171
00:13:43,200 --> 00:13:45,200
Dit was AIToday live.

172
00:13:45,200 --> 00:13:46,680
Bedankt voor het luisteren.

173
00:13:46,680 --> 00:13:47,700
Tot de volgende keer.

174
00:13:47,780 --> 00:14:17,760
[Muziek]