S06E80 - De kunst van prompt engineering: tips van Claude en Advanced Voice

In deze aflevering van AIToday Live is de gast een expert op het gebied van promptengineering. Het gesprek richt zich op het belang van het iteratief verbeteren van prompts om de prestaties van taalmodellen zoals GPT te optimaliseren.

Er worden praktische tips gedeeld over hoe je duidelijke en specifieke prompts kunt formuleren, en hoe je variabelen kunt gebruiken om de efficiëntie te verhogen. Ook worden veelvoorkomende valkuilen besproken die je kunt vermijden tijdens het proces.

Deze inzichten helpen je om effectiever te werken met AI en betere resultaten te behalen. 

Links

• Podcast: AIToday Live podcast
• Website: Advanced Voice van OpenAI
• Kaartspel: AI Game Changer - Generative AI editie

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,001 --> 00:00:08,600
Hi, leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live, de korte aflevering.

2
00:00:08,600 --> 00:00:11,600
Mijn naam is Joop Snijder, CTO bij Aigency.

3
00:00:11,600 --> 00:00:14,880
Ik moest een keuze maken voor deze aflevering.

4
00:00:14,880 --> 00:00:24,000
Want aan de ene kant heeft het team van Anthropic, Claude, hele goede tips gedeeld in een YouTube

5
00:00:24,000 --> 00:00:25,800
film over promptengineering.

6
00:00:25,800 --> 00:00:33,400
Maar aan de andere kant hebben we op dit moment toegang bij OpenAI tot wat genoemd wordt Advanced

7
00:00:33,400 --> 00:00:34,400
Voice.

8
00:00:34,400 --> 00:00:40,360
Ik heb gekozen voor, laten we zeggen, een combinatie van beide.

9
00:00:40,360 --> 00:00:49,160
Een van de belangrijkste tips namelijk, uit dat Claude team, was dat je om goed promptengineering

10
00:00:49,160 --> 00:00:53,000
te doen, dat je iteratief je prompt gaat verbeteren.

11
00:00:53,000 --> 00:00:55,560
En wat betekent dat nou?

12
00:00:55,560 --> 00:00:57,280
Dat hoor je in deze aflevering.

13
00:00:57,280 --> 00:01:06,080
En ik heb bedacht, hoe leuk zou het nou zijn als je de stem hoort van Advanced Voice, van

14
00:01:06,080 --> 00:01:07,080
OpenAI.

15
00:01:07,080 --> 00:01:14,680
Dus je kan nu in de app, op het website, mits je een betaald account hebt, kan je daadwerkelijk

16
00:01:14,680 --> 00:01:18,400
een conversatie voeren in natuurlijke taal.

17
00:01:18,400 --> 00:01:19,920
Krijg je het ook gesproken terug.

18
00:01:19,920 --> 00:01:23,120
En hoe dat dan klinkt, dat ga ik je laten horen.

19
00:01:23,120 --> 00:01:32,680
Dus ik doe een interview met de Advanced Voice van OpenAI over het belang van iteratief

20
00:01:32,680 --> 00:01:35,040
ontwikkelen van je prompts.

21
00:01:35,040 --> 00:01:40,320
En dit gesprek heeft in real-time plaatsgevonden voor deze opname.

22
00:01:40,320 --> 00:01:45,520
Het leuke is, je kan zelf stemmen kiezen.

23
00:01:45,520 --> 00:01:48,800
Ik heb een van de Nederlandse stemmen gekozen.

24
00:01:48,800 --> 00:01:53,800
Maar er zijn mannenstemmen, vrouwenstemmen, kijk wat het beste bij je past.

25
00:01:53,800 --> 00:02:00,840
Je gaat nu horen het gesprek wat ik heb gevoerd over iteratief promptengineering.

26
00:02:00,840 --> 00:02:08,040
Kun je mij vertellen wat promptengineering is en hoe belangrijk het is dat je dit iteratief

27
00:02:08,040 --> 00:02:09,040
aanpakt?

28
00:02:09,040 --> 00:02:10,040
Natuurlijk.

29
00:02:10,040 --> 00:02:16,920
Promptengineering is het proces van het ontwerpen en aanpassen van invoeropdrachten om de uitvoer

30
00:02:16,920 --> 00:02:19,920
van taalmodellen, zoals GPT, te sturen.

31
00:02:19,920 --> 00:02:25,480
Denk hierbij aan het formuleren van vragen of opdrachten op een manier die het model aanspoort

32
00:02:25,480 --> 00:02:28,200
om nuttige en relevante antwoorden te geven.

33
00:02:28,200 --> 00:02:34,440
Het iteratief aanpakken van promptengineering is belangrijk omdat het helpt om de reacties

34
00:02:34,440 --> 00:02:35,880
van het model te verfijnen.

35
00:02:35,880 --> 00:02:42,080
Door steeds opnieuw de prompt aan te passen en de resultaten te evalueren, kun je de prestaties

36
00:02:42,080 --> 00:02:47,640
van het model optimaliseren en de meest effectieve, den bruikbare antwoorden verkrijgen.

37
00:02:47,640 --> 00:02:53,120
Is er een manier dat het taalmodel je erbij kan helpen in dit iteratieve proces?

38
00:02:53,120 --> 00:02:54,120
Zeker.

39
00:02:54,120 --> 00:02:59,080
Het taalmodel kan een waardevolle partner zijn in het iteratieve proces van promptengineering.

40
00:02:59,080 --> 00:03:01,760
Hier zijn een paar manieren waarop het kan helpen.

41
00:03:01,760 --> 00:03:02,760
1.

42
00:03:02,760 --> 00:03:04,760
Feedback op prompts.

43
00:03:04,760 --> 00:03:10,680
Je kunt het model vragen om feedback te geven op je prompts en suggesties voor verbeteringen.

44
00:03:10,680 --> 00:03:13,520
Dit kan je helpen om effectievere prompts te maken.

45
00:03:13,520 --> 00:03:14,520
2.

46
00:03:14,520 --> 00:03:16,640
Verschillende formuleringen testen.

47
00:03:16,640 --> 00:03:21,720
Door verschillende versies van een prompt aan het model voor te leggen, kun je zien

48
00:03:21,720 --> 00:03:24,480
welke formuleringen de beste resultaten opleveren.

49
00:03:24,480 --> 00:03:25,480
3.

50
00:03:25,480 --> 00:03:27,600
Amaliseren van output.

51
00:03:27,600 --> 00:03:33,960
Het model kan helpen om de gegenereerde output te analiseren en te verklaren waarom bepaalde

52
00:03:33,960 --> 00:03:36,000
prompts beter werken dan andere.

53
00:03:36,000 --> 00:03:37,000
4.

54
00:03:37,000 --> 00:03:38,600
Voorbeelden geven.

55
00:03:38,600 --> 00:03:44,800
Het model kan voorbeelden genereren van hoe een prompt kan worden verbeterd of aangepast

56
00:03:44,800 --> 00:03:47,040
om betere resultaten te krijgen.

57
00:03:47,040 --> 00:03:53,120
Door deze interactie met het model kun je je prompts steeds verder verfijnen en optimaliseren.

58
00:03:53,120 --> 00:04:00,360
Als ik de API gebruik, de programmeerinterface, kan ik natuurlijk ook settings aangeven bij

59
00:04:00,360 --> 00:04:02,320
het aansturen van het taalmodel.

60
00:04:02,320 --> 00:04:04,400
Iets als bijvoorbeeld de temperatuur.

61
00:04:04,400 --> 00:04:06,400
Helpt dat?

62
00:04:06,400 --> 00:04:08,160
Ja, dat klopt.

63
00:04:08,160 --> 00:04:13,840
Bij het werken met de API kun je verschillende instellingen aanpassen, waaronder de temperatuur.

64
00:04:13,840 --> 00:04:19,480
De temperatuurinstelling bepaalt hoe creatief of conservatief het model reageert.

65
00:04:19,480 --> 00:04:21,600
Hier zijn een paar details.

66
00:04:21,600 --> 00:04:25,000
Lage temperatuur, bijvoorbeeld 0,2.

67
00:04:25,000 --> 00:04:29,520
Het model zou voorspelbaardere en consistentere antwoorden geven.

68
00:04:29,520 --> 00:04:32,040
Het kiest meer voor de zekere woorden.

69
00:04:32,040 --> 00:04:36,600
Dit is handig als je nauwkeurigheid boven creativiteit waardeert.

70
00:04:36,600 --> 00:04:38,600
Ja, precies.

71
00:04:38,600 --> 00:04:42,600
Dat hebben we al eens een keer in een eerdere aflevering behandeld.

72
00:04:42,600 --> 00:04:45,280
Dus ik heb eigenlijk een andere vraag.

73
00:04:45,280 --> 00:04:50,880
Want bij dat iteratief hiermee bezig gaan, kan je dus ook deze instellingen klein beetje

74
00:04:50,880 --> 00:04:53,040
gaan aanpassen, toch?

75
00:04:53,040 --> 00:04:54,040
Exact.

76
00:04:54,040 --> 00:04:59,920
Tijdens het iteratieve proces kun je experimenteren met verschillende instellingen, zoals de temperatuur,

77
00:04:59,920 --> 00:05:02,120
om te zien hoe ze de output beïnvloeden.

78
00:05:02,120 --> 00:05:08,040
Door kleine aanpassingen te maken kun je ontdekken welke instellingen de meest gewenste resultaten

79
00:05:08,040 --> 00:05:10,720
opleveren voor jouw specifieke toepassing.

80
00:05:10,720 --> 00:05:16,400
Dit helpt je om een balans te vinden tussen voorspelbaarheid en creativiteit in de antwoorden

81
00:05:16,400 --> 00:05:17,400
van het model.

82
00:05:17,400 --> 00:05:18,920
Dat is best een goede tip.

83
00:05:18,920 --> 00:05:24,440
Maar wat zijn nou eigenlijk de drie belangrijkste tips voor het automatiseren van processen

84
00:05:24,440 --> 00:05:25,440
met prompt?

85
00:05:25,440 --> 00:05:29,520
Dus ik wil dit eigenlijk gebruiken in een geautomatiseerd proces voor het optimaliseren

86
00:05:29,520 --> 00:05:30,680
van mijn businessproces.

87
00:05:30,680 --> 00:05:37,000
Bij het automatiseren van processen met prompts zijn er drie belangrijke tips om in gedachten

88
00:05:37,000 --> 00:05:38,000
te houden.

89
00:05:38,000 --> 00:05:39,000
1.

90
00:05:39,000 --> 00:05:41,520
Duidelijke en specifieke prompts.

91
00:05:41,520 --> 00:05:45,280
Zorg dat je prompts helder en specifiek zijn.

92
00:05:45,280 --> 00:05:49,400
Vaagheid kan leiden tot inconsistente of ongewenste resultaten.

93
00:05:49,400 --> 00:05:53,920
Het is belangrijk om duidelijk te communiceren wat je van het model verwacht.

94
00:05:53,920 --> 00:05:54,920
2.

95
00:05:54,920 --> 00:05:57,160
Iteratief verbeteren.

96
00:05:57,160 --> 00:06:00,720
Automatisering met taalmodellen is een leerproces.

97
00:06:00,720 --> 00:06:04,080
Test je prompts en analyseer de output.

98
00:06:04,080 --> 00:06:10,760
Gebruik deze inzichten om je prompts te verfijnen en te verbeteren voor nauwkeurigere en betrouwbaardere

99
00:06:10,760 --> 00:06:11,760
resultaten.

100
00:06:11,760 --> 00:06:12,760
3.

101
00:06:12,760 --> 00:06:13,760
Gebruik van variabelen.

102
00:06:13,760 --> 00:06:20,400
Maak gebruik van variabelen in je prompts om hergebruik en aanpasbaarheid te vergemakkelijken.

103
00:06:20,400 --> 00:06:26,200
Dit stelt je in staat om dezelfde prompt te gebruiken voor verschillende situaties, wat

104
00:06:26,200 --> 00:06:30,680
tijd bespaart en consistentie in je geautomatiseerde proces bevordert.

105
00:06:30,680 --> 00:06:37,840
Het verschil tussen goed gespecificeerde en vaag gespecificeerde prompts is een ding.

106
00:06:37,840 --> 00:06:47,120
Kan je een voorbeeld geven van eerst een prompt die blijkbaar te vaag is en dan een verbeterde

107
00:06:47,120 --> 00:06:50,880
slag van hoe het er dan wel uit zou kunnen zien?

108
00:06:50,880 --> 00:06:51,880
Natuurlijk.

109
00:06:51,880 --> 00:06:54,000
Laten we eens kijken naar een voorbeeld.

110
00:06:54,000 --> 00:06:56,280
Te vage prompt.

111
00:06:56,280 --> 00:06:58,760
Vertel me iets over bomen.

112
00:06:58,760 --> 00:07:03,480
Deze prompt is vrij breed en laat veel ruimte voor interpretatie.

113
00:07:03,480 --> 00:07:11,080
Het model zou kunnen praten over soorten bomen, hun biologie, symboliek of andere aspecten,

114
00:07:11,080 --> 00:07:13,840
maar het is onduidelijk wat je precies wilt meten.

115
00:07:13,840 --> 00:07:19,960
Kun je me vertellen over de rol van bomen in het ecosysteem, met de focus op hoe ze zuurstof

116
00:07:19,960 --> 00:07:20,960
produceren?

117
00:07:20,960 --> 00:07:26,360
Deze versie is veel specifieker en geeft het model een duidelijkere richting.

118
00:07:26,360 --> 00:07:32,000
Het weet nu dat het zich moet richten op de ecologische rol van bomen en specifiek op

119
00:07:32,000 --> 00:07:33,080
zuurstofproductie.

120
00:07:33,080 --> 00:07:39,160
Duidelijk, maar ik heb toch nog wat vragen over de prompt engineering.

121
00:07:39,160 --> 00:07:45,080
Wat zijn nou de drie belangrijkste dingen die je juist niet moet doen bij prompt engineering?

122
00:07:45,080 --> 00:07:46,440
Goeie vraag.

123
00:07:46,440 --> 00:07:50,440
Bij prompt engineering zijn er ook valkuilen die je wilt vermijden.

124
00:07:50,440 --> 00:07:54,480
Hier zijn drie belangrijke dingen die je niet moet doen.

125
00:07:54,480 --> 00:07:56,040
Te vage prompts.

126
00:07:56,040 --> 00:08:02,360
Het geven van algemene of onduidelijke prompts dan leidt tot inconsistente of irrelevante

127
00:08:02,360 --> 00:08:03,360
antwoorden.

128
00:08:03,360 --> 00:08:07,080
Ja, die heb je net al genoemd bij de tips om het wel te doen.

129
00:08:07,080 --> 00:08:12,760
Maar wat zijn nou echt dingen die je absoluut niet moet doen?

130
00:08:12,760 --> 00:08:13,760
A.

131
00:08:13,760 --> 00:08:14,760
Begrepen.

132
00:08:14,760 --> 00:08:18,480
Hier zijn drie specifieke don'ts bij prompt engineering.

133
00:08:18,480 --> 00:08:19,480
2.

134
00:08:19,480 --> 00:08:21,000
Dubbelzinnigheid introduceren.

135
00:08:21,000 --> 00:08:27,560
Vermijd het gebruik van dubbelzinnige taal of vragen die op verschillende manieren geïnterpreteerd

136
00:08:27,560 --> 00:08:28,560
kunnen worden.

137
00:08:28,560 --> 00:08:32,720
Dit kan verwarring veroorzaken en tot ongewenste antwoorden leiden.

138
00:08:32,720 --> 00:08:33,720
3.

139
00:08:33,720 --> 00:08:36,440
Overladen met informatie.

140
00:08:36,440 --> 00:08:43,320
Het geven van te veel informatie of te lange prompts kan het model overweldigen en de relevantie

141
00:08:43,320 --> 00:08:44,840
van de antwoorden verminderen.

142
00:08:44,840 --> 00:08:48,320
Laten we even op dat laatste punt even doorgaan.

143
00:08:48,320 --> 00:08:51,480
Want uiteindelijk willen we veel informatie geven.

144
00:08:51,480 --> 00:08:55,960
Waarom kun je een taalmodel dan overweldigen met te veel context?

145
00:08:55,960 --> 00:09:02,040
Een te grote hoeveelheid context kan het taalmodel overweldigen om een paar redenen.

146
00:09:02,040 --> 00:09:03,040
1.

147
00:09:03,040 --> 00:09:04,360
Verlies van focus.

148
00:09:04,360 --> 00:09:10,000
Als er te veel informatie in de prompt staat, kan het model moeite hebben om te bepalen wat

149
00:09:10,000 --> 00:09:11,440
het belangrijkste is.

150
00:09:11,440 --> 00:09:17,520
Hierdoor kan het afdwalen van het hoofdonderwerp en minder relevante of off-topic antwoorden

151
00:09:17,520 --> 00:09:18,520
geven.

152
00:09:18,520 --> 00:09:19,520
2.

153
00:09:19,520 --> 00:09:20,520
Beperkte geheugenruimte.

154
00:09:20,520 --> 00:09:25,640
Het model heeft een gelimiteerde contextlengte die het in één keer kan verwerken.

155
00:09:25,640 --> 00:09:31,680
Als je prompt te lang is, wordt een deel van de informatie mogelijk afgeknipt, wat invloed

156
00:09:31,680 --> 00:09:33,880
kan hebben op de kwaliteit van de output.

157
00:09:33,880 --> 00:09:34,880
3.

158
00:09:34,880 --> 00:09:37,080
Verhoogde complexiteit.

159
00:09:37,080 --> 00:09:43,200
Te veel context kan de taak complexer maken voor het model, waardoor het moeilijker wordt

160
00:09:43,200 --> 00:09:46,560
om een coherent en accuraat antwoord te genereren.

161
00:09:46,560 --> 00:09:51,680
Het is daarom belangrijk om de juiste balans te vinden tussen het geven van voldoende

162
00:09:51,680 --> 00:09:56,080
context en het vermijden van overbelasting van het model.

163
00:09:56,080 --> 00:10:00,880
Ik kan me voorstellen dat het best wel een hele lastige vaardigheid is om die balans

164
00:10:00,880 --> 00:10:01,880
te vinden.

165
00:10:01,880 --> 00:10:04,480
Wat zouden we daarin kunnen doen?

166
00:10:04,480 --> 00:10:08,520
Ja, het vinden van de juiste balans kan een uitdaging zijn.

167
00:10:08,520 --> 00:10:13,040
Maar er zijn strategieën die je kunt gebruiken om deze vaardigheid te ontwikkelen.

168
00:10:13,040 --> 00:10:14,040
1.

169
00:10:14,040 --> 00:10:15,040
Experimenteren.

170
00:10:15,040 --> 00:10:21,480
Probeer verschillende hoeveelheden context in je prompts en analyseer hoe het model reageert.

171
00:10:21,480 --> 00:10:26,800
Door trial and error leer je wat voor jouw specifieke toepassing het beste werkt.

172
00:10:26,800 --> 00:10:27,800
2.

173
00:10:27,800 --> 00:10:28,800
Iteratieve aanpak.

174
00:10:28,800 --> 00:10:36,720
Begin met een basisprompt en voeg geleidelijk meer context toe, waarbij je telkens de reacties

175
00:10:36,720 --> 00:10:38,160
van het model evalueert.

176
00:10:38,160 --> 00:10:44,000
Zo kun je de impact van elke extra hoeveelheid informatie beter inschatten.

177
00:10:44,000 --> 00:10:45,000
3.

178
00:10:45,000 --> 00:10:47,000
Feedback van anderen.

179
00:10:47,000 --> 00:10:52,040
Vraag collega's of andere experts op je prompts en de output.

180
00:10:52,040 --> 00:10:56,320
Zij kunnen je nieuwe inzichten geven en je helpen om je aanpak te verbeteren.

181
00:10:56,320 --> 00:10:57,320
4.

182
00:10:57,320 --> 00:10:59,320
Gebruik van richtlijnen.

183
00:10:59,320 --> 00:11:05,120
Er zijn richtlijnen en best practices voor promptengineering beschikbaar die je kunt

184
00:11:05,120 --> 00:11:10,040
raadplegen om beter inzicht te krijgen in hoe je effectieve prompts opstelt.

185
00:11:10,040 --> 00:11:16,520
Door te oefenen en deze strategieën toe te passen, kun je je vaardigheden in promptengineering

186
00:11:16,520 --> 00:11:17,960
geleidelijk verbeteren.

187
00:11:17,960 --> 00:11:18,960
Oh mooi!

188
00:11:18,960 --> 00:11:24,040
Zou je nog iets willen toevoegen wat belangrijk is wat we besproken hebben vandaag?

189
00:11:24,040 --> 00:11:27,440
We hebben veel besproken over promptengineering vandaag.

190
00:11:27,440 --> 00:11:32,080
Om het samen te vatten, wees duidelijk en specifiek in je prompts.

191
00:11:32,080 --> 00:11:35,440
Experimenteer en iterateer om te leren wat werkt.

192
00:11:35,440 --> 00:11:39,440
En vermijd het over belasten van het model met te veel informatie.

193
00:11:39,440 --> 00:11:44,760
Promptengineering is een vaardigheid die je kunt verbeteren met oefening en geduld.

194
00:11:44,760 --> 00:11:47,960
Blijf nieuwsgierig en sta open voor leren.

195
00:11:47,960 --> 00:11:52,120
En je zult zien dat je steeds beter wordt in het sturen van taalmodellen.

196
00:11:52,120 --> 00:11:53,120
Super!

197
00:11:53,120 --> 00:11:58,840
Ik denk dat we best wel een heel goed beeld hebben gekregen van hoe er gesproken wordt.

198
00:11:58,840 --> 00:12:02,320
Je ziet ook dat je antwoorden kan interrumperen.

199
00:12:02,320 --> 00:12:06,040
Dat je het model kan vragen om specifieker te zijn.

200
00:12:06,040 --> 00:12:14,240
Ik vond het ontzettend leuk en leerzaam om zo met Advanced Voice even dingen uit te proberen.

201
00:12:14,240 --> 00:12:16,440
Ik zou zeggen, ga het ook uitproberen.

202
00:12:16,440 --> 00:12:21,520
Bedenk wel, de antwoorden die gegeven zijn heb ik uiteraard wel gecontroleerd en het

203
00:12:21,520 --> 00:12:24,000
klopt wat gezegd is.

204
00:12:24,000 --> 00:12:31,000
En blijf luisteren want in een volgende aflevering ga ik het hebben over alle tips die het Claw

205
00:12:31,000 --> 00:12:32,800
Team uiteindelijk gegeven heeft.

206
00:12:32,800 --> 00:12:35,480
Dank je wel weer voor het luisteren.

207
00:12:35,480 --> 00:12:40,360
Vergeet je niet te abonneren voor je je favoriete podcast te hebben, want dan mis je ook geen

208
00:12:40,360 --> 00:12:40,860
aflevering.

209
00:12:40,860 --> 00:12:42,860
Tot de volgende!

210
00:12:42,860 --> 00:12:44,860
[Muziek]