1
00:00:00,000 --> 00:00:07,960
Hoi, leuk dat je weer luistert naar een nieuwe aflevering van de AIToday Live.
2
00:00:07,960 --> 00:00:11,640
Dit keer weer de korte aflevering.
3
00:00:11,640 --> 00:00:18,160
Normaal gesproken geef ik je in de korte aflevering van de show mijn visie op een onderwerp of
4
00:00:18,160 --> 00:00:22,480
leg ik je de werking uit van bepaalde onderdelen van AI.
5
00:00:22,480 --> 00:00:27,720
Deze aflevering is anders en wil ik je juist wat vragen.
6
00:00:27,720 --> 00:00:31,560
Ik heb namelijk je hulp nodig en ik ga je uitleggen waarvoor.
7
00:00:31,560 --> 00:00:38,160
Deze week ben ik op een conferentie in Londen en daar wordt veel gesproken over, hoe kan
8
00:00:38,160 --> 00:00:40,760
het ook anders, generatieve AI.
9
00:00:40,760 --> 00:00:47,280
En niet alleen hier, maar vaker op podia wordt gesproken over hoe AI en generatieve
10
00:00:47,280 --> 00:00:55,360
AI in het bijzonder kan helpen bij het verminderen van CO2 emissies en hoe het kan helpen bij
11
00:00:55,360 --> 00:00:57,360
zogenaamde groene initiatieven.
12
00:00:57,360 --> 00:01:03,960
En al snel worden Large Language Models genoemd, met modellen onder ChatGPT en Google's
13
00:01:03,960 --> 00:01:04,960
Gemini.
14
00:01:04,960 --> 00:01:09,080
Maar dat is paradoxaal.
15
00:01:09,080 --> 00:01:12,640
Want het trainen van deze modellen kost zoveel energie.
16
00:01:12,640 --> 00:01:18,280
Dat is misschien wel gelijk aan de energieconsumptie van honderdduizenden huishoudens.
17
00:01:18,280 --> 00:01:26,320
En de hoeveelheid water die hiervoor nodig is voor de koeling reken ik nog niet eens
18
00:01:26,320 --> 00:01:27,320
mee.
19
00:01:27,320 --> 00:01:33,040
Toch komt er wel meer aandacht voor Green AI.
20
00:01:33,040 --> 00:01:38,960
En dat is ook wel nodig, want niet alleen het trainen van deze modellen kost veel geld.
21
00:01:38,960 --> 00:01:46,880
Iedere vraag die jij en ik stellen aan ChatGPT is best wel duur in energieverbruik.
22
00:01:46,880 --> 00:01:54,880
De energiekosten voor het gebruik van ChatGPT wordt zo geschat op 0,003 kWh.
23
00:01:54,880 --> 00:02:00,320
Nou zou je denken, wat is nou 0,003 kWh?
24
00:02:00,320 --> 00:02:01,920
Dat lijkt niet veel.
25
00:02:01,920 --> 00:02:07,400
Maar om wat gevoel te krijgen bij hoeveel dat is, dat is net zoveel als de energie van
26
00:02:07,400 --> 00:02:13,480
een magnetron die 12 seconden lang gebruikt wordt op een stand van 900 Watt.
27
00:02:13,480 --> 00:02:21,720
En ik weet niet hoe het bij jou gaat, maar met mijn dialogen met ChatGPT stel ik gerust
28
00:02:21,720 --> 00:02:24,880
10 tot 30 vragen waar ik dan antwoord op krijg.
29
00:02:24,880 --> 00:02:29,640
Dus in het slechtste geval zet ik dus gewoon 6 minuten lang op afstand een magnetron op
30
00:02:29,640 --> 00:02:30,720
vol vermogen aan.
31
00:02:30,720 --> 00:02:37,320
Nu is de technologie best jong en begrijp ik helemaal de aandacht op de toepassing en
32
00:02:37,320 --> 00:02:38,320
het gemak.
33
00:02:38,320 --> 00:02:42,800
Ook wij gebruiken large language models en bouwen daar best wel hele mooie oplossingen
34
00:02:42,800 --> 00:02:43,800
mee.
35
00:02:43,800 --> 00:02:49,480
Maar toch vind ik dat we als industrie wat meer aandacht mogen hebben voor Green AI.
36
00:02:49,480 --> 00:02:51,960
Maar wat is dat nou eigenlijk precies?
37
00:02:51,960 --> 00:02:52,960
Green AI?
38
00:02:52,960 --> 00:03:01,400
Dat verwijst naar een beweging of aanpak binnen AI die de nadruk legt op energie-efficiëntie,
39
00:03:01,400 --> 00:03:07,720
duurzaamheid en milieuvriendelijkheid bij de ontwikkeling en inzet van AI-systemen.
40
00:03:07,720 --> 00:03:11,800
Er zijn verschillende aspecten aan deze Green AI.
41
00:03:11,800 --> 00:03:14,960
Een daarvan is energie-efficiënt gebruik.
42
00:03:14,960 --> 00:03:20,680
Dit gaat over het optimaliseren van algoritme om het energieverbruik te verminderen.
43
00:03:20,680 --> 00:03:27,600
Er zijn allerlei technieken die kunnen bestaan uit efficiëntere modelarchitectuur, dus hoe
44
00:03:27,600 --> 00:03:30,920
de modellen intern in elkaar zitten.
45
00:03:30,920 --> 00:03:37,800
Het snoeien van dit soort modellen, dus dan verwijder je onnodige stukken van zo'n model.
46
00:03:37,800 --> 00:03:43,880
En het verminderen van de preciesheid, de nauwkeurigheid van de getallen die bij de
47
00:03:43,880 --> 00:03:45,200
berekening worden gebruikt.
48
00:03:45,200 --> 00:03:49,200
Je hebt ook hardware-innovaties.
49
00:03:49,200 --> 00:03:53,760
Dus moet je denken aan dat ze bezig zijn met de ontwikkelen en gebruiken van hardware die
50
00:03:53,760 --> 00:04:00,320
heel specifiek is ontworpen om juist energie-efficiënt te zijn voor AI.
51
00:04:00,320 --> 00:04:06,240
Zoals hele gespecialiseerde processoren voor dit soort hele complexe berekeningen.
52
00:04:06,240 --> 00:04:10,880
Je kan ook denken aan het aspect van duurzame datacenters.
53
00:04:10,880 --> 00:04:20,040
De implementatie van hernieuwbare energiebronnen, zoals zonne- of windenergie, die juist gebruikt
54
00:04:20,040 --> 00:04:26,560
worden in die datacenters om die berekeningen uit te voeren dat dat dan je energiebron is.
55
00:04:26,560 --> 00:04:31,880
En als laatste heb je het optimaliseren van de modellen zelf.
56
00:04:31,880 --> 00:04:37,320
Dus naast energie-efficiëntie kan je ook de modellen zodanig optimaliseren zodat er
57
00:04:37,320 --> 00:04:41,080
gewoon minder rekenkracht nodig is voor training en gebruik.
58
00:04:41,080 --> 00:04:45,760
Hier kun je denken aan juist veel kleinere taalmodellen.
59
00:04:45,760 --> 00:04:54,680
Waarbij je een taalmodel voor één specifieke taak terugbrengt waardoor ook energie wordt
60
00:04:54,680 --> 00:04:55,680
bespaard.
61
00:04:55,680 --> 00:04:59,040
Als laatste aspect heb je de CO2-compensatie.
62
00:04:59,040 --> 00:05:05,840
Als je dan toch onvermijdelijke emissies hebt kun je investeren in initiatieven voor CO2-compensatie
63
00:05:05,840 --> 00:05:10,480
zoals planten van bomen of projecten voor hernieuwbare energie.
64
00:05:10,480 --> 00:05:11,960
Je kent dat soort dingen wel.
65
00:05:11,960 --> 00:05:15,000
Wat is nu je vraag?
66
00:05:15,000 --> 00:05:16,680
Daar ben ik bijna.
67
00:05:16,680 --> 00:05:18,040
Het zit zo.
68
00:05:18,040 --> 00:05:24,520
Ik kan er van alles van vinden over hoe er nu wordt omgegaan met groene AI en hoe er over
69
00:05:24,520 --> 00:05:25,520
gesproken wordt.
70
00:05:25,520 --> 00:05:29,080
Maar uiteindelijk is het beter om te handelen toch?
71
00:05:29,080 --> 00:05:34,040
Of, zoals ze mooi in het Engels zeggen, put your money where your mouth is.
72
00:05:34,040 --> 00:05:41,800
In ons Research Center AI zijn we gestart met een onderzoekslijn rondom groene AI.
73
00:05:41,800 --> 00:05:49,000
We kunnen niet alle van de eerder genoemde aspecten onderzoeken en er bijdrage aan leveren.
74
00:05:49,000 --> 00:05:55,440
Maar juist die energie-efficiëntie en modeloptimalisatie ligt dicht bij onze expertise.
75
00:05:55,440 --> 00:05:58,000
Daar wil ik wel aan beginnen.
76
00:05:58,000 --> 00:06:05,440
Nu kom ik bij mijn vraag.
77
00:06:05,440 --> 00:06:12,440
Ben jij iemand die ons inzicht kan geven over groene AI?
78
00:06:12,440 --> 00:06:17,440
Of ken je zo iemand en wil je dan contact met ons opnemen?
79
00:06:17,440 --> 00:06:21,440
Ben je een masterstudent en wil je onderzoek doen op dit vlak?
80
00:06:21,440 --> 00:06:23,440
Meld je dan bij ons aan.
81
00:06:23,440 --> 00:06:28,440
Dus mijn vraag is eigenlijk, help jij mee?
82
00:06:28,440 --> 00:06:35,440
Dankjewel weer voor het luisteren naar deze korte aflevering over AI.
83
00:06:35,440 --> 00:06:38,440
Net even anders dan anders.
84
00:06:38,440 --> 00:06:43,440
Vergeet je niet te abonneren via je favoriete podcast app.
85
00:06:43,440 --> 00:06:45,440
En mis geen aflevering.
86
00:06:45,440 --> 00:06:47,440
Tot de volgende keer.
87
00:06:47,440 --> 00:06:49,440
[Muziek]
88
00:06:49,440 --> 00:07:12,240
[Muziek]
