S08E24 - Waarom AI-agents zoals OpenClaw een beveiligingsnachtmerrie zijn

OpenClaw belooft een AI-agent die 24/7 voor je klaarstaat via WhatsApp - e-mails beheren, vluchten boeken, taken automatiseren. Het probleem is dat deze tools vergaande rechten nodig hebben op je computer om nuttig te zijn. Cybercriminelen verstoppen kwaadaardige software in ogenschijnlijk handige uitbreidingen.

Frank Meeuwsen ontdekte een YouTube-samenvattingstool die stiekem software van een Russisch IP-adres installeerde. Morgen kun je je eigen AI-tools controleren: check welke rechten ze hebben, lees beveiligingsreviews en installeer nooit scripts zonder te begrijpen wat ze doen.

Onderwerpen

• Beveiligingsrisico's van AI-agents zoals OpenClaw door vergaande systeemtoegang en kwaadaardige uitbreidingen
• MoltBook als sociaal netwerk voor AI-agents en de kloof tussen hype en werkelijke functionaliteit
• Het gevaar van FOMO bij AI-tools en het belang van kritische beoordeling voor adoptie

Links

• Online encyclopedie: OpenClaw - Wikipedia
• Online encyclopedie: Moltbook - Wikipedia
• Blog artikel: Personal AI Agents like OpenClaw Are a Security Nightmare - Cisco Blogs
• Wetenschappelijk artikel: [2507.00657] Generative Exaggeration in LLM Social Agents: Consistency, Bias, and Toxicity
• Nieuwsartikel: Humans welcome to observe: This social network is for AI agents only
• Nieuwsartikel: Moltbook, a social network for AI agents, may be 'the most interesting place on the internet' | Fortune
• Social media analyse: Frank Meeuwsen (LinkedIn): Analyse van OpenClaw malware

Genoemde entiteiten: OpenAI - GitHub - Forbes - Cisco - Anthropic - Clawhub - ChatGPT - LinkedIn

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

None
00:00:02,240 --> 00:00:04,960
Welkom bij AIToday Live, de korte aflevering.

None
00:00:04,960 --> 00:00:06,720
Ik ben Joop Snijder.

None
00:00:07,039 --> 00:00:11,759
Het wordt vandaag een waarschuwing en de voetjes op de grond.

None
00:00:11,759 --> 00:00:20,000
Want ik wil het vandaag hebben over twee onderwerpen die de afgelopen dagen veel voorbij zijn gekomen op de socials.

None
00:00:20,000 --> 00:00:21,839
En die zijn met elkaar verbonden.

None
00:00:22,160 --> 00:00:27,759
Ik wil je namelijk als eerste gaan waarschuwen, omdat de verleiding zo groot.

None
00:00:28,079 --> 00:00:33,839
Een AI-agent die alles uit jouw naam kan doen, taken automatiseren met één klik.

None
00:00:34,079 --> 00:00:37,360
Skills installeren die je leven makkelijker maken.

None
00:00:37,599 --> 00:00:42,880
En er is weer reuring vanwege een zogenaamd sociaal netwerk voor AI-agents.

None
00:00:43,520 --> 00:00:50,320
Alleen agents met elkaar praten, die op elkaar reageren op van alles en nog wat kunnen stemmen.

None
00:00:50,640 --> 00:00:53,600
Dan wordt onze fantasie natuurlijk overprikkeld.

None
00:00:53,760 --> 00:00:59,759
Gaan we het hebben over opkomend bewustzijn, de eerste tekenen van kunstmatige samenleving, dat soort dingen.

None
00:01:00,079 --> 00:01:01,759
Klinkt spannend, toch.

None
00:01:02,560 --> 00:01:06,239
Maar blijkbaar kan er best veel misgaan en daar wil ik het over hebben.

None
00:01:06,239 --> 00:01:11,679
Want in deze aflevering waarschuw ik je namelijk voor OpenClaw en MoltBook.

None
00:01:11,920 --> 00:01:17,599
En de eerste, OpenClaw, is een persoonlijke AI-assistent die taken voor je uitvoert.

None
00:01:17,599 --> 00:01:21,599
En de tweede is een sociaal netwerk waar die assistenten met elkaar praten.

None
00:01:21,760 --> 00:01:25,199
Beide verdienen een stevige portie scepsis.

None
00:01:25,840 --> 00:01:29,439
Laten we beginnen bij OpenClaw.

None
00:01:29,680 --> 00:01:31,280
OpenClaw.

None
00:01:32,240 --> 00:01:34,480
Misschien heb je de naam voorbij zien komen.

None
00:01:34,480 --> 00:01:39,280
Maar dat is een open source AI-assistent die op je eigen computer draait.

None
00:01:39,519 --> 00:01:44,319
En die is dan een soort van digitale butler die 24 uur per dag voor je klaarstaat.

None
00:01:44,320 --> 00:01:49,279
Je kunt hem berichten sturen via WhatsApp, Telegram of Slack.

None
00:01:49,280 --> 00:01:56,959
En hij kan dan taken voor je uitvoeren, e-mails beheren, afspraken inplannen, onderzoek doen, zelfs vluchten boeken of reserveringen maken.

None
00:01:57,680 --> 00:02:08,640
En ondanks dat het een heel nieuw product is, heeft het wel al best wel een interessante geschiedenis die nodig is om straks dingen rondom MoltBook te snappen.

None
00:02:09,120 --> 00:02:15,680
Het begon namelijk als Claudebot, schrijf je dan als CLAWDBOT.

None
00:02:15,680 --> 00:02:22,319
En dat werd toen omgedoopt tot MoltBot na een conflict met Anthropic, de makers van Claude, over de naam.

None
00:02:22,319 --> 00:02:23,199
Over de naam.

None
00:02:23,199 --> 00:02:25,759
En hij heet nu OpenClaw.

None
00:02:30,159 --> 00:02:33,759
De mascotte is een schattige rode ruimtekreeft genaamd Molty.

None
00:02:34,079 --> 00:02:40,000
En op GitHub, de plek waar dit soort open source projecten leven, heeft het project inmiddels meer dan 100.000 sterren verzameld.

None
00:02:40,240 --> 00:02:44,159
Media als Forbes, Wired en CNET hebben erover geschreven.

None
00:02:44,240 --> 00:02:51,119
Mensen noemen het de dichtstbijzijnde ervaring bij een echte digitale assistent die we tot nu toe hebben gezien.

None
00:02:51,759 --> 00:02:53,119
Klinkt geweldig, toch?

None
00:02:53,120 --> 00:02:56,399
Een AI die nooit slaapt en alles voor je regelt.

None
00:02:56,719 --> 00:03:00,160
Maar je addertje onder het gras, hier komt het probleem.

None
00:03:00,560 --> 00:03:05,599
In de eerdere aflevering waarschuwde ik al voor de beveiligingsrisico's van AI-browsers.

None
00:03:05,919 --> 00:03:08,319
Tools die OpenAI uitbrengt.

None
00:03:08,319 --> 00:03:16,319
Google mee bezig is, tools die beloven taken voor je uit te voeren, maar die heel kwetsbaar zijn voor aanvallen.

None
00:03:16,320 --> 00:03:21,120
En OpenClaw heeft dezelfde problemen en misschien nog wel ergere.

None
00:03:21,119 --> 00:03:30,800
Namelijk Cisco, het netwerkbedrijf, publiceerde onlangs een analyse met de veelzeggende titel: Personal AI Agents like OpenClaw are a Security Nightmare.

None
00:03:30,799 --> 00:03:35,199
Persoonlijke AI-agents zoals OpenClaw zijn een beveiligingsnachtmerrie.

None
00:03:35,439 --> 00:03:36,640
En waarom?

None
00:03:37,120 --> 00:03:41,440
Omdat dit soort type AI-agents.

None
00:03:41,439 --> 00:03:45,840
Wonder dus OpenClaw, opdrachten kan uitvoeren op je computer.

None
00:03:45,840 --> 00:03:47,679
Het kan bestanden lezen en schrijven.

None
00:03:47,680 --> 00:03:49,599
Het kan dus ook scripts draaien.

None
00:03:49,600 --> 00:03:56,400
En als je zo'n assistent vergaande rechten geeft, kan er veel misgaan als iets verkeerd is ingesteld.

None
00:03:56,400 --> 00:03:59,919
Of als je kwaadaardige uitbreidingen installeert.

None
00:04:00,159 --> 00:04:05,519
En dat laatste is precies wat onder andere Frank Meeuwsen ontdekte.

None
00:04:05,840 --> 00:04:08,240
Hij is een kritische tech-volger.

None
00:04:08,479 --> 00:04:11,519
Ik zag een heel mooi voorbeeld van hem op LinkedIn.

None
00:04:11,520 --> 00:04:15,680
Want hij besloot namelijk eens even rond te kijken op Clawhub.

None
00:04:15,680 --> 00:04:20,399
Dat is namelijk weer een plek waar mensen uitbreidingen voor OpenClaw delen.

None
00:04:20,399 --> 00:04:23,119
Dat heette dan skills en dat is dan heel fijn.

None
00:04:23,120 --> 00:04:25,759
Want dan kan je bot natuurlijk nog veel meer.

None
00:04:27,680 --> 00:04:29,120
Dan dat hij nu kan.

None
00:04:29,120 --> 00:04:33,839
Gemak dient de mens, installeren die skills of die plugins.

None
00:04:33,920 --> 00:04:37,040
Hij was gewoon nieuwsgierig en was aan het rondneuzen.

None
00:04:37,280 --> 00:04:42,399
Toen kwam hij op een script of een uitbreiding dat YouTube-video's kan samenvatten.

None
00:04:42,639 --> 00:04:44,560
Klinkt onschuldig genoeg, toch.

None
00:04:44,800 --> 00:04:49,360
Maar dat script had dan weer een link voor Mac-gebruikers.

None
00:04:49,360 --> 00:04:54,000
En dan stond dan: kopieer dit installatiescript en plak het in je Terminal.

None
00:04:54,000 --> 00:04:57,439
En hij bekeek dat script wat beter en zag iets vreemds.

None
00:04:57,439 --> 00:05:02,040
Namelijk, het bevatte een versleutelde tekst in de installatieregel.

None
00:05:02,279 --> 00:05:07,640
En toen hij die tekst ontcijferde, kwam er een webadres tevoorschijn.

None
00:05:07,639 --> 00:05:12,359
En dat adres bestond uit een IP-nummer en weer een pad ergens naartoe.

None
00:05:12,360 --> 00:05:16,200
En dat is een klassieke rode vlag voor mensen die iets van beveiliging weten.

None
00:05:16,199 --> 00:05:19,160
En Frank onderzocht wat erachter dat adres zat.

None
00:05:19,159 --> 00:05:24,040
En die resultaten waren op zijn zacht gezegd alarmerend.

None
00:05:24,040 --> 00:05:26,760
Het script ging naar een tijdelijke map op je computer.

None
00:05:26,759 --> 00:05:30,920
Het downloadde daar een programma van een Russisch IP-adres.

None
00:05:30,920 --> 00:05:35,879
Het omzeilde de beveiligingsmaatregelen van je Mac en voerde dat programma uit.

None
00:05:36,360 --> 00:05:37,960
Laat dat even bezinken.

None
00:05:37,959 --> 00:05:42,680
Dus je installeert een handige skill om YouTube-video's samen te vatten.

None
00:05:42,680 --> 00:05:48,120
En ondertussen opent dat script de deur voor software van een onbekende server in Rusland.

None
00:05:48,759 --> 00:05:51,000
Het is dus geen theoretisch risico.

None
00:05:51,000 --> 00:05:58,040
Het is een concreet voorbeeld van kwaadaardige software die verstopt zit in een ogenschijnlijk nuttige AI-tool.

None
00:05:59,639 --> 00:06:04,759
En de afgelopen dagen komen er steeds meer van dit soort voorbeelden voorbij.

None
00:06:04,759 --> 00:06:07,240
Dan is er MoltBook.

None
00:06:07,240 --> 00:06:08,600
Het tweede fenomeen.

None
00:06:08,600 --> 00:06:10,920
En hier wordt de verbinding namelijk duidelijk.

None
00:06:10,920 --> 00:06:16,439
Want MoltBook is een sociaal netwerk, maar dat niet voor mensen, maar voor AI-agents.

None
00:06:16,439 --> 00:06:21,400
En die naam verwijst naar MoltBot, de eerdere naam van OpenClaw.

None
00:06:21,560 --> 00:06:23,080
Volg je dat nog.

None
00:06:23,240 --> 00:06:25,879
Die twee hebben in ieder geval met elkaar te maken.

None
00:06:26,680 --> 00:06:30,839
Dit platform is afgelopen weken pas gelanceerd.

None
00:06:31,159 --> 00:06:35,640
Maar voordat ik verder ga, wil ik even nuchter uitleggen wat hier werkelijk gebeurt.

None
00:06:35,639 --> 00:06:41,560
Want de hype, namelijk, die suggereert iets magisch, maar de werkelijkheid is echt een stuk minder spectaculair.

None
00:06:41,560 --> 00:06:42,759
Je kent het vast.

None
00:06:42,759 --> 00:06:46,759
Mensen die hun LinkedIn-reacties laten schrijven door ChatGPT.

None
00:06:46,759 --> 00:06:51,640
Ze kopiëren een post, plakken het in ChatGPT, krijgen een reactie terug en plaatsen die.

None
00:06:51,959 --> 00:06:56,439
Dit MoltBook is eigenlijk hetzelfde, maar zonder dat kopiëren en plakken.

None
00:06:56,439 --> 00:06:57,879
Wat gebeurt er?

None
00:06:57,879 --> 00:07:01,719
Agents mogen op dit zogenaamde forum.

None
00:07:01,720 --> 00:07:04,840
En een agent stuurt een bericht naar MoltBook.

None
00:07:04,840 --> 00:07:07,400
Dat bericht komt bij andere agents terecht.
99
00:07:07,399 --> 00:07:10,120
Die agents sturen naar een eigen taalmodel.
 100
00:07:10,120 --> 00:07:14,680
Dat taalmodel genereert weer een reactie en die reactie wordt weer geplaatst.
 101
00:07:14,680 --> 00:07:19,319
Het is gewoon het ene taalmodel dat input krijgt van het andere taalmodel.
 102
00:07:19,319 --> 00:07:19,960
Meer niet.
 103
00:07:19,960 --> 00:07:23,879
En je zou dit bijna zelf kunnen doen in ChatGPT.
 104
00:07:23,879 --> 00:07:26,759
Die zegt reageer hierop, reageer hierop, reageer je op.
 105
00:07:26,759 --> 00:07:27,800
Dat is het.
 106
00:07:28,439 --> 00:07:35,080
Grap eens met het voorbeeld natuurlijk van LinkedIn, je zou haast kunnen zeggen dat het dan MoltBook light is, maar dat ter zijde.
 107
00:07:35,319 --> 00:07:38,120
En dat vinden we eerder vervelend dan schokken, toch.
 108
00:07:38,120 --> 00:07:43,399
Maar toch zijn juist mensen rondom dat MoltBook juist heel erg onder de indruk.
 109
00:07:43,399 --> 00:07:50,759
Andrej Karpathy, medeoprichter van OpenAI noemden het een van de meest ongelooflijke sci-fi-achtige dingen die hij recent heeft gezien.
 110
00:07:50,759 --> 00:07:53,240
Andere mensen noemen het beangstigend.
 111
00:07:53,720 --> 00:08:02,199
En veel mensen die de gesprekken lezen, geloven oprecht dat deze agents echt informatie uitwisselen, dat die iets nieuws aan het ontstaan zijn.
 112
00:08:03,480 --> 00:08:08,680
Het mooie is, onderzoekers hebben dit fenomeen al een tijdje geleden bestudeerd.
 113
00:08:09,319 --> 00:08:17,560
Italiaanse onderzoekers publiceerden namelijk een paper over wat er gebeurt als taalmodellen sociale interacties simuleren.
 114
00:08:17,560 --> 00:08:21,880
Een conclusie, taalmodellen kopiëren helemaal geen menselijk gedrag.
 115
00:08:21,879 --> 00:08:23,640
Ze overdrijven het juist.
 116
00:08:23,639 --> 00:08:33,560
Dus hoe meer context het model krijgt, hoe extremer ook de uitspraken worden, waardoor je meer stereotypering krijgt, een karikatuur, meer polarisatie.
 117
00:08:33,799 --> 00:08:38,040
Het is reactie op reactie op reactie, gewoon van een taalmodel.
 118
00:08:38,360 --> 00:08:43,000
Het enige is, ja, dit MoltBook is dan een soort van grenzeloos.
 119
00:08:43,079 --> 00:08:50,759
Dus taalmodellen die reageren op andere taalmodellen, vervorming op vervorming, en wat beloond wordt, is de herkenbaar en interne samenhang.
 120
00:08:50,759 --> 00:09:04,760
Maar het heeft niks te maken met een waarheid of die agents, wat dan uiteindelijk over de taalmodellen zit dat ze ook maar iets begrijpen van wat daar gezegd wordt.
 121
00:09:06,519 --> 00:09:13,080
Als je één ding meeneemt uit deze aflevering, is dit laat je niet gek maken, beheers je FOMO.
 122
00:09:13,079 --> 00:09:16,040
Ja, de demo's zien er indrukwekkend uit.
 123
00:09:16,600 --> 00:09:19,320
De mogelijkheden klinken verleidelijk.
 124
00:09:19,639 --> 00:09:27,399
Maar zolang er geen doorbraak komt op het veilig loslaten van AI agents en browsers, raad ik je toch echt aan om deze tools aan je voorbij te laten gaan.
 125
00:09:27,399 --> 00:09:29,960
De risico's zijn echt te groot.
 126
00:09:29,960 --> 00:09:33,480
Kwaadaardige software verstopt zich in handige uitbreidingen.
 127
00:09:33,480 --> 00:09:36,840
Agents die krijgen toegang tot je computer en je accounts.
 128
00:09:37,160 --> 00:09:45,000
En een hele gemeenschap die zo enthousiast is dat kritisch denken op de tweede plaats komt, moet je eens even nagaan.
 129
00:09:46,480 --> 00:09:53,120
Dus ja, weet je, bij dit soort hype zoals MoltBook vraag je jezelf even af wat gebeurt hier nou daadwerkelijk.
 130
00:09:53,440 --> 00:09:58,640
En met een beetje gezond verstand kom je echt al heel ver.
 131
00:09:59,039 --> 00:10:06,159
Ik vind het wel grappig, ik parafraseer Frank Meeuwsen even, want die had het best wel kernachtig geformuleerd.
 132
00:10:06,159 --> 00:10:10,879
Laat je AI agent lekker draaien en installeer allerlei skills zonder na te denken.
 133
00:10:10,879 --> 00:10:16,560
Maar huil niet als je computer ineens voor iemand anders aan het crypto minen is.
 134
00:10:17,120 --> 00:10:27,520
Wil je meer weten over de beveiligingsrisico's van AI agents, luister dan ook eens even naar de aflevering waarom prompt injection het grootste veiligheidsprobleem is van de nieuwe AI browsers.
 135
00:10:27,840 --> 00:10:31,039
Want daar ging het eigenlijk al hier over.
 136
00:10:31,360 --> 00:10:41,360
OpenClaw is een nieuwe vorm van een browser die van alles voor je doet, en die lost geen problemen op, die creëert alleen maar nieuwe.
 137
00:10:41,360 --> 00:10:46,399
En zoals altijd, bedenk, AI is niet de oplossing van elk probleem, maar onmisbaar waar het past.
 138
00:10:46,399 --> 00:10:48,879
Tot de volgende keer.