In Nederland hoeven we niet naar futuristische dystopieën te kijken om de gevaren van AI te begrijpen. Denk bijvoorbeeld aan de Toeslagenaffaire. Een algoritme van de Belastingdienst beoordeelde automatisch wie verdacht was van fraude. Geen transparantie, geen menselijke controle – alleen een systeem dat duizenden ouders onterecht wegzette als fraudeurs. Het gevolg: levens verwoest, banen kwijt, kinderen uit huis geplaatst. En niemand die écht aansprakelijk was. In de AI-high waar veel professionals en organisaties in zitten, vergeten we in mijn optiek om ook echt scherp te gaan kijken naar de minder positieve kanten.

Elke nieuwe technologie begint met blinde vlekken

We zien het elke keer weer bij de meeste nieuwe technologieën. De opkomst van internet leidde tot explosies in criminaliteit en desinformatie. De Bitcoin-revolutie begon met idealen, maar trok ook hackers en witwassers aan. Social media begonnen als platforms om te verbinden, maar werden snel wapens in informatie-oorlogen. En denk aan drones: ooit hobby-technologie, nu inzetbaar voor spionage of zelfs aanvallen. Wetgeving? Die liep altijd achter.

We zien nu dezelfde reflexen bij AI: overheden die worstelen met regels, bedrijven die winst voorrang geven, criminelen die de boel slim misbruiken en een samenleving die pas echt wakker schrikt als het misgaat. Ja, ik word elke dag enthousiaster over alle mogelijkheden en hoe ze mij versterken als professional. Maar ik merk elke keer weer als ik ergens spreek over AI en het publiek erover vraag; niemand houdt de ontwikkelingen meer bij; zo veel en zo snel. Laat staan dat mensen rustig nadenken over de impact ervan. Wat AI kan, maar vooral: wat het doet en wat dat met ons doet.

Zeven AI-gevaren die al geen toekomstmuziek meer zijn

De discussie over AI-risico’s richt zich in mijn optiek vaak op de bekende thema’s: hallucinerende chatbots, privacyproblemen of AI’s die data lekken. Toegegeven, die problemen zijn reëel, maar ze worden inmiddels heel actief en succesvol aangepakt. Hallucinaties nemen flink af door betere modellen / redeneringsvermogen en privacy wordt beter gewaarborgd via afgesloten omgevingen zoals Microsoft Copilot.

Maar in mijn optiek zitten de échte risico’s veel dieper. Niet in wat AI zegt, maar in wat het stilletjes doet. Wie wordt gevolgd, beoordeeld of uitgesloten door een algoritme? Welke beslissingen nemen machines al zonder dat we het doorhebben? Wat betekent dat voor onze rechtsstaat, arbeidsmarkt of mentale gezondheid?

Laatst mocht ik voor een overheidsorganisatie de hosanna- en hypeverhalen thuis laten en het personeel volledig bang maken met gefundeerde argumenten over waar ik zie dat er nog te weinig gebeurt om de uitwassen van AI tegen te gaan. Mijn top 7:

1. AI maakt desinformatie geloofwaardiger en gevaarlijker

Nepnieuws is niet nieuw, maar AI maakt het overtuigender én schaalbaarder. Tijdens de verkiezingen in Nederland in 2023 gingen deepfake-video’s van politici viraal. Een gemanipuleerde toespraak die nooit had plaatsgevonden werd duizenden keren gedeeld – vaak als ‘bewijs’. Ze zijn zo goed, dat ze ook door de controlefilters van de socialmedia-platformen heen komen.

Volgens onderzoek heeft 1 op de 3 Nederlanders moeite om echt van nep te onderscheiden. Onderzoek van de Universiteit Leiden toont aan dat mensen die meer gebruikmaken van social media en vatbaar zijn voor complottheorieën, beter zijn in het herkennen van deepfakes, wat suggereert dat anderen mogelijk kwetsbaarder zijn voor misinformatie.​

2. Van slimme stad naar controlestaat

Smart city-technologieën, zoals gezichtsherkenning en gedragsanalyse, bieden efficiëntie maar brengen ook risico’s met zich mee voor privacy en burgerrechten. In Amsterdam wordt geëxperimenteerd met slimme camera’s die afval op straat herkennen. En met algoritmen die tijdens de coronapandemie detecteerden of mensen voldoende afstand hielden. Hoewel deze technologieën bijdragen aan stadsbeheer, roepen ze ook vragen op over toezicht en privacy.​

3. Algoritmes kunnen systematisch discrimineren zonder dat we het doorhebben

Het gebruik van AI in sollicitatieprocedures kan leiden tot onbedoelde discriminatie. Het College voor de Rechten van de Mens stelt dat werkgevers verantwoordelijk blijven voor de uitkomsten van algoritmes en zich niet kunnen verschuilen achter technologie als er sprake is van ongelijke behandeling. Een onderzoek onder 896 Nederlandse werkgevers toonde aan dat het bewustzijn over de risico’s van algoritmische discriminatie laag is.

4. AI beslist soms dodelijk, zonder mens erbij

De ontwikkeling van autonome wapensystemen, ook wel ‘killer robots‘ genoemd, roept ethische en juridische vragen op. Volgens de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV) moet Nederland zich nadrukkelijker bezighouden met de regulering van deze systemen. Er is bezorgdheid dat zonder duidelijke regelgeving de inzet van dergelijke wapensystemen kan leiden tot onvoorspelbare en mogelijk catastrofale gevolgen.

5. AI kan worden gemanipuleerd door een sticker op een stopbord

AI-systemen in het verkeer, zoals die voor zelfrijdende auto’s, zijn kwetsbaar voor manipulatie. In een onderzoek werden kleine stickers op stopborden geplakt, waardoor zelfrijdende auto’s deze verkeersborden niet meer als zodanig herkenden en ze interpreteerden als borden met een snelheidsbeperking. Hoewel dit specifieke voorbeeld niet uit Nederland komt, benadrukt het de noodzaak voor robuuste beveiligingsmaatregelen en voortdurende evaluatie van AI-systemen in kritieke infrastructuren.

6. AI verandert werk en niet iedereen wordt meegenomen

De opkomst van AI heeft aanzienlijke gevolgen voor de Nederlandse arbeidsmarkt. Volgens een rapport van PwC is meer dan 44% van de banen in Nederland in hoge of zeer hoge mate blootgesteld aan generatieve AI, zoals ChatGPT. Dit betekent dat bijna de helft van de huidige functies significant kan veranderen door de inzet van AI-technologieën.  

De veranderingen op de arbeidsmarkt hebben bredere maatschappelijke implicaties. Een rapport van de APG benadrukt dat het verlies van werk door AI kan leiden tot sociale uitsluiting en een gevoel van verlies van controle over het eigen leven. Zonder adequate ondersteuning en omscholingsmogelijkheden kunnen getroffen werknemers moeite hebben om opnieuw werk te vinden, wat kan resulteren in economische ongelijkheid en sociale spanningen.

7. AI beïnvloedt gedrag zonder dat je het merkt

AI-algoritmes op platforms zoals TikTok kunnen gebruikers onbewust sturen richting content die schadelijk is voor hun mentale gezondheid. Amnesty International waarschuwt dat de ‘Voor Jou’-pagina van TikTok na enkele uren gebruik een overweldigende hoeveelheid content toont die gerelateerd is aan mentale gezondheidsproblemen, wat zorgwekkende implicaties heeft voor jongeren. Dit onderstreept de noodzaak voor transparantie en regulering van algoritmische aanbevelingssystemen op social media-platforms.​

Wat kunnen we eraan doen?

Technology changes exponentially, but social, economic, and legal systems change incrementally – Larry Downes

Technologie ontwikkelt zich nu eenmaal altijd veel sneller dan wetgeving. Dat noemen ze ook wel het ‘pacing problem‘. Er wordt wereldwijd inmiddels keihard gewerkt aan regels en ethiek voor AI. De EU heeft de AI Act, de VS lanceert AI-principes en ook landen als Japan en Canada zetten kaders neer. Belangrijker nog: steeds meer AI-ontwikkelaars bouwen zelf ethische toetskaders in hun werk.

Bedrijven als OpenAI en Anthropic publiceren ‘red teaming’-verslagen en stellen hun modellen open voor toetsing. Maar dit is vaak nog een wassen neus in mijn optiek, want dit alles is nog volledig vrijwillig/vrijblijvend voor de bedrijven. Zonder duidelijke verplichtingen, onafhankelijke controle en stevige handhaving blijven we kwetsbaar.  Wat zijn dan wel oplossingen? Ik heb een aantal ideeën voor Nederland op een rij gezet.

Een wettelijk recht op menselijke toetsing

Een AI-systeem mag nooit als enige beslissen over zaken die diep ingrijpen in iemands leven: denk aan het toekennen van toeslagen, zorgtoegang, een lening of zelfs een juridische beoordeling. Mensen moeten altijd het recht hebben om uitleg te krijgen en om die beslissing te laten herzien door een mens. Dat klinkt misschien logisch, maar is nog lang niet vanzelfsprekend geregeld.

In de Europese AI Act wordt het belang van menselijke controle bij risicovolle systemen genoemd, maar een hard afdwingbaar burgerrecht bestaat nog niet. In de financiële sector wél: daar geldt al dat kredietbeslissingen op verzoek opnieuw door een mens moeten worden bekeken. Nederland kan dit als eerste expliciet vastleggen, bijvoorbeeld via een aparte AI-wet of als uitbreiding op bestuursrechtelijke waarborgen. Digitale ombudsdiensten kunnen vervolgens burgers laagdrempelig helpen bij bezwaar en toetsing.

Dat is geen administratieve luxe, maar een bescherming tegen onzichtbare macht. Zolang systemen mogen beslissen zonder dat je weet wie verantwoordelijk is, zijn rechten kwetsbaar.

Transparantie als bouwplicht

AI-systemen die niet uitlegbaar zijn, zouden niet in gebruik mogen worden genomen. Iedereen die een AI-systeem ontwikkelt of inzet – overheid of bedrijf – moet vooraf documenteren hoe het werkt:

• wat het doel is
• welke data zijn gebruikt
• welke aannames erin zitten
• hoe vaak het faalt
• hoe gebruikers feedback kunnen geven.

In andere sectoren is dat volkomen normaal. Denk aan het CE-keurmerk in de bouw of techniek: zonder technische onderbouwing geen toegang tot de markt. Grote techbedrijven publiceren inmiddels vrijwillig ‘model cards’ met uitleg over hun AI, maar die zijn vaak summier en juridisch niet bindend.

Door wettelijk te eisen dat ieder systeem dat publieke of maatschappelijke impact heeft een ‘algoritmisch paspoort’ moet hebben, wordt transparantie een ontwerpeis. Dat maakt het mogelijk om systemen te vergelijken, te controleren, en – indien nodig – af te wijzen. Juist in een tijd waarin AI-beslissingen steeds minder zichtbaar worden, is inzicht geen extraatje, maar een voorwaarde voor vertrouwen.

Onafhankelijke AI-toezichtteams

Goed toezicht op AI vereist meer dan een adviescommissie of ethisch panel. Er is behoefte aan echte inspectieteams met doorzettingsmacht: professionals die AI-systemen kunnen onderzoeken, audits kunnen afdwingen en indien nodig systemen stil kunnen leggen. Die modellen bestaan in andere sectoren allang. Denk aan de Nederlandse Voedsel- en Warenautoriteit of de Inspectie Gezondheidszorg.

Voor AI ontbreekt zo’n autoriteit nog. De overheid zou een onafhankelijke toezichthouder kunnen oprichten met multidisciplinaire teams: van juristen en ethici tot datawetenschappers en gedragspsychologen. Die krijgen toegang tot overheidsdata én private systemen als die publieke invloed hebben. Ze kunnen meldplicht opleggen bij incidenten, patronen signaleren, en waar nodig ingrijpen. Waarom dat nodig is? Omdat veel AI-toepassingen zó complex zijn dat zelfs ontwikkelaars ze nauwelijks begrijpen. Als niemand controleert, groeit het risico op misbruik, discriminatie en onveiligheid tot het moment dat de schade onomkeerbaar is.

Een nationaal kennisinstituut voor AI

Als we AI willen gebruiken in het publieke belang, hebben we een publieke kennisbasis nodig. Een onafhankelijk instituut, vergelijkbaar met het RIVM, dat onderzoek doet naar de maatschappelijke impact van AI, dat systemen beoordeelt en burgers en beleidsmakers objectief informeert. Zoiets bestaat nog niet, maar zou kunnen voortbouwen op bestaande partijen als TNO of het Rathenau Instituut. Het instituut zou best practices verzamelen, modellen toetsen op transparantie, risico’s in kaart brengen en wetenschappers, journalisten en overheden voorzien van actuele kennis.

Cruciaal: het moet echt onafhankelijk opereren. Dus zonder commerciële of politieke sturing. Waarom dit dringend is? Omdat we nu vooral afhankelijk zijn van kennis die bij techbedrijven zelf zit. Maar wie de technologie ontwikkelt, moet niet ook degene zijn die bepaalt of het goed gaat. Publieke technologie vraagt om publieke toetsing en dat begint bij publieke kennis.

Verplichte AI-educatie vanaf schoolniveau

Om je staande te houden in een wereld waarin AI keuzes beïnvloedt, gedrag stuurt en zelfs bepaalt wat je ziet, moet je begrijpen hoe het werkt. Daarom zou AI-educatie een structureel onderdeel moeten worden van het onderwijs – al vanaf de basisschool. Niet alleen technisch, maar ook ethisch en maatschappelijk: wat doet AI met je wereldbeeld, met privacy, met je rechten?

Finland is op dit vlak voorloper, met brede AI-lessen voor jongeren én volwassenen. In Nederland zijn er pilots en enthousiaste initiatieven, maar het ontbreekt aan samenhang en structurele ondersteuning. Het ministerie van OCW zou in samenwerking met de Nederlandse AI Coalitie een nationaal curriculum kunnen opstellen, inclusief leermiddelen, training voor docenten en betrokkenheid van het bedrijfsleven.

Want als we willen dat burgers later kritisch, weerbaar en vrij blijven in een wereld vol slimme systemen, moeten we ze die vaardigheden al jong aanleren. Digitale geletterdheid is niet optioneel, het is het nieuwe burgerschap.

De echte AI-vraag: wie stuurt wie?

Als we nu niets doen, groeit AI buiten ons om. Dan bouwen we systemen die mensen beoordelen, selecteren en sturen zonder dat we begrijpen hoe of waarom. De toeslagenaffaire zou dan geen pijnlijk incident meer zijn, maar het begin van een patroon waarin technologie menselijke schade veroorzaakt zonder dat iemand nog verantwoordelijk is. Niet uit kwade wil, maar uit gemak, onwetendheid en een gebrek aan regie.

Wat als we het nu eens anders proberen te doen? Dat we technologie beschouwen als een publiek vraagstuk, niet als een marktproduct. Dat we ethiek niet aan de achterkant toevoegen, maar vanaf de eerste regel code integreren. En dat we toezicht durven organiseren, recht durven beschermen, en jongeren leren hoe ze zichzelf kunnen wapenen tegen manipulatie door slimme systemen. Dan is AI geen bedreiging, maar een bondgenoot in het bouwen van een menswaardige samenleving.

De toekomst van AI is geen technisch verhaal. Het is een democratisch verhaal. Een rechtvaardigheidsvraag. Die ligt in mijn optiek niet in de handen van machines, maar in die van ons.

AI was jarenlang een soort individuele ervaring. Jij en een chatbot, op je laptop of telefoon, in een soort één-op-één gesprek. Maar wat als AI net zo sociaal wordt als Instagram of Spotify? Meta’s nieuwe AI-app doet precies dat: het maakt kunstmatige intelligentie onderdeel van je sociale netwerk. En dat is even wennen – maar misschien ook een gamechanger.

Wat doet de app? Je kunt ermee praten, tekst genereren, plaatjes maken, je slimme bril koppelen… niets nieuws onder de zon, zou je zeggen. Maar het verschil zit ‘m in de Discover-feed. Die laat zien wat anderen doen met AI. Prompts, vragen, beelden – alles wat mensen delen – kun je bekijken, liken, aanpassen of zelf gebruiken. Een soort TikTok, maar dan niet voor dansjes, maar voor AI-ideeën.

Waarom doet Meta dit? Omdat het iets goed begrijpt: AI is pas écht krachtig als het gedeeld wordt. In plaats van zelf eindeloos sleutelen aan de perfecte prompt, kun je straks gewoon zien hoe anderen het aanpakken. Net zoals je muziek deelt op Spotify of recepten op Pinterest. En als bedrijf met miljarden gebruikers is Meta perfect gepositioneerd om daar een platform voor te bouwen.

Wat is er goed aan? De technologie is indrukwekkend. Gebouwd op Llama 4 – het eigen AI-model van Meta – is de app snel, persoonlijk en spraakgestuurd. Je kunt wisselen tussen tekst, beeld en stem, en als je een Meta-bril hebt, loopt het gesprek gewoon mee van bril naar telefoon naar desktop. De AI onthoudt wat jij belangrijk vindt – van je vakantieplannen tot je voorkeur voor vegetarisch eten – en maakt antwoorden steeds persoonlijker.

Maar er zijn kanttekeningen. De app is voorlopig alleen in een paar Engelstalige landen volledig beschikbaar. En belangrijker: die persoonlijke ervaring vraagt om data. Veel data. Van wat je post op Facebook tot wie je volgt op Instagram. Volgens Meta gebeurt dat alleen met toestemming, en je kunt instellen wat je wel of niet deelt. Maar feit blijft: hoe persoonlijker de AI, hoe meer je moet prijsgeven. En dat roept vragen op over privacy, zeggenschap en transparantie – zeker gezien Meta’s verleden.

Dan is er nog het sociale aspect zelf. Want hoe zinvol is het om door de AI-gesprekken van anderen te scrollen? Voor de een een bron van inspiratie, voor de ander vooral chaos of zelfs onbedoeld oversharing. De waarde van die feed hangt dus sterk af van de community eromheen.

En hoe betrouwbaar is de AI eigenlijk? In tests maakt Meta’s assistent nog regelmatig simpele fouten – van verkeerde rekenantwoorden tot kromme logica. Dat is niet uniek voor Meta, maar het onderstreept wel dat deze app nog niet klaar is voor serieuze toepassingen zoals zorg of juridische hulp. Het is een consumentenproduct – voor nu vooral bedoeld om te ontdekken, spelen en experimenteren.

Dus wat is het eindoordeel? De nieuwe Meta AI-app is geen simpele ChatGPT-kloon. Het is een strategische zet die AI uit het isolement haalt en onderdeel maakt van het sociale web. Dat is slim, ambitieus, en ook een tikje spannend. Want als AI net zo invloedrijk wordt als sociale media, moeten we extra goed nadenken over regels, bescherming en zeggenschap.

Meta heeft met deze app misschien niet het slimste AI-model, maar wel het grootste podium. En dat kan de manier waarop we AI gebruiken – en samen beleven – definitief veranderen. De toekomst van AI wordt niet alleen slimmer. Ze wordt ook… socialer.

Je hebt geen studio nodig. Geen green screen. Geen acteur. En geen Hollywood-budget. Alleen een paar foto’s, een script, en een paar klikken. In nog geen 10 minuten kun jij vandaag een deepfake maken die zó echt lijkt, dat zelfs je moeder erin trapt. 

Klinkt als sciencefiction of enkel voor tech experts? Nope. Het is 2025. En de tools zijn gewoon te koop. Neem bijvoorbeeld HeyGen. Je uploadt een foto, typt een tekst in, kiest een stem – en binnen een paar minuten praat jouw gezicht met jouw stem. Of iemand anders’ gezicht met jouw stem. Of jouw gezicht met iemand anders’ stem. You get the idea. Dat gebeurde laatst bijna bij de moeder van een vriend van mij. Zij dacht dat haar zoon belde. Maar het bleek een scammer te zijn, die zijn stem had gekloond. 

Of Synthesia. Daar kies je uit een hele galerij aan menselijke avatars. Upload je script en… klaar. Jij of iemand anders staat daar ineens een perfect gearticuleerde video toe te spreken – in 40 talen, met natuurlijke mimiek en oogbewegingen.

Wil je nog een stapje verder? DeepFaceLab laat je gezichten 1-op-1 verwisselen in bestaande video’s. Denk aan een filmfragment, een interview of een toespraak. Vervang het gezicht, pas de stem aan, en klaar ben je.

En het blijft niet bij video. GPT-modellen kunnen nu zelfs geloofwaardige valse documenten maken. In India is onlangs ontdekt dat je met simpele prompts nepaadhaar- en PAN-kaarten kon genereren — het digitale identiteitsbewijs waar miljoenen mensen op vertrouwen. Een ramp in wording voor digitale fraude.

Dat klinkt heftig. En dat ís het ook. Want dit is geen toekomstmuziek meer.

Ferrari beleefde vorig jaar bijna z’n eigen deepfake-crisis. Een nep-CEO belde medewerkers met een nagemaakte stem, en vroeg om gevoelige informatie. Het klonk zó echt dat de alarmbellen pas laat gingen rinkelen. Uiteindelijk werd de oplichter ontmaskerd, maar het had net zo goed fout kunnen aflopen.

Ook in Nederland neemt het aantal deepfake-fraudes snel toe. Volgens een recent onderzoek van Nederland Digitaal zijn valse video’s, stemmen en identiteitsbewijzen in opmars als fraudemiddel. Criminelen gebruiken AI om geloofwaardige leugens te fabriceren — en bedrijven én burgers trappen erin. We hebben het niet meer over phishing-mails met spelfouten, maar over hyperrealistische CEO’s die je bellen met een dringend verzoek.

Dus: wat kun je doen?

Eén: Check de bron. Als je een video of stem hoort met een opvallend verzoek, neem altijd apart contact op via een ander kanaal. Geen WhatsApp, maar een belletje. Geen mail, maar een videocall.

Twee: Let op het onmenselijke. Deepfakes zijn goed, maar nog niet perfect. Let op rare knipperpatronen, houterige gezichtsbewegingen of emoties die nét niet kloppen. Bij stemdeepfakes: een monotone toon, onlogisch ritme, of opvallend slechte geluidskwaliteit zijn rode vlaggen.

Drie: Train je team. Of je nu ondernemer bent, HR’er of finance professional: zorg dat je collega’s weten wat deepfakes zijn en hoe ze klinken of eruitzien. Een klein stukje awareness kan duizenden euro’s of je reputatie schelen.

De technologie is hier. De drempel is weg. En het verschil tussen echt en nep vervaagt steeds sneller.

Dus als je morgen een video ziet die “te goed is om waar te zijn”? Check even twee keer. Of drie. Want een deepfake maken… dat kan tegenwoordig iedereen. De vraag is: kun jij het nog herkennen?