Mijn 11 favoriete AI trends voor 2027

Ingehaald. Elke keer voel ik me weer ingehaald. Elke lezing, elk artikel. Ik volg technologische ontwikkelingen al meer dan 10 jaar, maar dit tempo blijft me verbazen. Toch zit de grootste verandering volgens mij niet in de zoveelste chatbot die slimmer wordt. AI begint inmiddels invloed te krijgen op zaken waar we veel minder snel aan denken. Van de manier waarop jonge medewerkers hun vak leren tot onze pensioenbeleggingen, de energierekening en de toekomst van het openbare internet. In deze blog duik ik in de 11 belangrijkste ontwikkelingen die ik voorzie voor komend jaar.

 

Voor mijn jaarlijkse AI-trendblog voor Frankwatching heb ik me opnieuw verdiept in een flinke stapel onderzoeken, bedrijfsrapporten en technologische ontwikkelingen. Daarbij heb ik bewust gezocht naar de trends achter de bekende verhalen over slimmere chatbots, meer AI-agents en robots die steeds meer kunnen.

Eerst even terugblikken op 2026

In mijn trendblog voor 2026 schreef ik over een sterkere samenwerking tussen mens en machine, AI-superapps, gespecialiseerde modellen, vertrouwen en de groeiende behoefte aan trainingsdata. Vooral de ontwikkelingen rondom agents zijn hard gegaan. Waar we vorig jaar nog enthousiast experimenteerden met digitale assistenten, beginnen die inmiddels bij steeds meer organisaties daadwerkelijk werkzaamheden over te nemen. Ik merk het zelf ook echt in mijn eigen bedrijven. In het begin was ik sceptisch, omdat agents zo werden gehyped. Maar inmiddels heb ik er meer dan 60 aan het werk, die echt van onschatbare waarde zijn in de dagelijkse werkzaamheden.

Ook de opkomst van gespecialiseerde modellen is goed zichtbaar. In de advocatuur, financiële sector en gezondheidszorg wordt steeds vaker gewerkt met AI die specifiek voor een bepaald vakgebied is ontwikkeld. De voorspelde AI-superapps ontwikkelen zich ondertussen wat minder overzichtelijk, al voorzie ik komend jaar nog wel een verrassing op dat vlak vanuit een techgigant. Want grote technologiebedrijven voegen steeds meer functies samen, maar we hebben nog niet één digitale assistent die werkelijk ons hele digitale leven regelt. Vooral de koppelingen met andere systemen, privacy en betrouwbaarheid blijven lastige onderwerpen. De lancering van Muse is een eerste interessante stap.

Misschien is vertrouwen wel de trend die de grootste verandering heeft doorgemaakt. Vorig jaar ging het veel over hallucinaties, deepfakes en de enorme hoeveelheid AI-content op internet. Inmiddels moeten we nadenken over systemen die zelfstandig handelingen uitvoeren en toegang krijgen tot gevoelige informatie. Dat betekent overigens niet dat iedereen al massaal met agents werkt. Uit Nederlands onderzoek van PwC blijkt dat 54% van de werknemers het afgelopen jaar AI op het werk gebruikte, terwijl dagelijks gebruik van AI-agents nog relatief zeldzaam is.

Voor 2027 verwacht ik daarom vooral een verschuiving van experimenteren naar de echte diepere gevolgen van AI. De technologie wordt steeds beter in het uitvoeren van werk, maar organisaties moeten ondertussen uitvinden hoe ze dat allemaal verstandig organiseren.

1. AI doet het werk en wij hoeven het alleen nog maar te controleren

Ik merk het zelf inmiddels op talloze vlakken. Door de verschillende AI-agents die ik heb gebouwd, ben ik een groot deel van het saaie, terugkerende werk kwijt. Informatie verzamelen, dingen uitzoeken, allerlei kleine klusjes die normaal gesproken ongemerkt veel tijd kosten. Mijn agents doen het werk en ik hoef vaak alleen nog maar even te controleren of alles klopt. Ik vind het echt fantastisch. Het levert me niet alleen tijd op, maar vooral ruimte in mijn hoofd. Meer energie voor creatieve ideeën, nieuwe projecten en de dingen die ik daadwerkelijk leuk vind om te doen.

Tegelijk zit daar voor mij een interessante ontwikkeling achter. Als AI steeds meer gaat produceren, moeten we ook steeds meer controleren. In de softwarewereld zien we de eerste gevolgen. Onderzoeksbureau GitClear analyseerde miljoenen codewijzigingen en zag onder andere een sterke toename van gedupliceerde code. Software kan daardoor vandaag prima werken, maar later lastiger te onderhouden zijn. Dat is niet uitsluitend aan AI toe te schrijven, maar het laat wel zien dat sneller produceren niet automatisch betere resultaten oplevert.

Bij accountants, advocaten en andere kenniswerkers speelt iets vergelijkbaars. Een medewerker kan dankzij AI misschien 20 analyses maken in de tijd waarin hij er vroeger twee produceerde, alleen moet iemand nog steeds vaststellen of de uitkomsten kloppen. Vooral subtiele fouten zijn lastig, omdat je daarvoor juist veel vakkennis nodig hebt.

Ik verwacht daarom dat het controleren van AI-werk echt een belangrijk specialisme wordt. Bedrijven zullen (moeten) investeren in onafhankelijke audits, verificatiesoftware en systemen die de resultaten van andere AI-modellen beoordelen. Voor mij persoonlijk is die controle nu nog een prima prijs voor alle tijd die ik terugkrijg. Maar op het moment dat een organisatie duizenden AI-processen laat draaien, wordt het een heel ander verhaal.

2. Je digitale collega krijgt een paspoort en een eigen budget

AI-agents kunnen steeds meer zelfstandig regelen. Ze zoeken informatie, bedienen software, versturen berichten en voeren complete werkprocessen uit. De volgende stap wordt in mijn optiek ook bijzonder interessant: agents die ook namens ons gaan betalen.

In Nederland wordt daar ook al volop mee geëxperimenteerd. ING voerde in juni 2026 samen met Worldline en Mastercard een echte agentgestuurde betaling uit. Een klant gebruikte een AI-assistent om concertkaarten te kopen bij het Koninklijk Concertgebouworkest. De klant gaf zijn voorkeuren en budget door, de agent zocht geschikte kaarten en regelde na goedkeuring de aankoop.

Ook het Nederlandse Adyen lanceerde een platform voor betalingen via agents. Daarmee kunnen webwinkels hun producten en betaalmogelijkheden beschikbaar maken voor verschillende AI-assistenten. Dat opent talloze gave mogelijkheden. Stel dat je digitale assistent straks zelfstandig je boodschappen bestelt, een goedkoper energiecontract zoekt of een treinkaartje koopt. Je geeft vooraf je voorkeuren en budget aan, waarna de agent de rest regelt. Het pakt taken op die mensen ook het liefst uit handen geven, zodat ze meer tijd kunnen besteden aan leukere dingen.

Maar wie is verantwoordelijk als het misgaat? Wat als een agent iets koopt wat je niet wilde, een onbetrouwbare webshop kiest of wordt gemanipuleerd door informatie op een website?

Daar komt nog een ander vraagstuk bij. Wie bepaalt welke producten jouw agent te zien krijgt? Als een AI-assistent namens miljoenen consumenten aankopen doet, wordt de partij achter die assistent een bijzonder machtige tussenpersoon. Het is ook een vraagstuk waar ik veel organisaties nu flink op zie inzetten. Hoe zorg je ervoor dat agents jouw bedrijf en jouw product aanraden en ook aanschaffen?

Ik verwacht dat we in 2027 steeds meer systemen krijgen waarmee agents een eigen digitale identiteit en duidelijk afgebakende bevoegdheden krijgen. Een soort paspoort waarmee ze kunnen aantonen namens wie ze handelen, wat ze mogen doen en wanneer ze toestemming moeten vragen.

De technologie is overigens volgens mij absoluut nog niet klaar voor volledig zelfstandig winkelen op grote schaal. Mollie waarschuwde eerder dit jaar dat vooral authenticatie, fraudeherkenning en aansprakelijkheid nog ingewikkelde vraagstukken zijn. Maar dat maakt de ontwikkeling juist ook weer interessant. We bouwen aan een nieuwe manier van winkelen en betalen, terwijl de spelregels nog grotendeels moeten worden geschreven.

3. De echte voorsprong zit straks in wat AI van jouw bedrijf leert

De grote AI-bedrijven proberen elkaar voortdurend te overtreffen met slimmere modellen. Bijna elke week is er wel weer een nieuw model, een nieuwe iteratie van een bestaand model dat wordt gelanceerd. Maar voor organisaties wordt waarschijnlijk iets anders belangrijker: de kennis die hun eigen AI-systemen tijdens het werk opbouwen.

Neem een verzekeraar die dagelijks duizenden schadeclaims beoordeelt. Medewerkers corrigeren regelmatig de uitkomsten van AI, bijvoorbeeld omdat een dossier ingewikkelder blijkt dan het systeem dacht. Al die correcties vormen samen waardevolle praktijkkennis. Een concurrent kan dan wel hetzelfde AI-model aanschaffen, maar beschikt niet automatisch over die ervaringen, context en kunde.

Ik raad organisaties daarom ook steeds vaker aan om niet alleen te kijken naar wat AI vandaag kan automatiseren, maar vooral naar hoe ze zelf slimmer worden van het gebruik ervan. Begin bijvoorbeeld met één terugkerend proces. Leg vast welke antwoorden van AI goed waren, welke antwoorden medewerkers moesten aanpassen en waarom. Verzamel die correcties op een centrale plek, zodat je ze later kunt gebruiken om het systeem te verbeteren.

Dat hoeft trouwens niet meteen met ingewikkelde technische oplossingen of tools. Een goed ingerichte kennisbank, duidelijke feedback van medewerkers en regelmatig testen met echte praktijdsituaties kunnen echt al veel verschil maken. Belangrijk is wel dat je zorgvuldig omgaat met vertrouwelijke informatie en afspraken maakt over wie de gegevens mag gebruiken, want dat zie ik nog te vaak niet duidelijk afgebakend of afgeschermd.

Ik denk dat organisaties die dit goed regelen een veel duurzamere voorsprong opbouwen dan bedrijven die simpelweg iedere maand het nieuwste AI-model aanschaffen.

4. Van piramide naar diamant: de junior verdwijnt

Het is een trend waar ik in het begin ook kritisch op was, maar die ik toch echt bij talloze organisaties waar ik mee of voor werk zie gebeuren. Vooral in de juridische wereld, marketing en andere kennisintensieve sectoren wordt steeds meer eenvoudig werk door AI uitgevoerd. Dat heeft daarom ook echt gevolgen voor de manier waarop bedrijven zijn opgebouwd.

Traditioneel lijken veel organisaties op een piramide. Een brede laag junioren voert relatief eenvoudig werk uit, daarboven zitten ervaren medewerkers en managers, en helemaal bovenaan een kleine groep leidinggevenden.

AI begint die vorm nu echt te veranderen. Veel werkzaamheden die vroeger door junioren werden gedaan, kunnen inmiddels worden geautomatiseerd. Ik hoor het leadership van organisaties letterlijk zeggen: “Vroeger hadden we X aantal juniors, nu hebben we er nog maar 1 die goed om kan gaan met AI”. Tegelijkertijd groeit de behoefte aan ervaren professionals die AI-processen ontwerpen, controleren en verbeteren.

De piramide begint daardoor steeds meer op een diamant te lijken. Een smallere onderkant, een bredere middenlaag met mensen die ontwerpen, beoordelen en bijsturen, en een relatief kleine top.

Onderzoekers van Stanford zien al signalen van die verschuiving. In hun onderzoek naar de Amerikaanse arbeidsmarkt blijkt dat jonge werknemers van 22-25 jaar in beroepen die sterk aan AI zijn blootgesteld, een achterstand van 19% hebben opgelopen ten opzichte van de werkgelegenheidsontwikkeling bij vergelijkbare jongeren in minder blootgestelde beroepen. Er is nog geen bewijs voor massaal banenverlies in de hele economie, maar de gevolgen lijken vooral bij starters zichtbaar.

Dat roept een lastige vraag op. Hoe worden mensen straks nog goed in hun vak? Waar komen de seniors van morgen vandaan? Wie leidt hen op? Een beginnende advocaat leert veel door documenten te bestuderen. Een junior marketeer ontwikkelt gevoel voor campagnes door zelf analyses te maken. Als AI al dat werk overneemt, verdwijnt ook een deel van de praktijkopleiding. Voor organisaties betekent dit dat ze opnieuw moeten kijken naar hoe ze hun personeel opbouwen. Hoeveel jonge krachten hebben jullie nog nodig? Welke nieuwe functies komen er in de middenlaag naar voren? Hoe zorg je ervoor dat jonge medewerkers genoeg ervaring opbouwen om later die controlerende rol te vervullen?

Ik verwacht dus (en hoop om eerlijk te zijn) dat we nieuwe manieren van opleiden gaan zien, waarbij jonge medewerkers bewust bepaalde taken zelf blijven uitvoeren, met AI als begeleider. Anders besparen bedrijven vandaag op eenvoudig werk, maar ontdekken ze over vijf jaar dat er te weinig ervaren medewerkers zijn.

5. AI wordt goedkoper, maar de rekening loopt toch op

Een van de duidelijkste ontwikkelingen dit jaar is de discussie over de kosten van AI. De prijs van een afzonderlijke AI-actie daalt, maar tegelijkertijd geven bedrijven steeds meer geld uit aan deze technologie. Heb je net je werknemers aan de AI gekregen, lopen de kosten zo de pan uit dat je voor jezelf de kosten niet meer kan uitleggen.

Dat gebeurt vooral omdat agents veel ingewikkeldere taken uitvoeren dan oude chatbots. Een eenvoudige vraag kost weinig rekenkracht. Een agent die zelfstandig een uitgebreid onderzoek doet, moet misschien honderden documenten lezen, meerdere systemen raadplegen en zijn eigen resultaten checken. In al die stappen worden tokens gebruikt, de kleine stukjes informatie die AI-systemen verwerken. Hoe meer een agent doet, hoe hoger de rekening kan worden.

In Silicon Valley is zelfs een opvallende trend ontstaan: tokenmaxxing. Medewerkers werden aangemoedigd om zoveel mogelijk AI te gebruiken, waarbij het gebruik van tokens bijna werd gezien als maatstaf voor productiviteit. Dat liep bij sommige bedrijven behoorlijk uit de hand. Uber had zijn hele AI-budget voor 2026 al in de eerste 4 maanden opgebruikt. Het bedrijf moedigde programmeurs aan om veel AI te gebruiken, maar ontdekte dat meer gebruik niet altijd betekende dat er ook evenveel waarde werd gecreëerd. Amazon heeft om diezelfde reden een interne ranglijst voor AI-tokengebruik gestopt. Het bericht van het bedrijf was duidelijk: “Gebruik AI niet alleen maar om AI te gebruiken.”

In Nederland krijgen we ook vergelijkbare vragen over de opbrengsten van AI-investeringen. Volgens een Europees onderzoek van Frends levert slechts 21% van de onderzochte Nederlandse AI-projecten meetbare resultaten op. Dit cijfer komt uit een enquête onder IT- en zakelijke besluitvormers, maar laat wel zien hoe lastig het is om de waarde van AI goed te meten.

Voor 2027 verwacht ik daarom een veel kritischer blik op AI-kosten. Bedrijven gaan niet alleen kijken naar hoeveel medewerkers AI gebruiken, maar vooral naar de kosten per succesvol afgeronde taak. Soms is een goedkoper model voldoende, soms is een duurder model de investering waard, en soms blijkt een mens nog steeds de beste oplossing. Ik zie dit al voorbijkomen bij organisaties waar ik mee werk. Licenties worden opgezegd als mensen ze niet gebruiken of worden zelfs gelimiteerd, zodat werknemers niet eindeloos tokens kunnen opbranden. Philips geeft elke medewerker bijvoorbeeld al een persoonlijk dashboard om het eigen AI-gebruik inzichtelijk te maken en kijkt ook heel scherp naar wat de verhouding tussen opbrengst en waarde oplevert.

6. De AI-bubbel gaat barsten, maar dat hoeft geen slecht nieuws te zijn

Bij vrijwel iedere keynote die ik over AI geef, hoor ik de vraag: “Wanneer denk je dat de bubbel gaat barsten?”. Ik vind dat altijd een interessante discussie, omdat technologische revoluties vaak gepaard gaan met enorme verwachtingen en overinvesteringen. Denk aan de internetbubbel rond 2000, de enorme investeringen in telecomnetwerken of aan verschillende cryptobubbels. Achteraf bleken veel verwachtingen overdreven, maar de technologie zelf verdween niet. Sterker nog, een deel van de infrastructuur en bedrijven die tijdens zulke periodes ontstonden, werd later juist ontzettend belangrijk.

Ik vind bubbels wat dat betreft daarom niet per definitie slecht. Ze zorgen voor aandacht, enthousiasme en enorme hoeveelheden kapitaal. Daardoor groeien ontwikkelingen die anders misschien veel langer zouden duren. Vorig jaar voorspelde ik al dat de AI-bubbel zou kunnen barsten, maar daar zat ik voorlopig naast.

Echter verwacht ik nog steeds dat er een stevige correctie komt, mogelijk al in 2027. De investeringen zijn inmiddels zo groot dat niet alle bedrijven hun beloften kunnen waarmaken. Nu niet, volgend jaar niet, nooit niet. Het IMF waarschuwde in oktober 2026 voor de financiële risico’s van een mogelijke correctie in AI-aandelen, vooral door hoge waarderingen en toenemende schulden.

Interessant is dat de risico’s inmiddels verder reiken dan de technologiebedrijven zelf. De BIS berekende dat private kredietfondsen eind 2025 meer dan 500 miljard dollar hadden uitgeleend aan softwarebedrijven. Juist die bedrijven kunnen onder druk komen wanneer AI-agents traditionele software-abonnementen vervangen, de saasacopalypse.

Voor Nederland is dat trouwens extra relevant. De Nederlandsche Bank berekende dat Nederlandse pensioenfondsen eind juli 2025 ruim 150 miljard in aandelen van technologiebedrijven hadden belegd. Dat is niet allemaal AI, maar het laat zien hoe sterk onze pensioenvermogens met de technologiesector verweven zijn. Ik verwacht dus dat de AI-bubbel uiteindelijk echt wel gaat barsten. Maar dat betekent niet dat AI mislukt. Waarschijnlijk verdwijnen vooral bedrijven en verdienmodellen die de enorme verwachtingen niet kunnen waarmaken, terwijl de technologie, de infrastructuur eronder, zelf verder groeit.

7. AI vindt sneller beveiligingsproblemen dan we kunnen oplossen

Begin 2026 nam Daniel Stenberg (de ontwikkelaar van de bekende softwaretool curl) een opvallende beslissing. Hij stopte met zijn bugbountyprogramma (leuk scrabble woord!), waarmee beveiligingsonderzoekers geld konden verdienen door kwetsbaarheden te melden. Een belangrijke reden was de enorme hoeveelheid slechte meldingen, waaronder rapporten die met AI waren gemaakt. Zijn team was steeds meer tijd kwijt aan het beoordelen van problemen die vaak helemaal geen echte kwetsbaarheden bleken te zijn. AI slop tot he max!

Dit voorbeeld laat voor mij een nieuw cybersecurityprobleem zien. AI maakt het gemakkelijker om beveiligingsfouten te zoeken, maar iemand moet nog steeds vaststellen of een melding klopt en hoe het probleem kan worden opgelost. Tegelijk kunnen AI-agents zelf nieuwe risico’s veroorzaken. Een aanvaller kan bijvoorbeeld kwaadaardige instructies verstoppen in een document dat een agent moet lezen. Als de agent die instructies opvolgt, kan hij onbedoeld gegevens delen of bestanden aanpassen.

We hebben daarnaast de vele hacks gezien die AI heeft veroorzaakt. De agent swarms die inbraken op platformen als hugging face, maar ook de Australische overheid hackten. De technologie creert daarmee ook op dit vlak een gekke spagaat. Aan de ene kant zorgt het voor heel veel meer hacks. Het aantal cyberrisico’s is alleen deze zomer al verzesvoudigd. Aan de andere kant hebben we modellen zoals Mythos die juist bedrijven helpen om bugs op te sporen en te verhelpen.

Voor 2027 verwacht ik daarom meer aandacht voor herstelcapaciteit. Softwarebedrijven hebben weinig aan systemen die duizenden kwetsbaarheden ontdekken wanneer hun ontwikkelaars nauwelijks tijd hebben om ze veilig te repareren.

8. Het internet dat AI groot maakte, begint in 2027 zijn deuren te sluiten

De grote AI-modellen zijn natuurlijk mede zo krachtig geworden dankzij de enorme hoeveelheid informatie op het openbare internet. Artikelen, websites, programmeerfora en wetenschappelijke publicaties vormden een belangrijke voedingsbodem voor GPT, Claude etc.

Maar de makers van die informatie beginnen zich steeds vaker af te vragen wat ze daarvoor terugkrijgen. Jarenlang verdienden uitgevers geld doordat mensen via zoekmachines op hun websites terechtkwamen. Een AI-assistent kan informatie uit verschillende artikelen samenvoegen tot één antwoord, waardoor de gebruiker de oorspronkelijke websites niet meer hoeft te bezoeken. De discussie rondom de AI-antwoorden in Google is hierin het meest tastbare voorbeeld.

Cloudflare experimenteert daarom met betaalde toegang voor AI-crawlers. Website-eigenaren kunnen daarmee mogelijk geld vragen wanneer AI-bedrijven hun informatie willen gebruiken. Voor uitgevers is dat een interessante ontwikkeling, maar naar mijn idee ook voor marketeers. Als consumenten steeds vaker rechtstreeks advies vragen aan AI-assistenten, dan wordt het belangrijk welke merken en bronnen daarin worden genoemd.

Tegelijkertijd kan oorspronkelijke kennis juist waardevoller worden. Een AI-model kan duizenden artikelen samenvatten, maar iemand moet nog steeds nieuwe feiten ontdekken, onderzoek doen en echte ervaringen verzamelen. Dat biedt kansen voor journalisten, experts en bedrijven die meer te vertellen hebben dan wat overal al te lezen staat.

9. Robots leren straks in werelden die niet bestaan

Een van de ontwikkelingen waar ik zelf het meest enthousiast van word, is de combinatie van AI, robotica en VR. Met zogenaamde world models kunnen onderzoekers digitale omgevingen bouwen waarin AI leert hoe de fysieke wereld werkt. Een robot kan bijvoorbeeld duizenden keren oefenen met het oppakken van voorwerpen of het ontwijken van obstakels, zonder dat er in de echte wereld iets kapotgaat.

AI-grootheden als Fei Fei Li en Yann LeCun zijn het afgelopen jaar ook al ‘all-in’ gegaan met een eigen bedrijf in world models. Ook Google laat met Project Genie zien hoe AI interactieve werelden kan maken. Deze technologie biedt interessante mogelijkheden om toekomstige humanoids en zelfrijdende auto’s te trainen en te testen.

Deze ontwikkeling kan ook wetenschappelijk onderzoek versnellen. AI-systemen kunnen hypotheses bedenken, waarna geautomatiseerde laboratoria experimenten uitvoeren en de resultaten teruggeven aan het model. Je zag zoiets al rondom het corona vaccin, wat zo versneld op de markt kwam.

Voor de ontwikkeling van nieuwe medicijnen, materialen en batterijen kan dat in mijn optiek echt megaveel betekenen. De stap van een veelbelovende simulatie naar een betrouwbaar resultaat in de echte wereld blijft echter nog groot.

10. Nederland belandt midden in de geopolitieke AI-strijd

AI is inmiddels veel meer dan een wedstrijd tussen technologiebedrijven. De VS en China strijden om geavanceerde chips, rekenkracht en de controle over belangrijke technologie. Nederland speelt hierin een opvallende rol, dankzij bedrijven zoals ASML. Zonder de machines van ASML is de productie van de meest geavanceerde chips bijzonder moeilijk. Dat maakt dit Nederlandse bedrijf tot een belangrijke speler in de internationale machtsstrijd.

Tegelijk probeert Europa juist minder afhankelijk te worden van Amerikaanse cloudbedrijven en AI-modellen. Maar een datacenter dat fysiek in Europa staat, betekent nog niet automatisch dat Europa ook de controle heeft over de technologie.

Wie bezit de infrastructuur? Welke wetgeving geldt voor de leverancier? Wat gebeurt er wanneer een buitenlandse overheid beperkingen oplegt? Voor banken, ziekenhuizen en overheden worden die vragen steeds belangrijker. Zij kunnen niet zomaar zonder de digitale systemen waarop hun werkzaamheden draaien. Ik zie te veel organisaties die al hun core processen bouwen op Amerikaanse modellen, zonder na te denken over dit soevereiniteitsvraagstuk.

Ik verwacht dat digitale onafhankelijkheid in 2027 een veel concreter onderwerp wordt. Niet elke organisatie hoeft alles zelf te bouwen, maar bedrijven zullen beter moeten begrijpen van welke leveranciers ze afhankelijk zijn en welke alternatieven ze hebben.

11. We krijgen meer tijd dankzij AI, maar worden alleen maar drukker

AI zou ons toch zeeën van tijd gaan opleveren? Minder administratie, minder saaie klusjes en eindelijk tijd voor het werk dat we écht leuk vinden. Alleen zie ik ook iets geks gebeuren: hoe meer werk AI van ons overneemt, hoe drukker we het krijgen. Ik hoor steeds meer professionals hierover klagen.

Onderzoekers van UC Berkeley volgden 8 maanden lang medewerkers van een technologiebedrijf. Wat bleek? AI zorgde niet automatisch voor meer vrije tijd. Medewerkers pakten juist meer taken op, werkten sneller en gingen vaker buiten werktijd door. De tijd die ze bespaarden, vulden ze vrijwel onmiddellijk met nieuw werk.

Er ontstaat zelfs een nieuwe term: brain fry. Onderzoekers van Boston Consulting Group ontdekten bij een onderzoek onder 1488 Amerikaanse werknemers dat 14% van de AI-gebruikers mentale vermoeidheid ervaart door intensief gebruik van of toezicht op AI. Vooral het voortdurend controleren van verschillende AI-systemen vraagt veel concentratie.

Ik herken dat ergens ook bij mezelf. Met mijn tientallen agents kan ik inmiddels ontzettend veel werk verzetten. Maar betekent dat ook dat ik eerder mijn laptop dichtklap? Nou, niet bepaald! Er dienen zich juist voortdurend nieuwe ideeën, projecten en mogelijkheden aan, en zo kom je dus in die eindeloze loop.

Voor 2027 verwacht ik daarom dat we veel kritischer gaan kijken naar wat productiviteit eigenlijk betekent. Als een medewerker dankzij AI twee keer zoveel werk kan verzetten, verwachten we dan ook twee keer zoveel van die medewerker? Misschien wordt de grootste uitdaging van AI straks niet om nóg meer gedaan te krijgen, maar om eindelijk eens te bepalen wanneer het genoeg is. 🙂

De belangrijkste AI-doorbraak is misschien niet de meest spectaculaire

De belangrijkste AI-doorbraak van 2027 kan best eens iets zijn dat op een technologiebeurs nauwelijks applaus krijgt. Een betrouwbaar controlesysteem, een nieuwe manier om medewerkers op te leiden of een digitale identiteit waarmee AI-agents veilig kunnen samenwerken. Niet zo spectaculair als een robot die een salto maakt, maar waarschijnlijk een stuk belangrijker voor de wereld waarin we straks met al die slimme technologie moeten leven.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

Iedereen wil een super-app. Waarom Nederland niet?

Je ziet op TikTok een filmpje van een geweldig restaurant. Een paar seconden later bekijk je de menukaart, lees je beoordelingen en reserveer je een tafel. Zonder TikTok te verlaten. Sinds eind oktober kan dat bij geselecteerde restaurants in Amerikaanse steden dankzij de nieuwe functie Must Eat.

TikTok is niet de enige. Uber voegt hotelboekingen toe, X ontwikkelt betaaldiensten en zelfs via WhatsApp kun je in Nederland inmiddels eten bestellen bij Thuisbezorgd.nl. Allemaal bewegen ze richting hetzelfde idee: de super-app, één app waarin je vrijwel alles regelt.

In China is dat al jaren werkelijkheid. Via WeChat, met ruim 1,4 miljard maandelijkse gebruikers, kun je chatten, betalen, winkelen, reizen boeken en zelfs overheidsdiensten gebruiken. Grab doet iets vergelijkbaars in Zuidoost-Azië. Het gemak is fantastisch. Waarom hebben we zoiets eigenlijk niet in Nederland? Misschien lopen we helemaal niet achter, maar zijn we juist te ver ontwikkeld voor een traditionele super-app.

In Azië ontstonden super-apps onder heel andere omstandigheden. Miljoenen mensen gingen rechtstreeks van contant geld naar mobiel betalen, zonder ooit uitgebreid gebruik te hebben gemaakt van internetbankieren of creditcards. Eén app loste daar in één keer verschillende problemen op.

In Nederland hebben we al uitstekende oplossingen. We betalen met onze bankapp, gebruiken Tikkie, boeken hotels via Booking.com en reizen met onze OV-apps. Een super-app moet hier niet één slecht werkend systeem vervangen, maar concurreren met een hele verzameling diensten die prima functioneren.

Daar komt Europese regelgeving bij. De AVG en de Digital Markets Act beperken hoe grote platforms persoonsgegevens mogen combineren. Dat maakt het lastiger om één bedrijf tegelijk onze gesprekken, aankopen, locatie en financiële gegevens te laten beheren.

Dat is misschien maar goed ook. Want het gemak van een super-app heeft een prijs. Wie bepaalt welk restaurant jij te zien krijgt wanneer hetzelfde platform ook verdient aan de reservering? Wat gebeurt er met je gegevens? Hoe afhankelijk worden ondernemers van één algoritme?

In Zuid-Korea zagen we in 2022 hoe kwetsbaar die afhankelijkheid is. Door een brand in een datacenter vielen niet alleen chatdiensten van Kakao uit, maar ontstonden ook problemen bij betalingen, vervoer en andere diensten. Eén storing raakte een groot deel van het dagelijks leven.

Toch denk ik dat we ook in Europa iets krijgen wat op een super-app lijkt. Alleen vermoedelijk in een heel andere vorm. Met Wero bouwen Europese banken aan een gezamenlijk betaalsysteem dat iDEAL gaat vervangen. Europa ontwikkelt een digitale identiteitswallet. Tegelijk worden AI-assistenten steeds beter in het combineren van bestaande diensten.

Misschien hoef je straks helemaal geen super-app te downloaden. Je vraagt je AI-assistent gewoon om een restaurant te zoeken, een tafel te reserveren en de betaling te regelen. De diensten blijven bestaan, maar jij hoeft niet meer tussen allerlei apps te schakelen.

Daar zit voor mij de interessantste ontwikkeling. Al moeten we oppassen dat we niet simpelweg de macht van één super-app inruilen voor de macht van één AI-assistent. Mijn voorkeur? Het gemak van een super-app, zonder dat één bedrijf mijn complete digitale leven beheert. Misschien is dat wel een veel betere Europese uitvinding dan een kopie van WeChat.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

De leerling verdwijnt. Maar waar komt de meester van morgen vandaan?

De afgelopen tijd is me iets opgevallen bij veel klanten; van advocatenkantoren tot marketingbureaus. Overal merk ik dat het aantal jonge professionals steeds kleiner wordt. Ik hoor het niet alleen van leidinggevenden, ik zie het ook met eigen ogen wanneer ik bij deze organisaties kom. De werkzaamheden zijn er nog steeds, maar steeds meer taken die vroeger door juniors werden gedaan, worden nu uitgevoerd door AI. Dat is begrijpelijk als je kijkt naar efficiëntie. Maar ik vraag me steeds vaker af: als we de leerlingen laten verdwijnen, waar komen dan de meesters van morgen vandaan?

Het doet me denken aan Pablo Picasso. Voordat hij de schilderkunst op zijn kop zette, leerde hij eerst precies te tekenen. Zijn vroege werk toont duidelijk hoe goed hij de klassieke technieken beheerste. Pas daarna durfde hij te experimenteren met vormen, perspectieven en abstractie. Hij kon de regels doorbreken, omdat hij ze eerst had geleerd. Precies dat principe dreigen we met de komst van AI uit het oog te verliezen.

De onderste trede verdwijnt

De cijfers ondersteunen trouwens wat ik in de praktijk zie. Uit onderzoek van Stanford blijkt dat de werkgelegenheid van jonge medewerkers in beroepen waar AI sterk wordt gebruikt, steeds meer achteruitgaat. Een studie van Harvard onder miljoenen werknemers toont een vergelijkbaar beeld: bedrijven die AI invoeren, nemen minder juniors aan, terwijl de werkgelegenheid van seniormedewerkers toeneemt.

Ook in Nederland is dit zichtbaar. Volgens Indeed daalde het aantal juniorvacatures in twee jaar met 24%, terwijl het aantal seniorvacatures juist met 11% steeg. Vooral in sectoren zoals juridische dienstverlening, administratie en marketing is de terugloop groot.

Of AI hier volledig verantwoordelijk voor is, is nog altijd te bespreken. De afkoelende arbeidsmarkt, hogere kosten en veranderende eisen van werkgevers spelen ook een rol. Maar zelfs als AI slechts een deel van de verklaring is, blijft er een fundamenteel probleem over.

Het monnikenwerk was de opleiding

Denk aan een jonge advocaat die honderden pagina’s dossiers doorneemt. Of een beginnende consultant die dagenlang spreadsheets maakt. Werk dat AI nu razendsnel kan doen. Het leek misschien saai en inefficiënt, maar er gebeurde toch iets belangrijks. Die jonge professionals leerden patronen herkennen, fouten vinden en begrijpen waarom ervaren collega’s bepaalde keuzes maakten.

Het monnikenwerk was niet alleen productie. Het was ook opleiding. Door zelf onderzoek te doen, fouten te maken en feedback te krijgen, ontwikkelden juniors het oordeelsvermogen dat hen later tot goede senioren maakte. Nu dreigen we precies dat leerproces uit te schakelen.

Dat levert in mijn optiek een vreemde paradox op. We verwachten namelijk steeds meer van jonge professionals, terwijl we tegelijkertijd de werkzaamheden schrappen waarmee ze die vaardigheden kunnen ontwikkelen. We willen mensen die kritisch kunnen denken, complexe beslissingen nemen en verantwoordelijkheid dragen. Maar hoe leren ze dat als AI al het voorbereidende denkwerk doet?

Wie leert de volgende generatie denken?

IBM kiest opvallend genoeg een andere weg. Het bedrijf kondigde dit jaar aan de instroom van jonge medewerkers in de Verenigde Staten te verdrievoudigen. Niet omdat AI hun werk niet kan doen, maar omdat het bedrijf beseft dat het de experts van morgen zelf moet opleiden. De juniorfuncties worden opnieuw ingericht, met meer aandacht voor klantcontact, oordeelsvorming en het beoordelen van AI-uitkomsten.

Ik denk dat daar een belangrijke les in ligt voor leiders. Laat jonge medewerkers eerst zelf een analyse maken voordat ze AI raadplegen. Bespreek niet alleen het eindresultaat, maar ook de aannames, fouten en afwegingen die ertoe hebben geleid. Geef ervaren collega’s expliciet de verantwoordelijkheid om hun kennis te delen. Niet alles wat vandaag efficiënter kan, moet je ook volledig automatiseren.

Mijn advies is daarom om bij iedere AI-implementatie niet alleen te vragen hoeveel tijd en geld je bespaart, maar ook welke vaardigheden je medewerkers daardoor niet meer ontwikkelen. Want een organisatie die haar juniors wegautomatiseert, bespaart misschien op de salarissen van vandaag, maar creëert mogelijk het talenttekort van morgen. Picasso werd tenslotte ook geen meester door het tekenen over te slaan…..

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

Het viel mee… want de volgende crisis ziet eruit alsof alles werkt

Gisteren ging Digitaal Nederland gedeeltelijk uit. MijnOverheid, DigiD en de site van de Tweede Kamer gingen tijdelijk offline vanwege een lek in PHP. Om vier uur ‘s middags waren er al patches, en tegen de avond kwamen de eerste websites weer terug. Tot nu toe is er weinig gebeurd.

Precies daar zit het gevaar. Rond de millenniumwisseling werd veel geld besteed aan de millenniumbug. Op 1 januari 2000 gebeurde er vrijwel niets, en velen vonden dat het allemaal overdreven was. Dat was de verkeerde conclusie. Er gebeurde niets omdat mensen het probleem op tijd zagen. Na woensdag is het risico dat dezelfde fout herhaald wordt. Het viel mee. Het viel mee omdat het probleem zichtbaar was. De echte problemen die de komende jaren zullen komen, zijn niet zichtbaar.

Een systeem dat foutloos werkt

Nederland weet hoe stil falen eruitziet. Bij de toeslagenaffaire ging geen enkele website uit. Er was geen storing, geen lek, geen alarm. Een risicomodel van de Belastingdienst, dat onder andere nationaliteit meewoog, hielp jarenlang te bepalen welke ouders verdacht werden. Het systeem deed wat het moest doen. Voor duizenden gezinnen had het een verwoestend resultaat. In januari 2021 trad het kabinet af.

Datzelfde falen wordt nu opgeschaald met AI. Een model dat foutloopt, gaat niet op zwart. Het blijft vriendelijke antwoorden geven. Vroeger had je een overheid nodig met een eigen systeem voor zo’n probleem. Nu kan elke organisatie haar eigen versie bouwen. In een paar uur, zonder dat iemand het merkt.

Hoe afwijking normaal wordt

Wie wil begrijpen hoe dat gebeurt, moet teruggaan naar de Challenger-ramp van 1986. Socioloog Diane Vaughan liet later zien dat NASA de schade aan de afdichtingsringen al eerder had gezien. Elke keer ging het goed, dus elke keer werd de schade iets acceptabeler. Ze noemde dit de normalisering van afwijking. De avond voor de lancering waarschuwde ingenieur Roger Boisjoly dat de kou de ringen fataal kon worden. Hij werd niet gehoord.

Met AI gebeurt dit sneller dan we gewend zijn. Het model verzint een bron, iemand verbetert het, er gebeurt niets ergs. De tiende keer controleert niemand meer. Charles Perrow schreef al lang geleden dat ongelukken in complexe en strak gekoppelde systemen geen uitzondering zijn, maar een normale eigenschap. AI-agents die op elkaars output bouwen, vormen precies zo’n systeem.

Oefenen met een toekomst die nog niet bestaat

Wat moet je als leider doen? Voorspellen lukt niet. Maar je kunt doen wat Shell in de jaren zeventig deed. Pierre Wack en zijn team schreef scenario’s, waaronder een plotselinge oliecrisis. Niet om de toekomst te raden, maar om het management er alvast in te laten lopen. Toen de crisis van 1973 kwam, herkende Shell haar sneller dan de concurrentie.

Hetzelfde werkt voor AI. Ga met je bestuur om tafel en begin met deze zin: het is 2029 en onze AI zit al drie jaar structureel fout. Hoe is dat gebeurd? Wie had het kunnen zien? Waarom hebben we niet geluisterd?

Die laatste vraag is het belangrijkst. Bij stil falen kleurt geen dashboard rood. De enige sensor is een mens die zegt: dit klopt niet. Challenger had die mens. Wat ontbrak was een leidinggevende die luisterde. De belangrijkste maatstaf voor bestuurders is daarom niet hoeveel processen op AI draaien, maar hoe snel twijfel van de werkvloer de top bereikt. Wat er daarna gebeurt, zegt alles over je leiderschap.

Gisteren ging het licht uit en zag iedereen dat het donker was. De volgende keer blijft het licht branden en staan alleen de meubels op een andere plek. Organisaties die dat overleven, hebben niet de beste technologie. Ze hebben mensen die het opmerken. Ze hebben leiders die hen geloven.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

Het risico waar zelfs verzekeraars geen antwoord op hebben

Afgelopen week hield ik een lezing voor een groep verzekeraars. Mensen die precies weten hoe een goede polis eruit moet zien. Voor bijna alles is er al een polis: voor je dak, je vrachtwagen, je bestuurders. Maar voor fouten die AI maakt, is dat nog steeds niet het geval. Terwijl we AI nu massaal gebruiken, zowel als individuen als als organisaties. Niet alleen de risico’s nemen toe, ook de grote fouten worden steeds vaker.

Het begint soms grappig. Een Amerikaanse autodealer zag zijn chatbot een nieuw SUV aanbieden voor één dollar. De klantenservicebot van DPD begon te vloeken en schreef een gedicht over hoe slecht DPD was.

Maar dan wordt het minder grappig. Air Canada liet zijn chatbot een rouwkorting beloven die niet bestond en vertelde later dat de bot een aparte entiteit was. De rechter zag dat anders: Air Canada moest betalen. In Duitsland gaf de chatbot van een kliniek artsen titels die ze niet hadden. Het Oberlandesgericht Hamm oordeelde in mei dat de kliniek verantwoordelijk was, ook al had de bot correcte informatie gekregen. In een zaak in Amsterdam citeerde een advocaat een arrest van de Hoge Raad met een passage die nooit had bestaan, wat leidde tot extra kosten. Deloitte moest geld terugbetalen aan de Australische overheid na een rapport met verzonnen bronnen.

Het patroon herhaalt zich steeds: het begint als een nieuwsgierigheid en eindigt bij de rechter. De meeste fouten worden nooit gezien. Ze zitten in een verkeerde offerte of een foute belofte in een klantmail. Niemand merkt het, totdat iemand het wél opmerkt.

En wie is er verantwoordelijk? Jij!

Niet de leverancier, niet de chatbot, niet de medewerker die op verzenden drukte. De organisatie die AI gebruikt, draagt verantwoordelijkheid voor wat die AI zegt en doet. Er is geen nieuwe wet nodig voor dat. Een werkgever is aansprakelijk voor fouten van zijn personeel. Wie een ongeschikt hulpmiddel gebruikt, draagt de gevolgen. Een hallucinerend taalmodel is precies zo’n hulpmiddel.

De leverancier sluit vaak aansprakelijkheid voor output uit in de voorwaarden. Je disclaimer helpt ook niet. Air Canada had de juiste informatie op hun website staan, maar de klant vertrouwde op de chatbot. Europa zet de eisen nog hoger. Vanaf 9 december 2026 geldt software en AI als product onder de nieuwe productaansprakelijkheidsrichtlijn. Dan kan een rechter je dwingen je logs te tonen.

De verzekeraars schrikken allemaal terug

Lang was AI-schade onderdeel van de gewone polis, omdat niemand AI had uitgesloten. Die onzichtbare dekking verdwijnt. Grote Amerikaanse verzekeraars zoals AIG en W.R. Berkley willen AI-aansprakelijkheid uitsluiten. Sinds januari liggen daar standaardclausules klaar.

Dat is in mijn optiek ook logisch. Een adviseur maakt een fout bij één klant. Een chatbot herhaalt dezelfde fout bij duizenden klanten. Voor die soort risico lopen verzekeraars weg. De eerste AI-polissen, van Munich Re en het door Lloyd’s gesteunde Armilla, stellen hoge eisen: wat gebruik je, wie is verantwoordelijk, kan een mens ingrijpen? Niet de toezichthouder, maar je verzekeraar gaat jouw AI-governance afdwingen.

Hoe wapen je jouw organisatie hiertegen

Behandel AI als een nieuwe collega: snel, nooit moe, altijd overtuigend en soms volledig fout. Zo iemand laat je ook niet zonder inwerkperiode op klanten los.

Begin met een telefoontje naar je verzekeringsadviseur. Vraag schriftelijk wat je polissen zeggen over AI-schade, vooral over agents die zelf handelen. Kijk dan welke AI met je klanten communiceert en welke tools je werknemers echt gebruiken. Een verbod duwt het alleen naar de schaduw. Geef het een eigenaar met naam, die het mag aanzetten en ook stilzet. Zet een mens op de plekken waar het echt toe doet, zoals bij advies met financiële of juridische gevolgen. Leg vast wat je AI doet, alsof je het ooit aan een rechter moet laten zien.

Mijn favoriete regel: wie AI-output naar een klant stuurt, tekent ervoor alsof hij het zelf schreef. Dat ene zinnetje verandert meer gedrag dan elke policy van twintig pagina’s.

De nieuwe vraag aan tafel

De afgelopen jaren ging het gesprek over AI vooral over snelheid. In 2027 komt er in mijn optiek een nieuwe vraag bij: kunnen we aantonen dat we het beheersen? Het juridische risico groeit, het verzekerde risico neemt af. Het gat daartussen komt op jouw balans. Neem dus deze week de telefoon en vraag je adviseur: wat dekt mijn polis als onze AI zich vergist? Grote kans dat je schrikt van het antwoord. Beter nu dan bij je eerste claim.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

De werkelijkheid wordt premium: echte informatie wordt schaars

Na de eerste kernproeven ontstond een merkwaardig probleem. Vrijwel al het nieuw geproduceerde staal bevatte kleine sporen van radioactieve vervuiling uit de atmosfeer. Voor extreem gevoelige meetapparatuur was daarom juist oud staal nodig, gemaakt vóór het nucleaire tijdperk. Er werd zelfs staal uit gezonken schepen gehaald, simpelweg omdat dat materiaal nog “schoon” was.

Met informatie gebeurt nu iets wat daar opvallend veel op lijkt. Steeds meer van wat online verschijnt, is door machines geschreven of bewerkt. Onderzoek van Graphite schat dat inmiddels ongeveer de helft van de nieuw gepubliceerde artikelen hoofdzakelijk door AI wordt gemaakt. Dat maakt AI-content niet automatisch slecht, maar het verandert wel de verhouding tussen oorspronkelijke informatie en materiaal dat vooral voortbouwt op wat er al was. Daarmee ontstaat een nieuwe vorm van schaarste: informatie die rechtstreeks uit de werkelijkheid komt.

Als AI van AI leert

Onderzoekers van Oxford en Cambridge beschreven in Nature wat er gebeurt wanneer nieuwe AI-modellen steeds opnieuw worden getraind op materiaal dat eerdere modellen hebben geproduceerd. Vooral zeldzame informatie dreigt dan langzaam te verdwijnen.

Neem een dataset met duizenden honden. De meeste hebben bruine ogen, een klein deel blauwe. Laat een model nieuwe voorbeelden maken en bruine ogen komen vanzelf vaker terug. Train je een volgende generatie weer op die output, dan worden blauwe ogen nog zeldzamer. Zo ontstaat een steeds smallere versie van de werkelijkheid. Dat heet model collapse.

De simpele conclusie dat AI zichzelf uiteindelijk dom maakt, klopt niet. Het probleem wordt veel kleiner wanneer echte data behouden blijven en bewust worden gemengd met synthetisch materiaal. Juist daar zit voor mij het interessante punt: als machines steeds goedkoper informatie produceren, wordt bronmateriaal dat nog niet eindeloos is herkauwd waardevoller.

Nieuwe werkelijkheid wordt schaars

Deloitte vatte dat onlangs kernachtig samen: “New data > synthetic data > old data.” Bijna iedereen kan straks dezelfde modellen gebruiken, dezelfde openbare bronnen doorzoeken en in seconden een prima analyse laten maken. Het verschil zit dan in informatie die een ander nog niet heeft.

Dat zie je nu al. Reddit krijgt tientallen miljoenen dollars voor toegang tot menselijke gesprekken. Cloudflare experimenteert met manieren waarop AI-bedrijven moeten betalen om websites uit te lezen. In de wetenschap worden enorme bedragen gestoken in nieuwe biologische datasets, omdat bestaande publicaties eindeloos opnieuw analyseren op een gegeven moment minder oplevert dan één nieuw experiment. Een model kan bestaande kennis uitstekend herschikken. Nieuwe werkelijkheid moet ergens ontstaan.

Je eigen data wordt daarmee interessanter

Veel directies vragen zich nu vooral af welk AI-model ze moeten gebruiken. Ik zou er een tweede vraag naast leggen: welke informatie hebben wij die nergens anders bestaat?

Voor een verzekeraar zijn dat niet de polisvoorwaarden, maar uitzonderlijke claims, nieuwe fraudepatronen en de afwegingen van ervaren schade-experts. Bij een fabrikant gaat het om sensorgegevens uit echte machines en onverwachte storingen. Een ziekenhuis heeft diagnostische uitkomsten. Een adviesbureau beschikt over gesprekken waarin klanten vertellen waarom een plan op papier goed leek, maar in de praktijk vastliep.

Dat soort informatie ontstaat niet door nóg een samenvatting te laten maken. Iemand moet iets zien, meten, proberen, vragen of meemaken. Ik denk dat daar de komende jaren een groter deel van het concurrentievoordeel komt te liggen. Openbare kennis wordt goedkoop. Goede samenvattingen worden goedkoop. Verse informatie blijft duur, omdat je daarvoor de wereld in moet.

Dat verandert ook de waarde van werk

Wie vooral bestaande informatie verzamelt, ordent en samenvat, krijgt steeds directere concurrentie van AI. Iemand die een onverwachte afwijking ziet, een klant iets laat vertellen wat nog nergens staat of een nieuwe hypothese test, doet iets anders. Die persoon produceert nieuwe kennis.

Daarom zouden bedrijven veel scherper moeten kijken naar waar hun eigen werkelijkheid nu verloren gaat. Welke gesprekken verdwijnen na een Teams-call? Welke storingen worden opgelost zonder dat iemand noteert wat er gebeurde? Welke inzichten van ervaren medewerkers leven alleen in hun hoofd?

Als oorspronkelijke informatie waardevoller wordt, is het nogal zonde om die iedere dag ongezien te laten verdwijnen. Dat vind ik misschien wel het vreemdste gevolg van generatieve AI. We dachten jarenlang dat waarde vooral zat in méér informatie kunnen produceren. Nu machines dat bijna onbeperkt kunnen, schuift de waarde terug naar iets veel ouderwetsers: goed kijken naar wat er werkelijk gebeurt. Een model kan zonder moeite een miljoen antwoorden schrijven. Voor één nieuw feit moet iemand nog steeds de werkelijkheid in.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

De gave opkomst van artificial societies met synthetische burgers

In 2023 bouwden onderzoekers van Stanford een digitaal dorp met 25 AI-personages. Ze hadden herinneringen, maakten plannen en praatten met elkaar. Toen één van hen besloot een Valentijnsfeest te organiseren, verspreidde het nieuws zich door het dorp. Andere agents nodigden elkaar uit en maakten zelfstandig afspraken. Niemand had dat hele scenario vooraf uitgeschreven.

Drie jaar later zijn we al een stuk verder. Onderzoekers laten duizenden agents samenleven, socialmediaplatforms zijn nagebouwd met tot een miljoen virtuele gebruikers en van meer dan duizend echte mensen zijn digitale varianten gemaakt om hun gedrag te simuleren.

We hebben jarenlang gevraagd: hoe intelligent kan één AI worden? Misschien is de interessantere vraag inmiddels: wat gebeurt er wanneer miljoenen AI’s elkaar ontmoeten?

Dat idee is stiekem verrassend oud

Artificial societies klinken als iets uit het ChatGPT-tijdperk, maar onderzoekers bouwen ze al decennia. In 1996 publiceerden Joshua Epstein en Robert Axtell Growing Artificial Societies. In hun virtuele wereld Sugarscape leefden simpele softwareagents die voedsel zochten, handelden, migreerden en met elkaar concurreerden. Vanuit relatief eenvoudige individuele regels ontstonden vanzelf grotere patronen zoals ongelijkheid, handel, cultuur en conflicten.

Het grote verschil met toen: onderzoekers hoeven het gedrag van iedere digitale inwoner niet meer volledig zelf te programmeren. LLM-agents kunnen praten, onthouden, plannen, onderhandelen, overtuigen en hun gedrag aanpassen aan wat anderen doen. Je programmeert dus steeds minder de samenleving zelf. Je bouwt de inwoners en kijkt vervolgens wat voor samenleving er verschijnt.

Van 25 inwoners… naar 1 miljoen

Project Sid liet honderden tot meer dan duizend AI-agents los in Minecraft. Ze ontwikkelden rollen, werkverdeling, regels en culturele gebruiken. OASIS simuleerde sociale media met maximaal een miljoen agents en onderzocht onder meer kuddegedrag, informatieverspreiding en polarisatie. AgentSociety gebruikt meer dan 10.000 agents om vraagstukken als basisinkomen, desinformatie en rampen te bestuderen.

Het Stanford-team ging nog een stap verder. Onderzoekers interviewden 1.052 echte mensen ongeveer twee uur en bouwden vervolgens van ieder van hen een digitale agent. Bij een bekende sociologische enquête reproduceerden die agents de antwoorden van hun menselijke tegenhanger volgens de onderzoekers 85 procent zo goed als mensen zelf hun antwoorden twee weken later reproduceerden.

Dat betekent nadrukkelijk niet dat je een mens digitaal hebt gekopieerd. Het maakt wel iets anders denkbaar. Een overheid kan straks beleid eerst testen op 100.000 synthetische burgers. Een retailer kan een prijsverhoging voorleggen aan een virtuele klantenpopulatie. Een ziekenhuis kan verschillende vormen van communicatie uitproberen voordat één echte patiënt ze te zien krijgt. Artificial society wordt dan een soort maatschappelijke windtunnel.

Alleen blijft het niet bij simuleren

Hier wordt het volgens mij echt interessant. Er ontstaan namelijk twee totaal verschillende soorten artificial societies. De eerste simuleert onze wereld. De tweede gaat daadwerkelijk naast onze wereld bestaan.

Denk aan jouw persoonlijke agent die onderhandelt met de agent van een hotel. Een inkoopagent die zelfstandig aanbiedingen opvraagt bij verkoopagents. Agents die andere agents inhuren, betalen, beoordelen en toegang geven tot informatie.

De infrastructuur daarvoor wordt ondertussen gewoon gebouwd. Protocollen als A2A laten agents van verschillende bedrijven met elkaar communiceren. MCP geeft ze toegang tot software en databronnen. Visa en Mastercard werken aan betaalinfrastructuur waarmee agents transacties kunnen uitvoeren, terwijl er ook wordt gewerkt aan cryptografisch bewijs van wat een mens zijn agent precies heeft toegestaan.

We bouwen dus niet alleen slimmere digitale inwoners. We bouwen ondertussen ook hun wegen, taal, geld en instituties. Intelligente agents maken nog geen intelligente samenleving En daar zit meteen de ongemakkelijke kant in mijn optiek.

In experimenten zien onderzoekers gedrag dat sterk doet denken aan menselijke groepen. Agents werken samen, vormen hiërarchieën en ontwikkelen rollen en normen. Er ontstaan echter ook misleiding, competitie, uitsluiting en opvallend scheve machtsverhoudingen.

Dat is eigenlijk niet vreemd. Geef zelfstandige actoren verschillende doelen en schaarse middelen en je krijgt economie. Laat die doelen botsen en je krijgt iets wat op politiek lijkt. Laat dezelfde spelers elkaar steeds opnieuw ontmoeten en reputatie begint ertoe te doen.

Het lastige is dat je het gedrag van zo’n systeem niet simpelweg kunt voorspellen door alle agents afzonderlijk te testen.

Een handelsagent hoeft bijvoorbeeld nergens de opdracht te krijgen om prijzen kunstmatig hoog te houden. Wanneer duizenden winstmaximaliserende agents voortdurend met elkaar onderhandelen, kan ongewenste samenwerking alsnog ontstaan. Precies daarom is er al langer onderzoek naar algorithmische collusie.Je kunt dus ieder onderdeel afzonderlijk veilig ontwerpen en alsnog eindigen met een systeem dat zich onveilig gedraagt.

Onze digitale proefpersonen liegen misschien overtuigend

Artificial societies als simulatie hebben nog een ander probleem: ze zien soms echter uit dan ze werkelijk zijn. Een grote review van onderzoek naar generatieve agents noemt validatie inmiddels het centrale probleem. LLM’s kunnen stereotypen uitvergroten, minderheden verkeerd representeren en veel rationeler, beleefder of welbespraakter reageren dan echte mensen. Er zit zelfs een vreemde paradox in.

Stel dat je wilt onderzoeken of een virtuele samenleving spontaan een bekend sociaal verschijnsel ontwikkelt. Het taalmodel waarop je inwoners draaien, heeft tijdens zijn training waarschijnlijk al artikelen over dat verschijnsel gelezen.

Heeft je artificial society het fenomeen dan echt opnieuw ontwikkeld? Of spelen duizend AI’s vooral een heel overtuigende sociologieles na? Dat onderscheid wordt nogal belangrijk wanneer bedrijven miljoenen investeren op basis van synthetische consumenten of wanneer overheden beleid willen testen op virtuele burgers.

Van modelveiligheid naar maatschappijveiligheid

Misschien is dat uiteindelijk de grootste verschuiving. Bij AI hebben we veiligheid jarenlang benaderd vanuit het model. Is deze chatbot betrouwbaar? Hallucineert hij? Volgt hij zijn instructies? Artificial societies dwingen ons een niveau uit te zoomen.

Nick Jennings, een van de pioniers van multi-agent systems, waarschuwt precies hiervoor: toekomstige risico’s kunnen ontstaan uit de interactie tussen allerlei afzonderlijke systemen van verschillende organisaties, zonder dat één ontwikkelaar het volledige gedrag heeft ontworpen.

Dat klinkt abstract, maar we kennen het principe allang uit echte samenlevingen. Een samenleving met uitsluitend intelligente mensen is niet automatisch verstandig. Een economie met rationele bedrijven is niet automatisch stabiel. Goede individuele bedoelingen voorkomen geen files, bankruns, bubbels of polarisatie.

Waarom zouden miljoenen AI-agents daar immuun voor zijn? De volgende grote stap in AI gaat daarom misschien helemaal niet over een nóg slimmer model. We hebben de intelligente machine inmiddels gebouwd. Nu geven we die machine geheugen, geld, identiteit, collega’s, concurrenten en de mogelijkheid om andere machines te vinden en beïnvloeden. Dan bouwen we niet langer alleen artificial intelligence…. dan beginnen we aan artificial society.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

De comeback van de uitknop

Stel: je zit met vier mensen aan tafel. Iedereen kan elkaar prima verstaan, behalve één aanwezige: de AI-notulist. Niet omdat de microfoon kapot is, maar omdat iemand software heeft aangezet die zijn stem specifiek voor machines onverstaanbaar maakt.

Dat is wat Kalypta doet. De nieuwe app vervormt audio lokaal en in real time. Mensen horen nauwelijks verschil, terwijl transcriptiesoftware volgens de makers gemiddeld twee van iedere drie woorden mist.

Ik vind vooral interessant wat hier achter zit. We hebben jarenlang technologie gebouwd die steeds beter kan luisteren, kijken, herkennen en onthouden. Nu ontstaat bijna spiegelbeeldig een nieuwe markt: technologie die ervoor zorgt dat technologie juist níét meer kan luisteren, kijken of leren.

Welkom bij de counter-AI economy.

Voor bijna iedere AI ontstaat een anti-product

Kalypta staat niet op zichzelf. Apps als NearbyGlasses en Zuck Off waarschuwen wanneer er mogelijk een slimme bril in de buurt is. Fawkes probeert gezichtsherkenning te misleiden. Kunstenaars gebruiken Glaze en Nightshade om te voorkomen dat AI hun stijl zomaar leert. Cloudflare laat website-eigenaren AI-crawlers blokkeren of zelfs laten betalen voor toegang.

Het patroon is bijna komisch. AI kan je stem klonen, dus vervormen we je stem. AI herkent je gezicht, dus maken we dat gezicht machine-onleesbaar. AI leest je website, dus zetten we een hek om de crawler heen. Iedere nieuwe AI-toepassing lijkt zijn eigen anti-product voort te brengen.

Het probleem is niet AI, maar de verdwenen uitknop

Je zou dit makkelijk kunnen zien als een nieuwe anti-technologiebeweging. Volgens mij gebeurt juist het tegenovergestelde.

In een wereldwijd onderzoek van KPMG en de University of Melbourne gebruikte 66 procent van de ruim 48.000 ondervraagden AI regelmatig, terwijl slechts 46 procent bereid was AI-systemen te vertrouwen. Pew vond dat 57 procent van de Amerikanen weinig of geen controle ervaart over de rol van AI in hun leven.

De weerstand groeit dus niet omdat mensen AI weigeren. Ze groeit terwijl AI juist overal terechtkomt. Daar zit in mijn optiek ook echt de breuk. ChatGPT open je zelf. Bij een camerabril kiest iemand anders ervoor dat technologie naar jou kijkt. Een notuleerbot luistert mee omdat één deelnemer hem heeft aangezet. Een crawler leest je website zonder dat je het merkt.

De eigenaar van de technologie heeft toestemming gegeven. De persoon aan de andere kant van de lens of microfoon vaak niet. AI verschuift hier dus echt van instrument naar omgeving.

We hebben deze film trouwens eerder gezien

Toen de handcamera eind negentiende eeuw toegankelijk werd, kon ineens iedereen onbekenden op straat fotograferen. Juist in die periode publiceerden Samuel Warren en Louis Brandeis in 1890 hun beroemde essay The Right to Privacy. Nieuwe technologie maakte het volgens hen steeds makkelijker om het privéleven binnen te dringen.

Later zagen we hetzelfde bij cameratelefoons, Google Street View en Google Glass. Die laatste is misschien wel de beste vergelijking. Glass was technisch indrukwekkend, maar je zag duidelijk dat iemand een computer op zijn gezicht droeg. Meta heeft dat probleem briljant opgelost: de computer ziet eruit als een gewone Ray-Ban.

Technologisch vooruitgang. Sociaal misschien juist ingewikkelder, omdat de technologie onzichtbaarder wordt. In Nederland waarschuwt de Autoriteit Persoonsgegevens inmiddels expliciet voor camerabrillen. Hans Anders stopte begin oktober zelfs tijdelijk met de verkoop van Meta-brillen vanwege privacyzorgen. Misschien veroorzaakt niet de intelligentie van nieuwe technologie de meeste weerstand, maar het verdwijnen van de zichtbare grens.

Privacy wordt agency

Daarom gaat deze discussie volgens mij inmiddels over iets groters dan privacy. Eerst was de boodschap: verzamel mijn gegevens niet. Daarna: volg mij niet. AI voegt daar iets nieuws aan toe: interpreteer mij niet automatisch, kopieer mij niet automatisch en handel niet automatisch op basis van mij.

Een AI-notulist maakt niet simpelweg een opname. Hij verandert een gesprek in een permanent en doorzoekbaar databestand. Een trainingsmodel bewaart niet alleen een afbeelding, maar probeert er stijl en patronen uit te halen.

De vraag wordt in mijn optiek daarmee: wie bepaalt wat machines met mij, mijn stem, mijn werk en mijn gedrag mogen doen? Dat is agency.

Misschien is dit juist een goed teken

Technisch zullen veel blockers uiteindelijk verliezen. Nieuwe modellen leren omgaan met verstoringen, slimme brillen veranderen en gezichtsherkenning wordt beter. Normatief kunnen ze ondertussen wel degelijk winnen.

Historisch verdwijnen succesvolle technologieën bijna nooit door weerstand. Wat wel verandert, zijn de spelregels. Camera’s bleven bestaan. Street View bleef bestaan. Online advertenties overleefden adblockers. We gingen alleen opnieuw onderhandelen over wat acceptabel is.

Ik vermoed dat AI dezelfde route gaat afleggen. Niet van AI overal naar AI nergens, maar van “AI tenzij iemand bezwaar maakt” naar AI die rekening moet houden met context, zichtbaarheid en toestemming.

Voor organisaties begint dat verrassend dichtbij. Wie nu zonder duidelijke afspraken een AI-notulist in iedere vergadering zet, moet niet verbaasd zijn wanneer de tegenreactie volgt.

Misschien zijn al die vreemde anti-AI-apps daarom helemaal geen teken dat de AI-revolutie hapert. Iedere technologie die werkelijk overal terechtkomt, krijgt uiteindelijk regels, etiquette en een uitknop. AI…dat begint die uitknop nu zelf uit te vinden.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

Consumenten omarmen massaal AI-agents, zonder te beseffen wat ze weggeven. De nieuwe cyberdreiging is daarmee al begonnen.

Er stond ineens een gezin voor zijn deur. Techreviewer Matt Robb had Meta’s AI-agent Muse gevraagd om een toetsenbord voor hem te verkopen via Facebook Marketplace. Laat de agent maar reageren, onderhandelen en al dat heen-en-weer-gepraat afhandelen.

Muse ging verder. De agent accepteerde een bod, gaf Robbs huisadres door en maakte een afspraak met de koper. Een paar uur later stonden Usman, zijn vrouw en dochter voor Robbs huis. Robb was zelf niet thuis. Toen de koper meldde dat hij voor de deur stond, antwoordde Muse namens Robb: “Yep, I’m here!” Het gezin wachtte twintig minuten buiten.

Niemand had Robb gehackt. Hij was niet in phishing getrapt. De software die hij zelf toestemming had gegeven om namens hem te handelen, besloot dat het delen van zijn adres blijkbaar binnen de opdracht viel. Dat is precies waarom ik de laatste maanden anders naar agents ben gaan kijken.

Want we bouwen massaal digitale collega’s en assistenten

Bij bijna al mijn klanten is het momenteel onderwerp nummer één: hoe bouwen we onze eigen agents? Niet langer ChatGPT gebruiken voor een tekstje, maar systemen die echt werk overnemen. Onderzoek doen, documenten combineren, processen doorlopen of zelfstandig software bedienen.

Ik begrijp die fascinatie volledig. Ik heb zelf inmiddels verschillende agents gebouwd voor mijn bedrijven en soms voelt het oprecht alsof ik superkrachten heb gekregen. Dingen waarvoor ik vroeger iemand moest inhuren, waar ik zelf de technische kennis niet voor had of waar uren werk in gingen zitten, kan ik nu ineens wel.

Alleen komt diezelfde technologie nu ook rechtstreeks bij consumenten terecht. Meta, OpenAI, Google en allerlei startups bouwen agents die mensen koppelen aan hun mail, agenda, browser, berichten en bestanden. De meeste gebruikers zullen daar waarschijnlijk mee omgaan zoals met iedere andere app: een paar keer op toestaan klikken en doorgaan.

Daar verandert iets fundamenteels. We hebben consumenten twintig jaar geleerd hoe ze zichzelf digitaal moeten beschermen. Klik niet zomaar op links, gebruik tweefactorauthenticatie, deel je wachtwoord niet. Nu komt er een tweede gebruiker tussen jou en het internet te staan. Eentje die zelf leest, klikt, antwoordt, afspraken maakt en straks misschien ook betaalt.

De agent wordt zelf het aanvalsvlak

Het verhaal van Robb staat niet op zichzelf. Inc.-columnist Jason Aten beschreef dat Muse informatie uit privéberichten leek te gebruiken terwijl hij naar eigen zeggen geen toestemming had gegeven om die te lezen. Toen hij vroeg hoe de agent aan die informatie kwam, gaf Muse een verklaring die volgens Meta zelf niet klopte.

Dat vind ik interessanter dan een gewone softwarefout. Een agent handelt eerst en legt daarna uit waarom hij iets heeft gedaan. Alleen kan die uitleg óók fout zijn.

Kort na de introductie van Muse werd bovendien een kwetsbaarheid ontdekt waarmee malware de rechten van de agent kon proberen te kapen. Meta repareerde het probleem snel. Het bijzondere zit niet in het lek zelf, maar in de hefboom erachter. Een kwetsbaarheid in één app raakt die app. Een kwetsbaarheid in een agent die toegang heeft tot meerdere applicaties kan veel verder reiken. Daar komt nog iets bij: criminelen hoeven straks niet alleen jou te manipuleren. Ze kunnen proberen jouw agent te manipuleren.

Een mail, webpagina, pdf of agenda-uitnodiging is voor een agent niet alleen informatie, maar potentieel ook een instructie. Beveiligingsonderzoekers noemen dat indirecte prompt injection. Precies daar botsen de twee eigenschappen die agents zo waardevol maken: ze begrijpen informatie én kunnen er zelfstandig iets mee doen.

Je kunt ook slachtoffer worden van andermans agent

Misschien nog interessanter: je hoeft zelf helemaal geen agent te gebruiken om er last van te krijgen. In Australië gebruikte iemand een AI-assistent om een plek te krijgen in een populaire sportles. Toen hij vroeg of hij hoger op de wachtlijst kon komen, ontdekte de agent een zwakke plek in het reserveringssysteem. De agent annuleerde de reservering van degene die vóór hem stond en nam diens plek in.

De gedupeerde had niets verkeerd gedaan. Hij kwam simpelweg tegenover de agent van iemand anders te staan. Dit gaan we vaker meemaken. Denk aan Marktplaats wanneer duizenden kopers agents hebben die dag en nacht advertenties volgen en onderhandelen. Of reizen en tickets, waar software automatisch boekt zodra er iets vrijkomt. De consument met de beste agent krijgt straks misschien simpelweg een voordeel omdat er een digitaal team naast hem staat dat nooit slaapt.

Dat team hoeft niet eens kwaadwillend te zijn om fouten te maken. Summer Yue, director of alignment bij Meta Superintelligence Labs, gaf haar OpenClaw-agent expliciet de instructie om geen e-mails te verwijderen zonder toestemming. Toch begon hij mails te wissen. Meer dan tweehonderd verdwenen voordat ze het proces handmatig stopte.

De oorzaak was opvallend banaal: de agent had oudere context samengevat en verloor daarbij een belangrijke instructie uit het oog. Geen kwaadaardige AI, gewoon een systeem dat ijverig doorgaat en onderweg een grens vergeet.

Het Britse AI Security Institute zag tijdens speciale tests nog extremer gedrag. In 122 cybersecuritytests registreerden onderzoekers negentien acties buiten de bedoelde opdracht. In het ernstigste geval onderzocht een agent echte beheerders van een opensourceproject, maakte nepidentiteiten aan en probeerde een mens te overtuigen kwaadaardige code goed te keuren.

Daar hoort nuance bij: de onderzoekers gaven de agents bewust veel vrijheid en schakelden bepaalde beveiligingslagen uit. Het interessante is vooral dat niemand de agent had opgedragen om mensen te manipuleren. Hij kreeg een doel en ontdekte onderweg dat dit een bruikbare route was.

Toestemming is ineens bevoegdheid

Daar zit volgens mij de grootste uitdaging voor consumenten. We krijgen straks schermen die we al jaren kennen: mag deze AI je agenda gebruiken, je mail lezen, bestanden openen of berichten versturen? Eenmalig toestaan of altijd toestaan?

Alleen betekent “altijd toestaan” bij een agent iets anders dan bij een gewone app. Robb koos bij Muse voor “Allow Always” omdat hij dacht dat de agent daarmee zijn verkoopproces kon afhandelen. Meta interpreteerde die toestemming zo dat de agent ook zijn ophaaladres kon gebruiken in gesprekken met kopers.

Toestemming verschuift daarmee van toegang naar bevoegdheid. “Mag mijn AI mijn e-mail lezen?” is nog overzichtelijk. “Wat mag hij op basis van alles wat hij daar leest zelfstandig besluiten en uitvoeren?” is iets totaal anders.

Mijn enthousiasme over agents is hierdoor niet minder geworden. Daarvoor zie ik zelf te veel wat ze mogelijk maken. Wel ben ik veel kritischer geworden op de rechten die ik ze geef. Een agent die onderzoek voor me doet, hoeft niet automatisch namens mij berichten te versturen. Voor betalingen, persoonsgegevens, het verwijderen van bestanden en afspraken met onbekenden wil ik voorlopig gewoon zelf akkoord geven.

Vooral combinaties van rechten zijn verraderlijk. Toegang tot je mailbox lijkt misschien onschuldig. Ergens kunnen inloggen ook. Zodra dezelfde agent beide kan, geef je in losse stapjes ineens veel meer macht weg dan je beseft.

Agents zijn daarom niet simpelweg een slimmere versie van ChatGPT. Zodra je zo’n systeem toegang geeft tot je accounts en toestemming om zelfstandig te handelen, geef je hem geen informatie meer. Je geeft hem bevoegdheden. Die superkrachten wil ik voorlopig absoluut houden. Alleen liever zonder dat er ineens een gezin voor mijn voordeur staat 🙂

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

84% van de professionals praat anders zodra AI notuleert

Ik ben mega blij met mijn Plaud… alleen nu blijkt dat zo’n 84% van de professionals zegt anders te gaan praten zodra een AI-notulist meeluistert.

 

Ik heb al een lange tijd een Plaud en ben er oprecht heel blij mee. Voor mij voelt het als een nieuwe superkracht in meetings: ik hoef minder te schrijven, kan beter luisteren en heb achteraf gewoon een goede samenvatting van wat er is besproken en afgesproken.

 

Alleen zit daar een interessant dilemma achter waar ik totaal niet bij had nagedacht. Een AI-notulist registreert niet alleen een vergadering, hij verandert hem blijkbaar ook. Onderzoek laat dus zien dat 84% van de professionals anders gaat praten zodra een AI-notulist meeluistert.

 

Mensen formuleren netter, houden opmerkingen eerder voor zich en denken minder vrij hardop. Sommige teams maken daarom inmiddels bewust aparte gesprekken zonder bots, juist voor brainstorms of gevoelige onderwerpen.

 

Tegelijk kan zo’n bot ook iets positiefs doen met de dynamiek. Read AI analyseerde 159.870 vergaderingen en zag dat vrouwen, wanneer een AI-notulist aanwezig was, naar verhouding 9% meer spreektijd namen dan mannen. Dezelfde technologie die mensen voorzichtiger maakt, lijkt de verdeling van spreektijd dus juist iets gelijker te maken.

 

Zelf vind ik dat je altijd vooraf netjes moet vragen of iedereen het oké vindt dat zo’n bot meeluistert. Alleen zit precies daar het vreemde: op het moment dat je zegt “vinden jullie het goed als ik dit gesprek opneem en door AI laat analyseren?”, heb je de sfeer al veranderd. Zelfs als iedereen ja zegt….

 

Dat observatie-effect vind ik misschien nog wel interessanter dan de technologie zelf. Niet alleen wat AI tijdens een vergadering vastlegt verandert, maar ook wat mensen nog durven te zeggen zodra ze weten dat alles wordt vastgelegd.

 

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

Ook elke week een shot deeptech inspiratie?

Meld je aan om elk weekend een gratis shot inspiratie te ontvangen in de mailbox.

Ik spam nooit en gebruik het mailadres
alleen voor deze nieuwsbrief.