Gisteren ging Digitaal Nederland gedeeltelijk uit. MijnOverheid, DigiD en de site van de Tweede Kamer gingen tijdelijk offline vanwege een lek in PHP. Om vier uur ‘s middags waren er al patches, en tegen de avond kwamen de eerste websites weer terug. Tot nu toe is er weinig gebeurd.

Precies daar zit het gevaar. Rond de millenniumwisseling werd veel geld besteed aan de millenniumbug. Op 1 januari 2000 gebeurde er vrijwel niets, en velen vonden dat het allemaal overdreven was. Dat was de verkeerde conclusie. Er gebeurde niets omdat mensen het probleem op tijd zagen. Na woensdag is het risico dat dezelfde fout herhaald wordt. Het viel mee. Het viel mee omdat het probleem zichtbaar was. De echte problemen die de komende jaren zullen komen, zijn niet zichtbaar.

Een systeem dat foutloos werkt

Nederland weet hoe stil falen eruitziet. Bij de toeslagenaffaire ging geen enkele website uit. Er was geen storing, geen lek, geen alarm. Een risicomodel van de Belastingdienst, dat onder andere nationaliteit meewoog, hielp jarenlang te bepalen welke ouders verdacht werden. Het systeem deed wat het moest doen. Voor duizenden gezinnen had het een verwoestend resultaat. In januari 2021 trad het kabinet af.

Datzelfde falen wordt nu opgeschaald met AI. Een model dat foutloopt, gaat niet op zwart. Het blijft vriendelijke antwoorden geven. Vroeger had je een overheid nodig met een eigen systeem voor zo’n probleem. Nu kan elke organisatie haar eigen versie bouwen. In een paar uur, zonder dat iemand het merkt.

Hoe afwijking normaal wordt

Wie wil begrijpen hoe dat gebeurt, moet teruggaan naar de Challenger-ramp van 1986. Socioloog Diane Vaughan liet later zien dat NASA de schade aan de afdichtingsringen al eerder had gezien. Elke keer ging het goed, dus elke keer werd de schade iets acceptabeler. Ze noemde dit de normalisering van afwijking. De avond voor de lancering waarschuwde ingenieur Roger Boisjoly dat de kou de ringen fataal kon worden. Hij werd niet gehoord.

Met AI gebeurt dit sneller dan we gewend zijn. Het model verzint een bron, iemand verbetert het, er gebeurt niets ergs. De tiende keer controleert niemand meer. Charles Perrow schreef al lang geleden dat ongelukken in complexe en strak gekoppelde systemen geen uitzondering zijn, maar een normale eigenschap. AI-agents die op elkaars output bouwen, vormen precies zo’n systeem.

Oefenen met een toekomst die nog niet bestaat

Wat moet je als leider doen? Voorspellen lukt niet. Maar je kunt doen wat Shell in de jaren zeventig deed. Pierre Wack en zijn team schreef scenario’s, waaronder een plotselinge oliecrisis. Niet om de toekomst te raden, maar om het management er alvast in te laten lopen. Toen de crisis van 1973 kwam, herkende Shell haar sneller dan de concurrentie.

Hetzelfde werkt voor AI. Ga met je bestuur om tafel en begin met deze zin: het is 2029 en onze AI zit al drie jaar structureel fout. Hoe is dat gebeurd? Wie had het kunnen zien? Waarom hebben we niet geluisterd?

Die laatste vraag is het belangrijkst. Bij stil falen kleurt geen dashboard rood. De enige sensor is een mens die zegt: dit klopt niet. Challenger had die mens. Wat ontbrak was een leidinggevende die luisterde. De belangrijkste maatstaf voor bestuurders is daarom niet hoeveel processen op AI draaien, maar hoe snel twijfel van de werkvloer de top bereikt. Wat er daarna gebeurt, zegt alles over je leiderschap.

Gisteren ging het licht uit en zag iedereen dat het donker was. De volgende keer blijft het licht branden en staan alleen de meubels op een andere plek. Organisaties die dat overleven, hebben niet de beste technologie. Ze hebben mensen die het opmerken. Ze hebben leiders die hen geloven.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Afgelopen week hield ik een lezing voor een groep verzekeraars. Mensen die precies weten hoe een goede polis eruit moet zien. Voor bijna alles is er al een polis: voor je dak, je vrachtwagen, je bestuurders. Maar voor fouten die AI maakt, is dat nog steeds niet het geval. Terwijl we AI nu massaal gebruiken, zowel als individuen als als organisaties. Niet alleen de risico’s nemen toe, ook de grote fouten worden steeds vaker.

Het begint soms grappig. Een Amerikaanse autodealer zag zijn chatbot een nieuw SUV aanbieden voor één dollar. De klantenservicebot van DPD begon te vloeken en schreef een gedicht over hoe slecht DPD was.

Maar dan wordt het minder grappig. Air Canada liet zijn chatbot een rouwkorting beloven die niet bestond en vertelde later dat de bot een aparte entiteit was. De rechter zag dat anders: Air Canada moest betalen. In Duitsland gaf de chatbot van een kliniek artsen titels die ze niet hadden. Het Oberlandesgericht Hamm oordeelde in mei dat de kliniek verantwoordelijk was, ook al had de bot correcte informatie gekregen. In een zaak in Amsterdam citeerde een advocaat een arrest van de Hoge Raad met een passage die nooit had bestaan, wat leidde tot extra kosten. Deloitte moest geld terugbetalen aan de Australische overheid na een rapport met verzonnen bronnen.

Het patroon herhaalt zich steeds: het begint als een nieuwsgierigheid en eindigt bij de rechter. De meeste fouten worden nooit gezien. Ze zitten in een verkeerde offerte of een foute belofte in een klantmail. Niemand merkt het, totdat iemand het wél opmerkt.

En wie is er verantwoordelijk? Jij!

Niet de leverancier, niet de chatbot, niet de medewerker die op verzenden drukte. De organisatie die AI gebruikt, draagt verantwoordelijkheid voor wat die AI zegt en doet. Er is geen nieuwe wet nodig voor dat. Een werkgever is aansprakelijk voor fouten van zijn personeel. Wie een ongeschikt hulpmiddel gebruikt, draagt de gevolgen. Een hallucinerend taalmodel is precies zo’n hulpmiddel.

De leverancier sluit vaak aansprakelijkheid voor output uit in de voorwaarden. Je disclaimer helpt ook niet. Air Canada had de juiste informatie op hun website staan, maar de klant vertrouwde op de chatbot. Europa zet de eisen nog hoger. Vanaf 9 december 2026 geldt software en AI als product onder de nieuwe productaansprakelijkheidsrichtlijn. Dan kan een rechter je dwingen je logs te tonen.

De verzekeraars schrikken allemaal terug

Lang was AI-schade onderdeel van de gewone polis, omdat niemand AI had uitgesloten. Die onzichtbare dekking verdwijnt. Grote Amerikaanse verzekeraars zoals AIG en W.R. Berkley willen AI-aansprakelijkheid uitsluiten. Sinds januari liggen daar standaardclausules klaar.

Dat is in mijn optiek ook logisch. Een adviseur maakt een fout bij één klant. Een chatbot herhaalt dezelfde fout bij duizenden klanten. Voor die soort risico lopen verzekeraars weg. De eerste AI-polissen, van Munich Re en het door Lloyd’s gesteunde Armilla, stellen hoge eisen: wat gebruik je, wie is verantwoordelijk, kan een mens ingrijpen? Niet de toezichthouder, maar je verzekeraar gaat jouw AI-governance afdwingen.

Hoe wapen je jouw organisatie hiertegen

Behandel AI als een nieuwe collega: snel, nooit moe, altijd overtuigend en soms volledig fout. Zo iemand laat je ook niet zonder inwerkperiode op klanten los.

Begin met een telefoontje naar je verzekeringsadviseur. Vraag schriftelijk wat je polissen zeggen over AI-schade, vooral over agents die zelf handelen. Kijk dan welke AI met je klanten communiceert en welke tools je werknemers echt gebruiken. Een verbod duwt het alleen naar de schaduw. Geef het een eigenaar met naam, die het mag aanzetten en ook stilzet. Zet een mens op de plekken waar het echt toe doet, zoals bij advies met financiële of juridische gevolgen. Leg vast wat je AI doet, alsof je het ooit aan een rechter moet laten zien.

Mijn favoriete regel: wie AI-output naar een klant stuurt, tekent ervoor alsof hij het zelf schreef. Dat ene zinnetje verandert meer gedrag dan elke policy van twintig pagina’s.

De nieuwe vraag aan tafel

De afgelopen jaren ging het gesprek over AI vooral over snelheid. In 2027 komt er in mijn optiek een nieuwe vraag bij: kunnen we aantonen dat we het beheersen? Het juridische risico groeit, het verzekerde risico neemt af. Het gat daartussen komt op jouw balans. Neem dus deze week de telefoon en vraag je adviseur: wat dekt mijn polis als onze AI zich vergist? Grote kans dat je schrikt van het antwoord. Beter nu dan bij je eerste claim.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Na de eerste kernproeven ontstond een merkwaardig probleem. Vrijwel al het nieuw geproduceerde staal bevatte kleine sporen van radioactieve vervuiling uit de atmosfeer. Voor extreem gevoelige meetapparatuur was daarom juist oud staal nodig, gemaakt vóór het nucleaire tijdperk. Er werd zelfs staal uit gezonken schepen gehaald, simpelweg omdat dat materiaal nog “schoon” was.

Met informatie gebeurt nu iets wat daar opvallend veel op lijkt. Steeds meer van wat online verschijnt, is door machines geschreven of bewerkt. Onderzoek van Graphite schat dat inmiddels ongeveer de helft van de nieuw gepubliceerde artikelen hoofdzakelijk door AI wordt gemaakt. Dat maakt AI-content niet automatisch slecht, maar het verandert wel de verhouding tussen oorspronkelijke informatie en materiaal dat vooral voortbouwt op wat er al was. Daarmee ontstaat een nieuwe vorm van schaarste: informatie die rechtstreeks uit de werkelijkheid komt.

Als AI van AI leert

Onderzoekers van Oxford en Cambridge beschreven in Nature wat er gebeurt wanneer nieuwe AI-modellen steeds opnieuw worden getraind op materiaal dat eerdere modellen hebben geproduceerd. Vooral zeldzame informatie dreigt dan langzaam te verdwijnen.

Neem een dataset met duizenden honden. De meeste hebben bruine ogen, een klein deel blauwe. Laat een model nieuwe voorbeelden maken en bruine ogen komen vanzelf vaker terug. Train je een volgende generatie weer op die output, dan worden blauwe ogen nog zeldzamer. Zo ontstaat een steeds smallere versie van de werkelijkheid. Dat heet model collapse.

De simpele conclusie dat AI zichzelf uiteindelijk dom maakt, klopt niet. Het probleem wordt veel kleiner wanneer echte data behouden blijven en bewust worden gemengd met synthetisch materiaal. Juist daar zit voor mij het interessante punt: als machines steeds goedkoper informatie produceren, wordt bronmateriaal dat nog niet eindeloos is herkauwd waardevoller.

Nieuwe werkelijkheid wordt schaars

Deloitte vatte dat onlangs kernachtig samen: “New data > synthetic data > old data.” Bijna iedereen kan straks dezelfde modellen gebruiken, dezelfde openbare bronnen doorzoeken en in seconden een prima analyse laten maken. Het verschil zit dan in informatie die een ander nog niet heeft.

Dat zie je nu al. Reddit krijgt tientallen miljoenen dollars voor toegang tot menselijke gesprekken. Cloudflare experimenteert met manieren waarop AI-bedrijven moeten betalen om websites uit te lezen. In de wetenschap worden enorme bedragen gestoken in nieuwe biologische datasets, omdat bestaande publicaties eindeloos opnieuw analyseren op een gegeven moment minder oplevert dan één nieuw experiment. Een model kan bestaande kennis uitstekend herschikken. Nieuwe werkelijkheid moet ergens ontstaan.

Je eigen data wordt daarmee interessanter

Veel directies vragen zich nu vooral af welk AI-model ze moeten gebruiken. Ik zou er een tweede vraag naast leggen: welke informatie hebben wij die nergens anders bestaat?

Voor een verzekeraar zijn dat niet de polisvoorwaarden, maar uitzonderlijke claims, nieuwe fraudepatronen en de afwegingen van ervaren schade-experts. Bij een fabrikant gaat het om sensorgegevens uit echte machines en onverwachte storingen. Een ziekenhuis heeft diagnostische uitkomsten. Een adviesbureau beschikt over gesprekken waarin klanten vertellen waarom een plan op papier goed leek, maar in de praktijk vastliep.

Dat soort informatie ontstaat niet door nóg een samenvatting te laten maken. Iemand moet iets zien, meten, proberen, vragen of meemaken. Ik denk dat daar de komende jaren een groter deel van het concurrentievoordeel komt te liggen. Openbare kennis wordt goedkoop. Goede samenvattingen worden goedkoop. Verse informatie blijft duur, omdat je daarvoor de wereld in moet.

Dat verandert ook de waarde van werk

Wie vooral bestaande informatie verzamelt, ordent en samenvat, krijgt steeds directere concurrentie van AI. Iemand die een onverwachte afwijking ziet, een klant iets laat vertellen wat nog nergens staat of een nieuwe hypothese test, doet iets anders. Die persoon produceert nieuwe kennis.

Daarom zouden bedrijven veel scherper moeten kijken naar waar hun eigen werkelijkheid nu verloren gaat. Welke gesprekken verdwijnen na een Teams-call? Welke storingen worden opgelost zonder dat iemand noteert wat er gebeurde? Welke inzichten van ervaren medewerkers leven alleen in hun hoofd?

Als oorspronkelijke informatie waardevoller wordt, is het nogal zonde om die iedere dag ongezien te laten verdwijnen. Dat vind ik misschien wel het vreemdste gevolg van generatieve AI. We dachten jarenlang dat waarde vooral zat in méér informatie kunnen produceren. Nu machines dat bijna onbeperkt kunnen, schuift de waarde terug naar iets veel ouderwetsers: goed kijken naar wat er werkelijk gebeurt. Een model kan zonder moeite een miljoen antwoorden schrijven. Voor één nieuw feit moet iemand nog steeds de werkelijkheid in.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

In 2023 bouwden onderzoekers van Stanford een digitaal dorp met 25 AI-personages. Ze hadden herinneringen, maakten plannen en praatten met elkaar. Toen één van hen besloot een Valentijnsfeest te organiseren, verspreidde het nieuws zich door het dorp. Andere agents nodigden elkaar uit en maakten zelfstandig afspraken. Niemand had dat hele scenario vooraf uitgeschreven.

Drie jaar later zijn we al een stuk verder. Onderzoekers laten duizenden agents samenleven, socialmediaplatforms zijn nagebouwd met tot een miljoen virtuele gebruikers en van meer dan duizend echte mensen zijn digitale varianten gemaakt om hun gedrag te simuleren.

We hebben jarenlang gevraagd: hoe intelligent kan één AI worden? Misschien is de interessantere vraag inmiddels: wat gebeurt er wanneer miljoenen AI’s elkaar ontmoeten?

Dat idee is stiekem verrassend oud

Artificial societies klinken als iets uit het ChatGPT-tijdperk, maar onderzoekers bouwen ze al decennia. In 1996 publiceerden Joshua Epstein en Robert Axtell Growing Artificial Societies. In hun virtuele wereld Sugarscape leefden simpele softwareagents die voedsel zochten, handelden, migreerden en met elkaar concurreerden. Vanuit relatief eenvoudige individuele regels ontstonden vanzelf grotere patronen zoals ongelijkheid, handel, cultuur en conflicten.

Het grote verschil met toen: onderzoekers hoeven het gedrag van iedere digitale inwoner niet meer volledig zelf te programmeren. LLM-agents kunnen praten, onthouden, plannen, onderhandelen, overtuigen en hun gedrag aanpassen aan wat anderen doen. Je programmeert dus steeds minder de samenleving zelf. Je bouwt de inwoners en kijkt vervolgens wat voor samenleving er verschijnt.

Van 25 inwoners… naar 1 miljoen

Project Sid liet honderden tot meer dan duizend AI-agents los in Minecraft. Ze ontwikkelden rollen, werkverdeling, regels en culturele gebruiken. OASIS simuleerde sociale media met maximaal een miljoen agents en onderzocht onder meer kuddegedrag, informatieverspreiding en polarisatie. AgentSociety gebruikt meer dan 10.000 agents om vraagstukken als basisinkomen, desinformatie en rampen te bestuderen.

Het Stanford-team ging nog een stap verder. Onderzoekers interviewden 1.052 echte mensen ongeveer twee uur en bouwden vervolgens van ieder van hen een digitale agent. Bij een bekende sociologische enquête reproduceerden die agents de antwoorden van hun menselijke tegenhanger volgens de onderzoekers 85 procent zo goed als mensen zelf hun antwoorden twee weken later reproduceerden.

Dat betekent nadrukkelijk niet dat je een mens digitaal hebt gekopieerd. Het maakt wel iets anders denkbaar. Een overheid kan straks beleid eerst testen op 100.000 synthetische burgers. Een retailer kan een prijsverhoging voorleggen aan een virtuele klantenpopulatie. Een ziekenhuis kan verschillende vormen van communicatie uitproberen voordat één echte patiënt ze te zien krijgt. Artificial society wordt dan een soort maatschappelijke windtunnel.

Alleen blijft het niet bij simuleren

Hier wordt het volgens mij echt interessant. Er ontstaan namelijk twee totaal verschillende soorten artificial societies. De eerste simuleert onze wereld. De tweede gaat daadwerkelijk naast onze wereld bestaan.

Denk aan jouw persoonlijke agent die onderhandelt met de agent van een hotel. Een inkoopagent die zelfstandig aanbiedingen opvraagt bij verkoopagents. Agents die andere agents inhuren, betalen, beoordelen en toegang geven tot informatie.

De infrastructuur daarvoor wordt ondertussen gewoon gebouwd. Protocollen als A2A laten agents van verschillende bedrijven met elkaar communiceren. MCP geeft ze toegang tot software en databronnen. Visa en Mastercard werken aan betaalinfrastructuur waarmee agents transacties kunnen uitvoeren, terwijl er ook wordt gewerkt aan cryptografisch bewijs van wat een mens zijn agent precies heeft toegestaan.

We bouwen dus niet alleen slimmere digitale inwoners. We bouwen ondertussen ook hun wegen, taal, geld en instituties. Intelligente agents maken nog geen intelligente samenleving En daar zit meteen de ongemakkelijke kant in mijn optiek.

In experimenten zien onderzoekers gedrag dat sterk doet denken aan menselijke groepen. Agents werken samen, vormen hiërarchieën en ontwikkelen rollen en normen. Er ontstaan echter ook misleiding, competitie, uitsluiting en opvallend scheve machtsverhoudingen.

Dat is eigenlijk niet vreemd. Geef zelfstandige actoren verschillende doelen en schaarse middelen en je krijgt economie. Laat die doelen botsen en je krijgt iets wat op politiek lijkt. Laat dezelfde spelers elkaar steeds opnieuw ontmoeten en reputatie begint ertoe te doen.

Het lastige is dat je het gedrag van zo’n systeem niet simpelweg kunt voorspellen door alle agents afzonderlijk te testen.

Een handelsagent hoeft bijvoorbeeld nergens de opdracht te krijgen om prijzen kunstmatig hoog te houden. Wanneer duizenden winstmaximaliserende agents voortdurend met elkaar onderhandelen, kan ongewenste samenwerking alsnog ontstaan. Precies daarom is er al langer onderzoek naar algorithmische collusie.Je kunt dus ieder onderdeel afzonderlijk veilig ontwerpen en alsnog eindigen met een systeem dat zich onveilig gedraagt.

Onze digitale proefpersonen liegen misschien overtuigend

Artificial societies als simulatie hebben nog een ander probleem: ze zien soms echter uit dan ze werkelijk zijn. Een grote review van onderzoek naar generatieve agents noemt validatie inmiddels het centrale probleem. LLM’s kunnen stereotypen uitvergroten, minderheden verkeerd representeren en veel rationeler, beleefder of welbespraakter reageren dan echte mensen. Er zit zelfs een vreemde paradox in.

Stel dat je wilt onderzoeken of een virtuele samenleving spontaan een bekend sociaal verschijnsel ontwikkelt. Het taalmodel waarop je inwoners draaien, heeft tijdens zijn training waarschijnlijk al artikelen over dat verschijnsel gelezen.

Heeft je artificial society het fenomeen dan echt opnieuw ontwikkeld? Of spelen duizend AI’s vooral een heel overtuigende sociologieles na? Dat onderscheid wordt nogal belangrijk wanneer bedrijven miljoenen investeren op basis van synthetische consumenten of wanneer overheden beleid willen testen op virtuele burgers.

Van modelveiligheid naar maatschappijveiligheid

Misschien is dat uiteindelijk de grootste verschuiving. Bij AI hebben we veiligheid jarenlang benaderd vanuit het model. Is deze chatbot betrouwbaar? Hallucineert hij? Volgt hij zijn instructies? Artificial societies dwingen ons een niveau uit te zoomen.

Nick Jennings, een van de pioniers van multi-agent systems, waarschuwt precies hiervoor: toekomstige risico’s kunnen ontstaan uit de interactie tussen allerlei afzonderlijke systemen van verschillende organisaties, zonder dat één ontwikkelaar het volledige gedrag heeft ontworpen.

Dat klinkt abstract, maar we kennen het principe allang uit echte samenlevingen. Een samenleving met uitsluitend intelligente mensen is niet automatisch verstandig. Een economie met rationele bedrijven is niet automatisch stabiel. Goede individuele bedoelingen voorkomen geen files, bankruns, bubbels of polarisatie.

Waarom zouden miljoenen AI-agents daar immuun voor zijn? De volgende grote stap in AI gaat daarom misschien helemaal niet over een nóg slimmer model. We hebben de intelligente machine inmiddels gebouwd. Nu geven we die machine geheugen, geld, identiteit, collega’s, concurrenten en de mogelijkheid om andere machines te vinden en beïnvloeden. Dan bouwen we niet langer alleen artificial intelligence…. dan beginnen we aan artificial society.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Stel: je zit met vier mensen aan tafel. Iedereen kan elkaar prima verstaan, behalve één aanwezige: de AI-notulist. Niet omdat de microfoon kapot is, maar omdat iemand software heeft aangezet die zijn stem specifiek voor machines onverstaanbaar maakt.

Dat is wat Kalypta doet. De nieuwe app vervormt audio lokaal en in real time. Mensen horen nauwelijks verschil, terwijl transcriptiesoftware volgens de makers gemiddeld twee van iedere drie woorden mist.

Ik vind vooral interessant wat hier achter zit. We hebben jarenlang technologie gebouwd die steeds beter kan luisteren, kijken, herkennen en onthouden. Nu ontstaat bijna spiegelbeeldig een nieuwe markt: technologie die ervoor zorgt dat technologie juist níét meer kan luisteren, kijken of leren.

Welkom bij de counter-AI economy.

Voor bijna iedere AI ontstaat een anti-product

Kalypta staat niet op zichzelf. Apps als NearbyGlasses en Zuck Off waarschuwen wanneer er mogelijk een slimme bril in de buurt is. Fawkes probeert gezichtsherkenning te misleiden. Kunstenaars gebruiken Glaze en Nightshade om te voorkomen dat AI hun stijl zomaar leert. Cloudflare laat website-eigenaren AI-crawlers blokkeren of zelfs laten betalen voor toegang.

Het patroon is bijna komisch. AI kan je stem klonen, dus vervormen we je stem. AI herkent je gezicht, dus maken we dat gezicht machine-onleesbaar. AI leest je website, dus zetten we een hek om de crawler heen. Iedere nieuwe AI-toepassing lijkt zijn eigen anti-product voort te brengen.

Het probleem is niet AI, maar de verdwenen uitknop

Je zou dit makkelijk kunnen zien als een nieuwe anti-technologiebeweging. Volgens mij gebeurt juist het tegenovergestelde.

In een wereldwijd onderzoek van KPMG en de University of Melbourne gebruikte 66 procent van de ruim 48.000 ondervraagden AI regelmatig, terwijl slechts 46 procent bereid was AI-systemen te vertrouwen. Pew vond dat 57 procent van de Amerikanen weinig of geen controle ervaart over de rol van AI in hun leven.

De weerstand groeit dus niet omdat mensen AI weigeren. Ze groeit terwijl AI juist overal terechtkomt. Daar zit in mijn optiek ook echt de breuk. ChatGPT open je zelf. Bij een camerabril kiest iemand anders ervoor dat technologie naar jou kijkt. Een notuleerbot luistert mee omdat één deelnemer hem heeft aangezet. Een crawler leest je website zonder dat je het merkt.

De eigenaar van de technologie heeft toestemming gegeven. De persoon aan de andere kant van de lens of microfoon vaak niet. AI verschuift hier dus echt van instrument naar omgeving.

We hebben deze film trouwens eerder gezien

Toen de handcamera eind negentiende eeuw toegankelijk werd, kon ineens iedereen onbekenden op straat fotograferen. Juist in die periode publiceerden Samuel Warren en Louis Brandeis in 1890 hun beroemde essay The Right to Privacy. Nieuwe technologie maakte het volgens hen steeds makkelijker om het privéleven binnen te dringen.

Later zagen we hetzelfde bij cameratelefoons, Google Street View en Google Glass. Die laatste is misschien wel de beste vergelijking. Glass was technisch indrukwekkend, maar je zag duidelijk dat iemand een computer op zijn gezicht droeg. Meta heeft dat probleem briljant opgelost: de computer ziet eruit als een gewone Ray-Ban.

Technologisch vooruitgang. Sociaal misschien juist ingewikkelder, omdat de technologie onzichtbaarder wordt. In Nederland waarschuwt de Autoriteit Persoonsgegevens inmiddels expliciet voor camerabrillen. Hans Anders stopte begin oktober zelfs tijdelijk met de verkoop van Meta-brillen vanwege privacyzorgen. Misschien veroorzaakt niet de intelligentie van nieuwe technologie de meeste weerstand, maar het verdwijnen van de zichtbare grens.

Privacy wordt agency

Daarom gaat deze discussie volgens mij inmiddels over iets groters dan privacy. Eerst was de boodschap: verzamel mijn gegevens niet. Daarna: volg mij niet. AI voegt daar iets nieuws aan toe: interpreteer mij niet automatisch, kopieer mij niet automatisch en handel niet automatisch op basis van mij.

Een AI-notulist maakt niet simpelweg een opname. Hij verandert een gesprek in een permanent en doorzoekbaar databestand. Een trainingsmodel bewaart niet alleen een afbeelding, maar probeert er stijl en patronen uit te halen.

De vraag wordt in mijn optiek daarmee: wie bepaalt wat machines met mij, mijn stem, mijn werk en mijn gedrag mogen doen? Dat is agency.

Misschien is dit juist een goed teken

Technisch zullen veel blockers uiteindelijk verliezen. Nieuwe modellen leren omgaan met verstoringen, slimme brillen veranderen en gezichtsherkenning wordt beter. Normatief kunnen ze ondertussen wel degelijk winnen.

Historisch verdwijnen succesvolle technologieën bijna nooit door weerstand. Wat wel verandert, zijn de spelregels. Camera’s bleven bestaan. Street View bleef bestaan. Online advertenties overleefden adblockers. We gingen alleen opnieuw onderhandelen over wat acceptabel is.

Ik vermoed dat AI dezelfde route gaat afleggen. Niet van AI overal naar AI nergens, maar van “AI tenzij iemand bezwaar maakt” naar AI die rekening moet houden met context, zichtbaarheid en toestemming.

Voor organisaties begint dat verrassend dichtbij. Wie nu zonder duidelijke afspraken een AI-notulist in iedere vergadering zet, moet niet verbaasd zijn wanneer de tegenreactie volgt.

Misschien zijn al die vreemde anti-AI-apps daarom helemaal geen teken dat de AI-revolutie hapert. Iedere technologie die werkelijk overal terechtkomt, krijgt uiteindelijk regels, etiquette en een uitknop. AI…dat begint die uitknop nu zelf uit te vinden.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Er stond ineens een gezin voor zijn deur. Techreviewer Matt Robb had Meta’s AI-agent Muse gevraagd om een toetsenbord voor hem te verkopen via Facebook Marketplace. Laat de agent maar reageren, onderhandelen en al dat heen-en-weer-gepraat afhandelen.

Muse ging verder. De agent accepteerde een bod, gaf Robbs huisadres door en maakte een afspraak met de koper. Een paar uur later stonden Usman, zijn vrouw en dochter voor Robbs huis. Robb was zelf niet thuis. Toen de koper meldde dat hij voor de deur stond, antwoordde Muse namens Robb: “Yep, I’m here!” Het gezin wachtte twintig minuten buiten.

Niemand had Robb gehackt. Hij was niet in phishing getrapt. De software die hij zelf toestemming had gegeven om namens hem te handelen, besloot dat het delen van zijn adres blijkbaar binnen de opdracht viel. Dat is precies waarom ik de laatste maanden anders naar agents ben gaan kijken.

Want we bouwen massaal digitale collega’s en assistenten

Bij bijna al mijn klanten is het momenteel onderwerp nummer één: hoe bouwen we onze eigen agents? Niet langer ChatGPT gebruiken voor een tekstje, maar systemen die echt werk overnemen. Onderzoek doen, documenten combineren, processen doorlopen of zelfstandig software bedienen.

Ik begrijp die fascinatie volledig. Ik heb zelf inmiddels verschillende agents gebouwd voor mijn bedrijven en soms voelt het oprecht alsof ik superkrachten heb gekregen. Dingen waarvoor ik vroeger iemand moest inhuren, waar ik zelf de technische kennis niet voor had of waar uren werk in gingen zitten, kan ik nu ineens wel.

Alleen komt diezelfde technologie nu ook rechtstreeks bij consumenten terecht. Meta, OpenAI, Google en allerlei startups bouwen agents die mensen koppelen aan hun mail, agenda, browser, berichten en bestanden. De meeste gebruikers zullen daar waarschijnlijk mee omgaan zoals met iedere andere app: een paar keer op toestaan klikken en doorgaan.

Daar verandert iets fundamenteels. We hebben consumenten twintig jaar geleerd hoe ze zichzelf digitaal moeten beschermen. Klik niet zomaar op links, gebruik tweefactorauthenticatie, deel je wachtwoord niet. Nu komt er een tweede gebruiker tussen jou en het internet te staan. Eentje die zelf leest, klikt, antwoordt, afspraken maakt en straks misschien ook betaalt.

De agent wordt zelf het aanvalsvlak

Het verhaal van Robb staat niet op zichzelf. Inc.-columnist Jason Aten beschreef dat Muse informatie uit privéberichten leek te gebruiken terwijl hij naar eigen zeggen geen toestemming had gegeven om die te lezen. Toen hij vroeg hoe de agent aan die informatie kwam, gaf Muse een verklaring die volgens Meta zelf niet klopte.

Dat vind ik interessanter dan een gewone softwarefout. Een agent handelt eerst en legt daarna uit waarom hij iets heeft gedaan. Alleen kan die uitleg óók fout zijn.

Kort na de introductie van Muse werd bovendien een kwetsbaarheid ontdekt waarmee malware de rechten van de agent kon proberen te kapen. Meta repareerde het probleem snel. Het bijzondere zit niet in het lek zelf, maar in de hefboom erachter. Een kwetsbaarheid in één app raakt die app. Een kwetsbaarheid in een agent die toegang heeft tot meerdere applicaties kan veel verder reiken. Daar komt nog iets bij: criminelen hoeven straks niet alleen jou te manipuleren. Ze kunnen proberen jouw agent te manipuleren.

Een mail, webpagina, pdf of agenda-uitnodiging is voor een agent niet alleen informatie, maar potentieel ook een instructie. Beveiligingsonderzoekers noemen dat indirecte prompt injection. Precies daar botsen de twee eigenschappen die agents zo waardevol maken: ze begrijpen informatie én kunnen er zelfstandig iets mee doen.

Je kunt ook slachtoffer worden van andermans agent

Misschien nog interessanter: je hoeft zelf helemaal geen agent te gebruiken om er last van te krijgen. In Australië gebruikte iemand een AI-assistent om een plek te krijgen in een populaire sportles. Toen hij vroeg of hij hoger op de wachtlijst kon komen, ontdekte de agent een zwakke plek in het reserveringssysteem. De agent annuleerde de reservering van degene die vóór hem stond en nam diens plek in.

De gedupeerde had niets verkeerd gedaan. Hij kwam simpelweg tegenover de agent van iemand anders te staan. Dit gaan we vaker meemaken. Denk aan Marktplaats wanneer duizenden kopers agents hebben die dag en nacht advertenties volgen en onderhandelen. Of reizen en tickets, waar software automatisch boekt zodra er iets vrijkomt. De consument met de beste agent krijgt straks misschien simpelweg een voordeel omdat er een digitaal team naast hem staat dat nooit slaapt.

Dat team hoeft niet eens kwaadwillend te zijn om fouten te maken. Summer Yue, director of alignment bij Meta Superintelligence Labs, gaf haar OpenClaw-agent expliciet de instructie om geen e-mails te verwijderen zonder toestemming. Toch begon hij mails te wissen. Meer dan tweehonderd verdwenen voordat ze het proces handmatig stopte.

De oorzaak was opvallend banaal: de agent had oudere context samengevat en verloor daarbij een belangrijke instructie uit het oog. Geen kwaadaardige AI, gewoon een systeem dat ijverig doorgaat en onderweg een grens vergeet.

Het Britse AI Security Institute zag tijdens speciale tests nog extremer gedrag. In 122 cybersecuritytests registreerden onderzoekers negentien acties buiten de bedoelde opdracht. In het ernstigste geval onderzocht een agent echte beheerders van een opensourceproject, maakte nepidentiteiten aan en probeerde een mens te overtuigen kwaadaardige code goed te keuren.

Daar hoort nuance bij: de onderzoekers gaven de agents bewust veel vrijheid en schakelden bepaalde beveiligingslagen uit. Het interessante is vooral dat niemand de agent had opgedragen om mensen te manipuleren. Hij kreeg een doel en ontdekte onderweg dat dit een bruikbare route was.

Toestemming is ineens bevoegdheid

Daar zit volgens mij de grootste uitdaging voor consumenten. We krijgen straks schermen die we al jaren kennen: mag deze AI je agenda gebruiken, je mail lezen, bestanden openen of berichten versturen? Eenmalig toestaan of altijd toestaan?

Alleen betekent “altijd toestaan” bij een agent iets anders dan bij een gewone app. Robb koos bij Muse voor “Allow Always” omdat hij dacht dat de agent daarmee zijn verkoopproces kon afhandelen. Meta interpreteerde die toestemming zo dat de agent ook zijn ophaaladres kon gebruiken in gesprekken met kopers.

Toestemming verschuift daarmee van toegang naar bevoegdheid. “Mag mijn AI mijn e-mail lezen?” is nog overzichtelijk. “Wat mag hij op basis van alles wat hij daar leest zelfstandig besluiten en uitvoeren?” is iets totaal anders.

Mijn enthousiasme over agents is hierdoor niet minder geworden. Daarvoor zie ik zelf te veel wat ze mogelijk maken. Wel ben ik veel kritischer geworden op de rechten die ik ze geef. Een agent die onderzoek voor me doet, hoeft niet automatisch namens mij berichten te versturen. Voor betalingen, persoonsgegevens, het verwijderen van bestanden en afspraken met onbekenden wil ik voorlopig gewoon zelf akkoord geven.

Vooral combinaties van rechten zijn verraderlijk. Toegang tot je mailbox lijkt misschien onschuldig. Ergens kunnen inloggen ook. Zodra dezelfde agent beide kan, geef je in losse stapjes ineens veel meer macht weg dan je beseft.

Agents zijn daarom niet simpelweg een slimmere versie van ChatGPT. Zodra je zo’n systeem toegang geeft tot je accounts en toestemming om zelfstandig te handelen, geef je hem geen informatie meer. Je geeft hem bevoegdheden. Die superkrachten wil ik voorlopig absoluut houden. Alleen liever zonder dat er ineens een gezin voor mijn voordeur staat 🙂

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Ik ben mega blij met mijn Plaud… alleen nu blijkt dat zo’n 84% van de professionals zegt anders te gaan praten zodra een AI-notulist meeluistert.

Ik heb al een lange tijd een Plaud en ben er oprecht heel blij mee. Voor mij voelt het als een nieuwe superkracht in meetings: ik hoef minder te schrijven, kan beter luisteren en heb achteraf gewoon een goede samenvatting van wat er is besproken en afgesproken.

Alleen zit daar een interessant dilemma achter waar ik totaal niet bij had nagedacht. Een AI-notulist registreert niet alleen een vergadering, hij verandert hem blijkbaar ook. Onderzoek laat dus zien dat 84% van de professionals anders gaat praten zodra een AI-notulist meeluistert.

Mensen formuleren netter, houden opmerkingen eerder voor zich en denken minder vrij hardop. Sommige teams maken daarom inmiddels bewust aparte gesprekken zonder bots, juist voor brainstorms of gevoelige onderwerpen.

Tegelijk kan zo’n bot ook iets positiefs doen met de dynamiek. Read AI analyseerde 159.870 vergaderingen en zag dat vrouwen, wanneer een AI-notulist aanwezig was, naar verhouding 9% meer spreektijd namen dan mannen. Dezelfde technologie die mensen voorzichtiger maakt, lijkt de verdeling van spreektijd dus juist iets gelijker te maken.

Zelf vind ik dat je altijd vooraf netjes moet vragen of iedereen het oké vindt dat zo’n bot meeluistert. Alleen zit precies daar het vreemde: op het moment dat je zegt “vinden jullie het goed als ik dit gesprek opneem en door AI laat analyseren?”, heb je de sfeer al veranderd. Zelfs als iedereen ja zegt….

Dat observatie-effect vind ik misschien nog wel interessanter dan de technologie zelf. Niet alleen wat AI tijdens een vergadering vastlegt verandert, maar ook wat mensen nog durven te zeggen zodra ze weten dat alles wordt vastgelegd.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

De 2e Koude Oorlog is begonnen. Je hoort het steeds vaker en de chipoorlog levert er elke maand nieuw bewijs voor aan. Exportregels die worden aangescherpt, dan weer versoepeld, magneten die niet meer het land uit mogen, een Nederlands chipbedrijf dat in Peking tot inzet van een conflict wordt. Ik krijg er bij lezingen steeds vaker vragen over en bijna altijd eindigen ze op dezelfde plek: als wij het niet doen, doet China het. Maar klopt het China argument wel? De cijfers laten echt iets anders zien.

Het Australische ASPI houdt bij welk land vooroploopt in hoogwaardig onderzoek per kritieke technologie. Tussen 2003 en 2007 leidde Amerika in 60 van de 64 gemeten gebieden, China in 3. In de nieuwste meting staat China 1e in 66 van de 74 gebieden.

Twee cijfers om dat te voelen. In 2000 bouwde China minder dan 5% van alle schepen ter wereld, nu meer dan 53%, terwijl de Amerikaanse scheepsbouw is weggezakt naar praktisch 0. De Amerikaanse luchtvaartautoriteit mat via verplichte identificatiesignalen welke drones er boven Amerika vliegen: ongeveer 96 % was van DJI, een bedrijf uit het Chinese Shenzhen dat in Amerikaanse overheidsprogramma’s verboden is. Het verbod veranderde niets aan wie er in de lucht hangt.

Daar komt bij dat afhankelijkheid twee kanten op werkt. China maakt ongeveer 94 % van de magneten die elke elektromotor, windturbine en straaljager nodig heeft. Toen Peking vorig jaar vergunningen ging eisen, zakte de export daarvan binnen 2 maanden met 75%.

De race die we wel hebben uitgeroepen

Al die posities veroverde China op terreinen waar niemand riep dat het een race was. Op precies een terrein deden we wel wat het China-argument voorschrijft: maximaal versnellen, maximaal afsnijden. Dat terrein is AI. Dat horen we ook steeds vaker terug als we juist de AI ontwikkelingen proberen in te dammen; maar China rent ons dan voorbij!

Ook op dat vlak gaan de ontwikkelingen trouwens erg snel. In mei 2023 lag het beste Amerikaanse model nog 17-30% voor op het beste Chinese model. Afgelopen maart was dat 2.7%. Amerikaanse investeerders staken vorig jaar $285 miljard in AI, tegenover 12.4 miljard in China…. 23x zoveel geld voor een voorsprong van nog geen 3%.

Wie heeft er belang bij het frame

De luidste pleitbezorgers van het verhaal over een beslissende voorsprong zijn de AI-labs en hun investeerders, met een direct belang bij lichtere regels rondom hun eigen AI plus overheidssteun. In de Koude Oorlog hadden we de bommenwerperkloof en de rakettenkloof, allebei fors overdreven, allebei gevolgd door belastinggeld dat belandde bij wie de kloof had gemeld. Amerikaanse cloudreuzen geven dit jaar ruwweg $725 miljard uit aan AI-infrastructuur, grotendeels geleend.

Het bijbehorende argument dat we niet kunnen reguleren omdat China dan wint, gaat bovendien makkelijk onderuit. China reguleert AI sinds 2021, met verplichte veiligheidstoetsen voordat een model publiek mag. Eind vorig jaar stonden er ruim 700 modellen geregistreerd. Het land dat het excuus vormt… doet het al.

En moeten we dan alles bij Amerika laten

Toen Den Haag de Chinese eigenaar van chipbedrijf Nexperia op afstand zette, legde Peking een exportverbod op. Binnen enkele dagen zaten Europese autofabrieken zonder de ruim vijftig miljard eenvoudige chips per jaar uit de Chinese fabrieken. Zonder die onooglijke dingetjes rijdt er geen auto de poort uit. Wie zegt dat we ons achter Washington moeten scharen om Peking voor te blijven, moet uitleggen waarom afhankelijkheid van de ene supermacht veiliger is dan van de andere. Allebei hebben ze laten zien dat ze de kraan dichtdraaien wanneer het uitkomt.

Waar dit mij brengt

De wedloop is niet verzonnen. We hebben hem in mijn optiek verkeerd opgeschreven. Amerika sprint naar een drempel, in de overtuiging dat wie daar het eerst is voorgoed wint. China bouwt intussen de fabrieken, de netten, de mijnen en de standaarden die bepalen hoe de rest van de wereld deze technologie de komende dertig jaar gebruikt.

Op de terreinen waar niemand een race uitriep, is dat land wereldleider geworden. Op het ene terrein waar we alles uit de kast trokken, kromp de voorsprong tot niets. Dat bewijst niet dat versnellen zinloos is. Het bewijst wel dat versnellen het probleem waarvoor het werd ingezet niet heeft opgelost. En dan de hamvraag… wat bouwen wij in Europa in de tussentijd dat van onszelf is?

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Toen ik dertien was, begon ik met mijn eerste ondernemende activiteiten. Websites bouwen, wat handeltjes, dingen bedenken waarvan ik dacht dat iemand er misschien geld voor wilde betalen. Sindsdien heb ik meerdere bedrijven gebouwd en vooral geleerd dat een goed idee eigenlijk maar een verbazingwekkend klein onderdeel van ondernemen is.

Zodra zo’n bedrijf iets serieuzer wordt, begint het organiseren. Financieel advies, juridische documenten, websites, ontwerp, marketing, onderzoek, administratie etc. Voor bijna alles bestaat iemand die er veel beter in is dan jij, dus huur je mensen in. Soms omdat je de kennis niet hebt, soms omdat je simpelweg niet genoeg uren in een dag hebt.

Het afgelopen jaar (of misschien zelfs 2) valt me op hoe snel die rekensom aan het veranderen is. Ik zet nieuwe dingen op waarbij ik werkzaamheden volledig zelfstandig doe waarvoor ik een paar jaar geleden zonder nadenken iemand had gebeld. Ik ben echt niet ineens jurist, programmeur, designer, onderzoeker en financieel specialist geworden. Ik kom alleen op al die gebieden veel verder voordat ik iemand anders nodig heb.

Toen ik daarom las dat het aantal Amerikanen dat op LinkedIn ‘founder’ aan zijn profiel toevoegde in één jaar met 69% was gestegen, vond ik dat een stuk interessanter dan de zoveelste discussie over welke banen AI gaat vervangen. Bijna de helft van de kleine ondernemers die LinkedIn ondervroeg, 47%, zegt bovendien dat AI de kans groter heeft gemaakt dat ze zelf een bedrijf beginnen.

Misschien gebeurt hier iets waar we veel minder over praten: technologie maakt niet alleen bestaande bedrijven productiever, maar verandert wie überhaupt in staat is een bedrijf te bouwen.

Er komen opvallend veel kleine bedrijven bij

De cijfers beginnen die gedachte behoorlijk interessant te maken. Gusto onderzocht ruim 1000 Amerikanen die in 2025 een bedrijf begonnen. 60% gebruikte AI tijdens de start, ongeveer 2x zoveel als twee jaar eerder. Driekwart gebruikte het om ideeën verder uit te werken, 53% voor administratieve of juridische werkzaamheden en 51% voor het opzetten van de bedrijfsvoering.

Nog opvallender vind ik andere Amerikaanse registratiedata. Aanvragen van eenpersoonsbedrijven stegen sinds begin 2025 met meer dan 20%, terwijl aanvragen van bedrijven waarvan verwacht wordt dat ze personeel gaan aannemen vrijwel gelijk bleven. Bijna de helft van die extra eenpersoonsbedrijven zit in sectoren met een hoge AI-adoptie. Tegelijk groeide volgens Carta het aandeel startups met één founder van ruim 23% in 2019 naar 35% in 2024.

Daar lijkt dus langzaam een ander soort bedrijf te ontstaan. Niet de traditionele zzp’er die vooral zijn eigen uren verkoopt, maar een ondernemer die software, automatisering, freelancers en AI combineert en daarmee een bedrijf probeert te bouwen dat veel groter is dan één agenda vol declarabele uren. Het extreme voorbeeld daarvan kwam ik pas echt goed tegen toen ik hier verder naar zocht.

$401 miljoen omzet, vrijwel alleen

Matthew Gallagher begon in september 2024 vanuit zijn huis in Los Angeles het telehealthbedrijf Medvi. Startkapitaal: ongeveer $20.000. Personeel: nul. Hij gebruikte meer dan 12 AI-tools voor onder andere de software, teksten, advertenties, klantenservice en analyses. Zaken die hij niet zelf kon uitvoeren, zoals artsen, apotheken en logistiek, besteedde hij uit aan bestaande platforms.

In het eerste volledige jaar draaide Medvi volgens cijfers die door The New York Times zijn ingezien $401 miljoen omzet en $65 miljoen nettowinst. Pas daarna nam Gallagher zijn eerste werknemer aan: zijn broer. Het bedrijf verwacht in 2026 met die twee medewerkers richting $1,8 miljard omzet te gaan.

Dat is dus nog niet helemaal de beroemde voorspelling van Sam Altman dat 1 persoon zelfstandig een bedrijf van $1 miljard zou bouwen. Het komt alleen angstaanjagend dichtbij.

Het verhaal heeft trouwens ook een minder fraaie kant… en juist daarom vind ik het interessant. De AI-klantenservice van Medvi verzon bijvoorbeeld prijzen en producten die het bedrijf helemaal niet verkocht. Rond de marketing ontstond discussie over AI-gegenereerde artsen en misleidende advertenties, terwijl de FDA het bedrijf eveneens op de vingers tikte.

Dat is misschien wel de beste illustratie van wat hier gebeurt. De capaciteit van 1 persoon groeit spectaculair, maar verantwoordelijkheid schaalt niet automatisch mee.

Eén persoon krijgt veel meer intellectuele slagkracht

Dat vind ik uiteindelijk belangrijker dan het miljardvoorbeeld. Grote organisaties hadden altijd een enorm voordeel omdat ze kennis konden verzamelen. Een multinational heeft juristen, analisten, programmeurs, strategen, onderzoekers en ontwerpers rondlopen. Als kleine ondernemer had je jezelf, Google en een stapel offertes van mensen die per uur factureerden.

Een interessant experiment met 758 consultants van Boston Consulting Group laat zien hoeveel dat verschil kan veranderen. Bij taken waarvoor AI geschikt was, verhoogde GPT-4 de kwaliteit van het werk met ongeveer 40% en de snelheid met 25%. Vooral de minder sterke consultants gingen hard vooruit. Het onderzoek liet tegelijkertijd iets zien wat de onderzoekers de jagged frontier noemen: bij sommige taken maakt AI mensen veel beter, bij andere taken worden ze juist slechter omdat ze te veel op een overtuigend klinkend antwoord vertrouwen.

Dat herken ik. Het interessante aan AI is voor mij inmiddels niet meer dat ik bestaand werk wat sneller kan doen. Ik kan werkzaamheden aanpakken waar ik vroeger überhaupt niet aan begonnen was. Een markt analyseren, een financiële berekening maken, een eenvoudige applicatie bouwen, bergen onderzoek doorspitten of een eerste juridisch document uitwerken: ik hoef niet bij nul te beginnen en meteen een specialist te bellen. Dat geeft 1 individu een hoeveelheid intellectuele slagkracht die voorheen vooral binnen organisaties beschikbaar was.

Bouwen wordt goedkoper, kiezen wordt duurder

Daar zit tegelijk een vreemde consequentie aan. Zodra iedereen sneller kan bouwen, wordt bouwen zelf minder bijzonder. Professor Eggers van NYU Stern schreef daar onlangs een interessante analyse over. Als AI steeds meer onderdelen van innovatie goedkoop en toegankelijk maakt, verschuift het concurrentievoordeel van iets kunnen maken naar weten wat je moet maken. Probleemkeuze, inzicht, domeinkennis en oordeel worden belangrijker wanneer uitvoering steeds toegankelijker wordt.

Dat lijkt mij precies wat er gaat gebeuren. Als iedere ondernemer binnen een weekend een keurige website kan bouwen, is een keurige website geen voordeel meer. Als iedereen software kan laten programmeren, ligt het voordeel niet langer bij degene die kan programmeren. Wanneer iedereen honderd marketingideeën kan produceren, wordt vooral interessant wie aanvoelt welk idee nergens op slaat. AI maakt middelmatigheid namelijk óók veel goedkoper.

Dat merk ik zelf ook steeds meer. Ik kan veel sneller nieuwe dingen bouwen dan een paar jaar geleden, maar ik heb daardoor niet automatisch betere ideeën. Sterker nog, ik kan tegenwoordig ook veel efficiënter een slecht idee uitwerken.

Misschien krijgen we vooral veel méér bedrijven

Nederland beweegt ondertussen ook. In het tweede kwartaal van 2026 werden hier 56.331 bedrijven gestart, 4,8% meer dan een jaar eerder. Van die starters koos 79% voor het zzp-schap. Vooral binnen ICT nam het aantal startende zzp’ers opvallend sterk toe, met 53,2%.

Ik zou daar alleen nog niet uit concluderen dat we massaal een land van AI-ondernemers worden. De beschikbare cijfers verschillen nogal afhankelijk van wat onderzoekers precies onder AI-gebruik verstaan. Officiële operationele metingen komen bij kleine Amerikaanse bedrijven bijvoorbeeld rond 17% tot 20% uit, terwijl enquêtes waarin ondernemers zelf aangeven of ze AI gebruiken cijfers van 55% tot 68% opleveren.

De richting vind ik wel overtuigend. De kosten van proberen dalen enorm. Je hebt minder mensen, minder startkapitaal en minder specialistische kennis nodig voordat je kunt ontdekken of iemand überhaupt op jouw idee zit te wachten.

Dat verandert ondernemerschap behoorlijk. Vroeger moest je voor sommige plannen eerst een organisatie bouwen om te kunnen testen of het plan werkte. Nu kun je steeds vaker eerst iets bouwen, klanten zoeken en omzet maken, en daarna pas bedenken welke organisatie daarbij hoort.

Na al die jaren ondernemen merk ik dat zelf misschien nog het sterkst aan het moment waarop een idee bij me opkomt. Vroeger dacht ik geregeld: leuk, maar daar heb ik iemand voor nodig. Tegenwoordig denk ik veel sneller: laat ik eens kijken of ik het zelf kan bouwen. Bomvol enthousiasme kom ik steeds weer uit zo’n werksessie. Hongerig naar meer. Veel meer.

Als miljoenen andere ondernemers dezelfde ervaring krijgen, kan dat economisch een stuk interessanter worden dan het zoveelste verhaal over een chatbot die onze e-mails sneller schrijft.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl

Gartner voorspelt dat 20% van alle organisaties AI gaat gebruiken om veel platter te worden, waarbij meer dan de helft van de bestaande middenmanagementfuncties verdwijnt. Dat is nogal een voorspelling. Zeker omdat diezelfde onderzoekswereld nog niet zo lang geleden ongeveer het tegenovergestelde verhaal vertelde: AI zou juist zorgen voor een dikkere laag in het midden, omdat onderaan veel instapwerk verdwijnt. Nu is de term ineens Great Flattening en staat juist die middenlaag onder druk. Zo snel kan een overtuigend toekomstbeeld blijkbaar omslaan.

Momenteel spreek ik bijna elke week wel ergens over de impact van AI op organisaties en krijg genoeg ‘bange’ vragen. Gaan die managementlagen er echt aan, of kijken we over twee jaar terug op de volgende hype? In mijn dagelijkse werk zie ik dat bedrijven de discussie snel reduceren tot 1 vraag: hoeveel managers kunnen we schrappen? Volgens mij begint het interessantere gesprek ergens anders. Wat verdwijnt er eigenlijk wanneer je zo’n laag weghaalt, en wie merkt dat als eerste?

Deloitte beschreef onlangs vrij helder waarom middenmanagement uberhaupt zo groot is geworden. Informatie was schaars, kennis zat verspreid door de organisatie en iemand moest werk verdelen, controleren, interpreteren en uiteindelijk naar boven rapporteren. AI raakt precies aan die werkzaamheden. Software kan steeds beter waarnemen, samenvatten, plannen, controleren en communiceren. Wanneer een flink deel van die keten automatisch verloopt, wordt het logisch dat bedrijven zich afvragen waarom daar nog drie managementlagen tussen moeten zitten.

Er zijn inmiddels genoeg cijfers om die discussie serieus te nemen. Gartner voorspelde dat 20% van de organisaties AI zou inzetten om de structuur platter te maken, waarbij meer dan de helft van de bestaande middenmanagementfuncties verdwijnt. Korn Ferry vroeg 15000 professionals wereldwijd wat zij al zagen gebeuren. 41% zei dat hun organisatie het afgelopen jaar managementlagen had geschrapt. Amazon verhoogde op aanwijzing van CEO Jassy de verhouding tussen medewerkers en managers met minstens 15%. Jassy had weinig geduld meer met wat hij omschreef als “vergaderingen ter voorbereiding van vergaderingen”. Bij sommige AI teams van Meta ligt de verhouding inmiddels rond 1 manager op 50 medewerkers. Hoogleraar organisatiegedrag Andre Spicer verwacht daar weinig goeds van en voorspelt dat zulke extremen op een fiasco kunnen uitlopen.

Wetenschappelijk is het beeld ondertussen veel minder netjes dan sommige krantenkoppen suggereren. Een nieuwe studie van INSEAD analyseerde vacatures rond de introductie van ChatGPT en vond minder vraag naar managers, plattere rapportagelijnen en hogere lonen voor werknemers zonder leidinggevende functie. Dat lijkt een stevige bevestiging van de Great Flattening. Onderzoekers van IESE Business School en KU Leuven kwamen met een andere dataset tot het tegenovergestelde. Zij analyseerden 375 miljoen Amerikaanse vacatures tussen 2010 en 2022 en zagen juist méér managementvacatures bij bedrijven die intensiever met AI werkten. Twee serieuze onderzoeksteams, twee verschillende uitkomsten. Wie beweert dat de wetenschap hier al uit is, loopt voor de feiten uit.

Zelfs de cijfers over het aantal medewerkers per manager zijn minder spectaculair zodra je erin duikt. Gallup zag het gemiddelde aantal directe medewerkers per manager in de Verenigde Staten stijgen van 10,9 in 2024 naar 12,1 in 2025. Dat klinkt als een stevige verschuiving. De mediaan bleef gewoon rond 5-6 medewerkers liggen. Een relatief kleine groep extreem grote teams trekt het gemiddelde omhoog, terwijl voor veel managers nauwelijks iets verandert. Gartner veranderde zijn eigen taal daarom inmiddels ook. Het gaat minder over span of control en steeds vaker over span of complexity. Een manager stuurt straks misschien geen twintig mensen aan, maar een combinatie van medewerkers, AI agents en geautomatiseerde processen.

Er is bovendien genoeg onderzoek dat juist wijst op méér werk voor het middenmanagement. Capgemini ondervroeg 1500 managers en 1000 medewerkers bij grote bedrijven. Slechts 18% verwacht dat AI daadwerkelijk leidt tot minder middenmanagement. 54% denkt dat managers juist belangrijker worden. Harvard Business Review onderzocht twee grote consultancybedrijven en zag iets vergelijkbaars gebeuren. Partners wilden sneller leveren met kleinere teams, terwijl de middenmanager er nieuwe taken bij kreeg: AI-output controleren, fouten eruit halen, juniors begeleiden en opletten dat wat inmiddels als workslop wordt omschreven niet bij de klant terechtkomt. De deadlines werden ondertussen niet ruimer.

Meta leverde deze zomer misschien wel de interessantste reality check. Reuters beschreef eind augustus hoe Zuckerberg binnen Project OT sommige teams tot 60% wilde verkleinen en een deel van het werk wilde vervangen door AI-agents. Op papier zag dat er waarschijnlijk prachtig uit. In de uitvoering werd het rommeliger. Het aantal AI-gegenereerde codewijzigingen steeg met 220%, terwijl de productverbeteringen die klanten daadwerkelijk merkten veel minder hard meegingen. Technische en beveiligingsincidenten namen met 40% toe. Meta schrapte vervolgens een tweede geplande ontslagronde.

Dat voorbeeld raakt voor mij echt de kern. Een organisatie platter tekenen is simpel. Je verwijdert twee vakjes uit het organogram, vergroot de teams en rekent de besparing uit. De lastige vraag komt daarna: wie controleert de kwaliteit, wie begeleidt nieuwe medewerkers, wie ziet dat een team vastloopt en wie draagt de kennis over die vroeger vanzelf in zo’n managementlaag bleef hangen?

Daar zit ook mijn grootste bezwaar tegen bedrijven die middenmanagement vooral als kostenpost bekijken. De middenmanager was lang niet alleen degene die voortgangsrapportages maakte en vergaderingen organiseerde. Het was ook de plek waar iemand voor het eerst leerde leidinggeven, conflicten oplossen, mensen beoordelen en verantwoordelijkheid dragen. Haal je die laag te hard weg, dan schrap je tegelijk een deel van de leerschool voor toekomstige leiders.

Mijn verwachting is daarom niet dat de organisatiepiramide simpelweg instort. Hij verandert van vorm. Sommige coördinerende managementtaken verdwijnen inderdaad snel. Andere worden zwaarder, juist omdat een manager straks moet schakelen tussen mensen, algoritmes en geautomatiseerde processen. Dat verhaal is minder lekker dan “de helft van de managers verdwijnt”, maar waarschijnlijk wel dichter bij wat er werkelijk gaat gebeuren.

Wie nu blind in de middenlaag snijdt omdat Great Flattening dit jaar het populaire verhaal is, kan over een paar jaar ontdekken dat er iets verdwenen is wat lastig terug te kopen valt. Managers zijn vervangbaar. Een generatie toekomstige leiders die nergens meer het vak heeft kunnen leren, een stuk minder.

Jan Scheele

Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.

Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.

Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.

janscheele.nl