Boeken & Blogs

Gisteren ging Digitaal Nederland gedeeltelijk uit. MijnOverheid, DigiD en de site van de Tweede Kamer gingen tijdelijk offline vanwege een lek in PHP. Om vier uur ‘s middags waren er al patches, en tegen de avond kwamen de eerste websites weer terug. Tot nu toe is er weinig gebeurd.

Precies daar zit het gevaar. Rond de millenniumwisseling werd veel geld besteed aan de millenniumbug. Op 1 januari 2000 gebeurde er vrijwel niets, en velen vonden dat het allemaal overdreven was. Dat was de verkeerde conclusie. Er gebeurde niets omdat mensen het probleem op tijd zagen. Na woensdag is het risico dat dezelfde fout herhaald wordt. Het viel mee. Het viel mee omdat het probleem zichtbaar was. De echte problemen die de komende jaren zullen komen, zijn niet zichtbaar.

Een systeem dat foutloos werkt

Nederland weet hoe stil falen eruitziet. Bij de toeslagenaffaire ging geen enkele website uit. Er was geen storing, geen lek, geen alarm. Een risicomodel van de Belastingdienst, dat onder andere nationaliteit meewoog, hielp jarenlang te bepalen welke ouders verdacht werden. Het systeem deed wat het moest doen. Voor duizenden gezinnen had het een verwoestend resultaat. In januari 2021 trad het kabinet af.

Datzelfde falen wordt nu opgeschaald met AI. Een model dat foutloopt, gaat niet op zwart. Het blijft vriendelijke antwoorden geven. Vroeger had je een overheid nodig met een eigen systeem voor zo’n probleem. Nu kan elke organisatie haar eigen versie bouwen. In een paar uur, zonder dat iemand het merkt.

Hoe afwijking normaal wordt

Wie wil begrijpen hoe dat gebeurt, moet teruggaan naar de Challenger-ramp van 1986. Socioloog Diane Vaughan liet later zien dat NASA de schade aan de afdichtingsringen al eerder had gezien. Elke keer ging het goed, dus elke keer werd de schade iets acceptabeler. Ze noemde dit de normalisering van afwijking. De avond voor de lancering waarschuwde ingenieur Roger Boisjoly dat de kou de ringen fataal kon worden. Hij werd niet gehoord.

Met AI gebeurt dit sneller dan we gewend zijn. Het model verzint een bron, iemand verbetert het, er gebeurt niets ergs. De tiende keer controleert niemand meer. Charles Perrow schreef al lang geleden dat ongelukken in complexe en strak gekoppelde systemen geen uitzondering zijn, maar een normale eigenschap. AI-agents die op elkaars output bouwen, vormen precies zo’n systeem.

Oefenen met een toekomst die nog niet bestaat

Wat moet je als leider doen? Voorspellen lukt niet. Maar je kunt doen wat Shell in de jaren zeventig deed. Pierre Wack en zijn team schreef scenario’s, waaronder een plotselinge oliecrisis. Niet om de toekomst te raden, maar om het management er alvast in te laten lopen. Toen de crisis van 1973 kwam, herkende Shell haar sneller dan de concurrentie.

Hetzelfde werkt voor AI. Ga met je bestuur om tafel en begin met deze zin: het is 2029 en onze AI zit al drie jaar structureel fout. Hoe is dat gebeurd? Wie had het kunnen zien? Waarom hebben we niet geluisterd?

Die laatste vraag is het belangrijkst. Bij stil falen kleurt geen dashboard rood. De enige sensor is een mens die zegt: dit klopt niet. Challenger had die mens. Wat ontbrak was een leidinggevende die luisterde. De belangrijkste maatstaf voor bestuurders is daarom niet hoeveel processen op AI draaien, maar hoe snel twijfel van de werkvloer de top bereikt. Wat er daarna gebeurt, zegt alles over je leiderschap.

Gisteren ging het licht uit en zag iedereen dat het donker was. De volgende keer blijft het licht branden en staan alleen de meubels op een andere plek. Organisaties die dat overleven, hebben niet de beste technologie. Ze hebben mensen die het opmerken. Ze hebben leiders die hen geloven.

Afgelopen week hield ik een lezing voor een groep verzekeraars. Mensen die precies weten hoe een goede polis eruit moet zien. Voor bijna alles is er al een polis: voor je dak, je vrachtwagen, je bestuurders. Maar voor fouten die AI maakt, is dat nog steeds niet het geval. Terwijl we AI nu massaal gebruiken, zowel als individuen als als organisaties. Niet alleen de risico’s nemen toe, ook de grote fouten worden steeds vaker.

Het begint soms grappig. Een Amerikaanse autodealer zag zijn chatbot een nieuw SUV aanbieden voor één dollar. De klantenservicebot van DPD begon te vloeken en schreef een gedicht over hoe slecht DPD was.

Maar dan wordt het minder grappig. Air Canada liet zijn chatbot een rouwkorting beloven die niet bestond en vertelde later dat de bot een aparte entiteit was. De rechter zag dat anders: Air Canada moest betalen. In Duitsland gaf de chatbot van een kliniek artsen titels die ze niet hadden. Het Oberlandesgericht Hamm oordeelde in mei dat de kliniek verantwoordelijk was, ook al had de bot correcte informatie gekregen. In een zaak in Amsterdam citeerde een advocaat een arrest van de Hoge Raad met een passage die nooit had bestaan, wat leidde tot extra kosten. Deloitte moest geld terugbetalen aan de Australische overheid na een rapport met verzonnen bronnen.

Het patroon herhaalt zich steeds: het begint als een nieuwsgierigheid en eindigt bij de rechter. De meeste fouten worden nooit gezien. Ze zitten in een verkeerde offerte of een foute belofte in een klantmail. Niemand merkt het, totdat iemand het wél opmerkt.

En wie is er verantwoordelijk? Jij!

Niet de leverancier, niet de chatbot, niet de medewerker die op verzenden drukte. De organisatie die AI gebruikt, draagt verantwoordelijkheid voor wat die AI zegt en doet. Er is geen nieuwe wet nodig voor dat. Een werkgever is aansprakelijk voor fouten van zijn personeel. Wie een ongeschikt hulpmiddel gebruikt, draagt de gevolgen. Een hallucinerend taalmodel is precies zo’n hulpmiddel.

De leverancier sluit vaak aansprakelijkheid voor output uit in de voorwaarden. Je disclaimer helpt ook niet. Air Canada had de juiste informatie op hun website staan, maar de klant vertrouwde op de chatbot. Europa zet de eisen nog hoger. Vanaf 9 december 2026 geldt software en AI als product onder de nieuwe productaansprakelijkheidsrichtlijn. Dan kan een rechter je dwingen je logs te tonen.

De verzekeraars schrikken allemaal terug

Lang was AI-schade onderdeel van de gewone polis, omdat niemand AI had uitgesloten. Die onzichtbare dekking verdwijnt. Grote Amerikaanse verzekeraars zoals AIG en W.R. Berkley willen AI-aansprakelijkheid uitsluiten. Sinds januari liggen daar standaardclausules klaar.

Dat is in mijn optiek ook logisch. Een adviseur maakt een fout bij één klant. Een chatbot herhaalt dezelfde fout bij duizenden klanten. Voor die soort risico lopen verzekeraars weg. De eerste AI-polissen, van Munich Re en het door Lloyd’s gesteunde Armilla, stellen hoge eisen: wat gebruik je, wie is verantwoordelijk, kan een mens ingrijpen? Niet de toezichthouder, maar je verzekeraar gaat jouw AI-governance afdwingen.

Hoe wapen je jouw organisatie hiertegen

Behandel AI als een nieuwe collega: snel, nooit moe, altijd overtuigend en soms volledig fout. Zo iemand laat je ook niet zonder inwerkperiode op klanten los.

Begin met een telefoontje naar je verzekeringsadviseur. Vraag schriftelijk wat je polissen zeggen over AI-schade, vooral over agents die zelf handelen. Kijk dan welke AI met je klanten communiceert en welke tools je werknemers echt gebruiken. Een verbod duwt het alleen naar de schaduw. Geef het een eigenaar met naam, die het mag aanzetten en ook stilzet. Zet een mens op de plekken waar het echt toe doet, zoals bij advies met financiële of juridische gevolgen. Leg vast wat je AI doet, alsof je het ooit aan een rechter moet laten zien.

Mijn favoriete regel: wie AI-output naar een klant stuurt, tekent ervoor alsof hij het zelf schreef. Dat ene zinnetje verandert meer gedrag dan elke policy van twintig pagina’s.

De nieuwe vraag aan tafel

De afgelopen jaren ging het gesprek over AI vooral over snelheid. In 2027 komt er in mijn optiek een nieuwe vraag bij: kunnen we aantonen dat we het beheersen? Het juridische risico groeit, het verzekerde risico neemt af. Het gat daartussen komt op jouw balans. Neem dus deze week de telefoon en vraag je adviseur: wat dekt mijn polis als onze AI zich vergist? Grote kans dat je schrikt van het antwoord. Beter nu dan bij je eerste claim.

Na de eerste kernproeven ontstond een merkwaardig probleem. Vrijwel al het nieuw geproduceerde staal bevatte kleine sporen van radioactieve vervuiling uit de atmosfeer. Voor extreem gevoelige meetapparatuur was daarom juist oud staal nodig, gemaakt vóór het nucleaire tijdperk. Er werd zelfs staal uit gezonken schepen gehaald, simpelweg omdat dat materiaal nog “schoon” was.

Met informatie gebeurt nu iets wat daar opvallend veel op lijkt. Steeds meer van wat online verschijnt, is door machines geschreven of bewerkt. Onderzoek van Graphite schat dat inmiddels ongeveer de helft van de nieuw gepubliceerde artikelen hoofdzakelijk door AI wordt gemaakt. Dat maakt AI-content niet automatisch slecht, maar het verandert wel de verhouding tussen oorspronkelijke informatie en materiaal dat vooral voortbouwt op wat er al was. Daarmee ontstaat een nieuwe vorm van schaarste: informatie die rechtstreeks uit de werkelijkheid komt.

Als AI van AI leert

Onderzoekers van Oxford en Cambridge beschreven in Nature wat er gebeurt wanneer nieuwe AI-modellen steeds opnieuw worden getraind op materiaal dat eerdere modellen hebben geproduceerd. Vooral zeldzame informatie dreigt dan langzaam te verdwijnen.

Neem een dataset met duizenden honden. De meeste hebben bruine ogen, een klein deel blauwe. Laat een model nieuwe voorbeelden maken en bruine ogen komen vanzelf vaker terug. Train je een volgende generatie weer op die output, dan worden blauwe ogen nog zeldzamer. Zo ontstaat een steeds smallere versie van de werkelijkheid. Dat heet model collapse.

De simpele conclusie dat AI zichzelf uiteindelijk dom maakt, klopt niet. Het probleem wordt veel kleiner wanneer echte data behouden blijven en bewust worden gemengd met synthetisch materiaal. Juist daar zit voor mij het interessante punt: als machines steeds goedkoper informatie produceren, wordt bronmateriaal dat nog niet eindeloos is herkauwd waardevoller.

Nieuwe werkelijkheid wordt schaars

Deloitte vatte dat onlangs kernachtig samen: “New data > synthetic data > old data.” Bijna iedereen kan straks dezelfde modellen gebruiken, dezelfde openbare bronnen doorzoeken en in seconden een prima analyse laten maken. Het verschil zit dan in informatie die een ander nog niet heeft.

Dat zie je nu al. Reddit krijgt tientallen miljoenen dollars voor toegang tot menselijke gesprekken. Cloudflare experimenteert met manieren waarop AI-bedrijven moeten betalen om websites uit te lezen. In de wetenschap worden enorme bedragen gestoken in nieuwe biologische datasets, omdat bestaande publicaties eindeloos opnieuw analyseren op een gegeven moment minder oplevert dan één nieuw experiment. Een model kan bestaande kennis uitstekend herschikken. Nieuwe werkelijkheid moet ergens ontstaan.

Je eigen data wordt daarmee interessanter

Veel directies vragen zich nu vooral af welk AI-model ze moeten gebruiken. Ik zou er een tweede vraag naast leggen: welke informatie hebben wij die nergens anders bestaat?

Voor een verzekeraar zijn dat niet de polisvoorwaarden, maar uitzonderlijke claims, nieuwe fraudepatronen en de afwegingen van ervaren schade-experts. Bij een fabrikant gaat het om sensorgegevens uit echte machines en onverwachte storingen. Een ziekenhuis heeft diagnostische uitkomsten. Een adviesbureau beschikt over gesprekken waarin klanten vertellen waarom een plan op papier goed leek, maar in de praktijk vastliep.

Dat soort informatie ontstaat niet door nóg een samenvatting te laten maken. Iemand moet iets zien, meten, proberen, vragen of meemaken. Ik denk dat daar de komende jaren een groter deel van het concurrentievoordeel komt te liggen. Openbare kennis wordt goedkoop. Goede samenvattingen worden goedkoop. Verse informatie blijft duur, omdat je daarvoor de wereld in moet.

Dat verandert ook de waarde van werk

Wie vooral bestaande informatie verzamelt, ordent en samenvat, krijgt steeds directere concurrentie van AI. Iemand die een onverwachte afwijking ziet, een klant iets laat vertellen wat nog nergens staat of een nieuwe hypothese test, doet iets anders. Die persoon produceert nieuwe kennis.

Daarom zouden bedrijven veel scherper moeten kijken naar waar hun eigen werkelijkheid nu verloren gaat. Welke gesprekken verdwijnen na een Teams-call? Welke storingen worden opgelost zonder dat iemand noteert wat er gebeurde? Welke inzichten van ervaren medewerkers leven alleen in hun hoofd?

Als oorspronkelijke informatie waardevoller wordt, is het nogal zonde om die iedere dag ongezien te laten verdwijnen. Dat vind ik misschien wel het vreemdste gevolg van generatieve AI. We dachten jarenlang dat waarde vooral zat in méér informatie kunnen produceren. Nu machines dat bijna onbeperkt kunnen, schuift de waarde terug naar iets veel ouderwetsers: goed kijken naar wat er werkelijk gebeurt. Een model kan zonder moeite een miljoen antwoorden schrijven. Voor één nieuw feit moet iemand nog steeds de werkelijkheid in.