KEYNOTE SPREKER · DAGVOORZITTER ADVIES & IMPLEMENTATIE

Gisteren ging Digitaal Nederland gedeeltelijk uit. MijnOverheid, DigiD en de site van de Tweede Kamer gingen tijdelijk offline vanwege een lek in PHP. Om vier uur ‘s middags waren er al patches, en tegen de avond kwamen de eerste websites weer terug. Tot nu toe is er weinig gebeurd.

Precies daar zit het gevaar. Rond de millenniumwisseling werd veel geld besteed aan de millenniumbug. Op 1 januari 2000 gebeurde er vrijwel niets, en velen vonden dat het allemaal overdreven was. Dat was de verkeerde conclusie. Er gebeurde niets omdat mensen het probleem op tijd zagen. Na woensdag is het risico dat dezelfde fout herhaald wordt. Het viel mee. Het viel mee omdat het probleem zichtbaar was. De echte problemen die de komende jaren zullen komen, zijn niet zichtbaar.

Een systeem dat foutloos werkt

Nederland weet hoe stil falen eruitziet. Bij de toeslagenaffaire ging geen enkele website uit. Er was geen storing, geen lek, geen alarm. Een risicomodel van de Belastingdienst, dat onder andere nationaliteit meewoog, hielp jarenlang te bepalen welke ouders verdacht werden. Het systeem deed wat het moest doen. Voor duizenden gezinnen had het een verwoestend resultaat. In januari 2021 trad het kabinet af.

Datzelfde falen wordt nu opgeschaald met AI. Een model dat foutloopt, gaat niet op zwart. Het blijft vriendelijke antwoorden geven. Vroeger had je een overheid nodig met een eigen systeem voor zo’n probleem. Nu kan elke organisatie haar eigen versie bouwen. In een paar uur, zonder dat iemand het merkt.

Hoe afwijking normaal wordt

Wie wil begrijpen hoe dat gebeurt, moet teruggaan naar de Challenger-ramp van 1986. Socioloog Diane Vaughan liet later zien dat NASA de schade aan de afdichtingsringen al eerder had gezien. Elke keer ging het goed, dus elke keer werd de schade iets acceptabeler. Ze noemde dit de normalisering van afwijking. De avond voor de lancering waarschuwde ingenieur Roger Boisjoly dat de kou de ringen fataal kon worden. Hij werd niet gehoord.

Met AI gebeurt dit sneller dan we gewend zijn. Het model verzint een bron, iemand verbetert het, er gebeurt niets ergs. De tiende keer controleert niemand meer. Charles Perrow schreef al lang geleden dat ongelukken in complexe en strak gekoppelde systemen geen uitzondering zijn, maar een normale eigenschap. AI-agents die op elkaars output bouwen, vormen precies zo’n systeem.

Oefenen met een toekomst die nog niet bestaat

Wat moet je als leider doen? Voorspellen lukt niet. Maar je kunt doen wat Shell in de jaren zeventig deed. Pierre Wack en zijn team schreef scenario’s, waaronder een plotselinge oliecrisis. Niet om de toekomst te raden, maar om het management er alvast in te laten lopen. Toen de crisis van 1973 kwam, herkende Shell haar sneller dan de concurrentie.

Hetzelfde werkt voor AI. Ga met je bestuur om tafel en begin met deze zin: het is 2029 en onze AI zit al drie jaar structureel fout. Hoe is dat gebeurd? Wie had het kunnen zien? Waarom hebben we niet geluisterd?

Die laatste vraag is het belangrijkst. Bij stil falen kleurt geen dashboard rood. De enige sensor is een mens die zegt: dit klopt niet. Challenger had die mens. Wat ontbrak was een leidinggevende die luisterde. De belangrijkste maatstaf voor bestuurders is daarom niet hoeveel processen op AI draaien, maar hoe snel twijfel van de werkvloer de top bereikt. Wat er daarna gebeurt, zegt alles over je leiderschap.

Gisteren ging het licht uit en zag iedereen dat het donker was. De volgende keer blijft het licht branden en staan alleen de meubels op een andere plek. Organisaties die dat overleven, hebben niet de beste technologie. Ze hebben mensen die het opmerken. Ze hebben leiders die hen geloven.

Afgelopen week hield ik een lezing voor een groep verzekeraars. Mensen die precies weten hoe een goede polis eruit moet zien. Voor bijna alles is er al een polis: voor je dak, je vrachtwagen, je bestuurders. Maar voor fouten die AI maakt, is dat nog steeds niet het geval. Terwijl we AI nu massaal gebruiken, zowel als individuen als als organisaties. Niet alleen de risico’s nemen toe, ook de grote fouten worden steeds vaker.

Het begint soms grappig. Een Amerikaanse autodealer zag zijn chatbot een nieuw SUV aanbieden voor één dollar. De klantenservicebot van DPD begon te vloeken en schreef een gedicht over hoe slecht DPD was.

Maar dan wordt het minder grappig. Air Canada liet zijn chatbot een rouwkorting beloven die niet bestond en vertelde later dat de bot een aparte entiteit was. De rechter zag dat anders: Air Canada moest betalen. In Duitsland gaf de chatbot van een kliniek artsen titels die ze niet hadden. Het Oberlandesgericht Hamm oordeelde in mei dat de kliniek verantwoordelijk was, ook al had de bot correcte informatie gekregen. In een zaak in Amsterdam citeerde een advocaat een arrest van de Hoge Raad met een passage die nooit had bestaan, wat leidde tot extra kosten. Deloitte moest geld terugbetalen aan de Australische overheid na een rapport met verzonnen bronnen.

Het patroon herhaalt zich steeds: het begint als een nieuwsgierigheid en eindigt bij de rechter. De meeste fouten worden nooit gezien. Ze zitten in een verkeerde offerte of een foute belofte in een klantmail. Niemand merkt het, totdat iemand het wél opmerkt.

En wie is er verantwoordelijk? Jij!

Niet de leverancier, niet de chatbot, niet de medewerker die op verzenden drukte. De organisatie die AI gebruikt, draagt verantwoordelijkheid voor wat die AI zegt en doet. Er is geen nieuwe wet nodig voor dat. Een werkgever is aansprakelijk voor fouten van zijn personeel. Wie een ongeschikt hulpmiddel gebruikt, draagt de gevolgen. Een hallucinerend taalmodel is precies zo’n hulpmiddel.

De leverancier sluit vaak aansprakelijkheid voor output uit in de voorwaarden. Je disclaimer helpt ook niet. Air Canada had de juiste informatie op hun website staan, maar de klant vertrouwde op de chatbot. Europa zet de eisen nog hoger. Vanaf 9 december 2026 geldt software en AI als product onder de nieuwe productaansprakelijkheidsrichtlijn. Dan kan een rechter je dwingen je logs te tonen.

De verzekeraars schrikken allemaal terug

Lang was AI-schade onderdeel van de gewone polis, omdat niemand AI had uitgesloten. Die onzichtbare dekking verdwijnt. Grote Amerikaanse verzekeraars zoals AIG en W.R. Berkley willen AI-aansprakelijkheid uitsluiten. Sinds januari liggen daar standaardclausules klaar.

Dat is in mijn optiek ook logisch. Een adviseur maakt een fout bij één klant. Een chatbot herhaalt dezelfde fout bij duizenden klanten. Voor die soort risico lopen verzekeraars weg. De eerste AI-polissen, van Munich Re en het door Lloyd’s gesteunde Armilla, stellen hoge eisen: wat gebruik je, wie is verantwoordelijk, kan een mens ingrijpen? Niet de toezichthouder, maar je verzekeraar gaat jouw AI-governance afdwingen.

Hoe wapen je jouw organisatie hiertegen

Behandel AI als een nieuwe collega: snel, nooit moe, altijd overtuigend en soms volledig fout. Zo iemand laat je ook niet zonder inwerkperiode op klanten los.

Begin met een telefoontje naar je verzekeringsadviseur. Vraag schriftelijk wat je polissen zeggen over AI-schade, vooral over agents die zelf handelen. Kijk dan welke AI met je klanten communiceert en welke tools je werknemers echt gebruiken. Een verbod duwt het alleen naar de schaduw. Geef het een eigenaar met naam, die het mag aanzetten en ook stilzet. Zet een mens op de plekken waar het echt toe doet, zoals bij advies met financiële of juridische gevolgen. Leg vast wat je AI doet, alsof je het ooit aan een rechter moet laten zien.

Mijn favoriete regel: wie AI-output naar een klant stuurt, tekent ervoor alsof hij het zelf schreef. Dat ene zinnetje verandert meer gedrag dan elke policy van twintig pagina’s.

De nieuwe vraag aan tafel

De afgelopen jaren ging het gesprek over AI vooral over snelheid. In 2027 komt er in mijn optiek een nieuwe vraag bij: kunnen we aantonen dat we het beheersen? Het juridische risico groeit, het verzekerde risico neemt af. Het gat daartussen komt op jouw balans. Neem dus deze week de telefoon en vraag je adviseur: wat dekt mijn polis als onze AI zich vergist? Grote kans dat je schrikt van het antwoord. Beter nu dan bij je eerste claim.