KEYNOTE SPREKER · DAGVOORZITTER ADVIES & IMPLEMENTATIE

Na de eerste kernproeven ontstond een merkwaardig probleem. Vrijwel al het nieuw geproduceerde staal bevatte kleine sporen van radioactieve vervuiling uit de atmosfeer. Voor extreem gevoelige meetapparatuur was daarom juist oud staal nodig, gemaakt vóór het nucleaire tijdperk. Er werd zelfs staal uit gezonken schepen gehaald, simpelweg omdat dat materiaal nog “schoon” was.

Met informatie gebeurt nu iets wat daar opvallend veel op lijkt. Steeds meer van wat online verschijnt, is door machines geschreven of bewerkt. Onderzoek van Graphite schat dat inmiddels ongeveer de helft van de nieuw gepubliceerde artikelen hoofdzakelijk door AI wordt gemaakt. Dat maakt AI-content niet automatisch slecht, maar het verandert wel de verhouding tussen oorspronkelijke informatie en materiaal dat vooral voortbouwt op wat er al was. Daarmee ontstaat een nieuwe vorm van schaarste: informatie die rechtstreeks uit de werkelijkheid komt.

Als AI van AI leert

Onderzoekers van Oxford en Cambridge beschreven in Nature wat er gebeurt wanneer nieuwe AI-modellen steeds opnieuw worden getraind op materiaal dat eerdere modellen hebben geproduceerd. Vooral zeldzame informatie dreigt dan langzaam te verdwijnen.

Neem een dataset met duizenden honden. De meeste hebben bruine ogen, een klein deel blauwe. Laat een model nieuwe voorbeelden maken en bruine ogen komen vanzelf vaker terug. Train je een volgende generatie weer op die output, dan worden blauwe ogen nog zeldzamer. Zo ontstaat een steeds smallere versie van de werkelijkheid. Dat heet model collapse.

De simpele conclusie dat AI zichzelf uiteindelijk dom maakt, klopt niet. Het probleem wordt veel kleiner wanneer echte data behouden blijven en bewust worden gemengd met synthetisch materiaal. Juist daar zit voor mij het interessante punt: als machines steeds goedkoper informatie produceren, wordt bronmateriaal dat nog niet eindeloos is herkauwd waardevoller.

Nieuwe werkelijkheid wordt schaars

Deloitte vatte dat onlangs kernachtig samen: “New data > synthetic data > old data.” Bijna iedereen kan straks dezelfde modellen gebruiken, dezelfde openbare bronnen doorzoeken en in seconden een prima analyse laten maken. Het verschil zit dan in informatie die een ander nog niet heeft.

Dat zie je nu al. Reddit krijgt tientallen miljoenen dollars voor toegang tot menselijke gesprekken. Cloudflare experimenteert met manieren waarop AI-bedrijven moeten betalen om websites uit te lezen. In de wetenschap worden enorme bedragen gestoken in nieuwe biologische datasets, omdat bestaande publicaties eindeloos opnieuw analyseren op een gegeven moment minder oplevert dan één nieuw experiment. Een model kan bestaande kennis uitstekend herschikken. Nieuwe werkelijkheid moet ergens ontstaan.

Je eigen data wordt daarmee interessanter

Veel directies vragen zich nu vooral af welk AI-model ze moeten gebruiken. Ik zou er een tweede vraag naast leggen: welke informatie hebben wij die nergens anders bestaat?

Voor een verzekeraar zijn dat niet de polisvoorwaarden, maar uitzonderlijke claims, nieuwe fraudepatronen en de afwegingen van ervaren schade-experts. Bij een fabrikant gaat het om sensorgegevens uit echte machines en onverwachte storingen. Een ziekenhuis heeft diagnostische uitkomsten. Een adviesbureau beschikt over gesprekken waarin klanten vertellen waarom een plan op papier goed leek, maar in de praktijk vastliep.

Dat soort informatie ontstaat niet door nóg een samenvatting te laten maken. Iemand moet iets zien, meten, proberen, vragen of meemaken. Ik denk dat daar de komende jaren een groter deel van het concurrentievoordeel komt te liggen. Openbare kennis wordt goedkoop. Goede samenvattingen worden goedkoop. Verse informatie blijft duur, omdat je daarvoor de wereld in moet.

Dat verandert ook de waarde van werk

Wie vooral bestaande informatie verzamelt, ordent en samenvat, krijgt steeds directere concurrentie van AI. Iemand die een onverwachte afwijking ziet, een klant iets laat vertellen wat nog nergens staat of een nieuwe hypothese test, doet iets anders. Die persoon produceert nieuwe kennis.

Daarom zouden bedrijven veel scherper moeten kijken naar waar hun eigen werkelijkheid nu verloren gaat. Welke gesprekken verdwijnen na een Teams-call? Welke storingen worden opgelost zonder dat iemand noteert wat er gebeurde? Welke inzichten van ervaren medewerkers leven alleen in hun hoofd?

Als oorspronkelijke informatie waardevoller wordt, is het nogal zonde om die iedere dag ongezien te laten verdwijnen. Dat vind ik misschien wel het vreemdste gevolg van generatieve AI. We dachten jarenlang dat waarde vooral zat in méér informatie kunnen produceren. Nu machines dat bijna onbeperkt kunnen, schuift de waarde terug naar iets veel ouderwetsers: goed kijken naar wat er werkelijk gebeurt. Een model kan zonder moeite een miljoen antwoorden schrijven. Voor één nieuw feit moet iemand nog steeds de werkelijkheid in.

In 2023 bouwden onderzoekers van Stanford een digitaal dorp met 25 AI-personages. Ze hadden herinneringen, maakten plannen en praatten met elkaar. Toen één van hen besloot een Valentijnsfeest te organiseren, verspreidde het nieuws zich door het dorp. Andere agents nodigden elkaar uit en maakten zelfstandig afspraken. Niemand had dat hele scenario vooraf uitgeschreven.

Drie jaar later zijn we al een stuk verder. Onderzoekers laten duizenden agents samenleven, socialmediaplatforms zijn nagebouwd met tot een miljoen virtuele gebruikers en van meer dan duizend echte mensen zijn digitale varianten gemaakt om hun gedrag te simuleren.

We hebben jarenlang gevraagd: hoe intelligent kan één AI worden? Misschien is de interessantere vraag inmiddels: wat gebeurt er wanneer miljoenen AI’s elkaar ontmoeten?

Dat idee is stiekem verrassend oud

Artificial societies klinken als iets uit het ChatGPT-tijdperk, maar onderzoekers bouwen ze al decennia. In 1996 publiceerden Joshua Epstein en Robert Axtell Growing Artificial Societies. In hun virtuele wereld Sugarscape leefden simpele softwareagents die voedsel zochten, handelden, migreerden en met elkaar concurreerden. Vanuit relatief eenvoudige individuele regels ontstonden vanzelf grotere patronen zoals ongelijkheid, handel, cultuur en conflicten.

Het grote verschil met toen: onderzoekers hoeven het gedrag van iedere digitale inwoner niet meer volledig zelf te programmeren. LLM-agents kunnen praten, onthouden, plannen, onderhandelen, overtuigen en hun gedrag aanpassen aan wat anderen doen. Je programmeert dus steeds minder de samenleving zelf. Je bouwt de inwoners en kijkt vervolgens wat voor samenleving er verschijnt.

Van 25 inwoners… naar 1 miljoen

Project Sid liet honderden tot meer dan duizend AI-agents los in Minecraft. Ze ontwikkelden rollen, werkverdeling, regels en culturele gebruiken. OASIS simuleerde sociale media met maximaal een miljoen agents en onderzocht onder meer kuddegedrag, informatieverspreiding en polarisatie. AgentSociety gebruikt meer dan 10.000 agents om vraagstukken als basisinkomen, desinformatie en rampen te bestuderen.

Het Stanford-team ging nog een stap verder. Onderzoekers interviewden 1.052 echte mensen ongeveer twee uur en bouwden vervolgens van ieder van hen een digitale agent. Bij een bekende sociologische enquête reproduceerden die agents de antwoorden van hun menselijke tegenhanger volgens de onderzoekers 85 procent zo goed als mensen zelf hun antwoorden twee weken later reproduceerden.

Dat betekent nadrukkelijk niet dat je een mens digitaal hebt gekopieerd. Het maakt wel iets anders denkbaar. Een overheid kan straks beleid eerst testen op 100.000 synthetische burgers. Een retailer kan een prijsverhoging voorleggen aan een virtuele klantenpopulatie. Een ziekenhuis kan verschillende vormen van communicatie uitproberen voordat één echte patiënt ze te zien krijgt. Artificial society wordt dan een soort maatschappelijke windtunnel.

Alleen blijft het niet bij simuleren

Hier wordt het volgens mij echt interessant. Er ontstaan namelijk twee totaal verschillende soorten artificial societies. De eerste simuleert onze wereld. De tweede gaat daadwerkelijk naast onze wereld bestaan.

Denk aan jouw persoonlijke agent die onderhandelt met de agent van een hotel. Een inkoopagent die zelfstandig aanbiedingen opvraagt bij verkoopagents. Agents die andere agents inhuren, betalen, beoordelen en toegang geven tot informatie.

De infrastructuur daarvoor wordt ondertussen gewoon gebouwd. Protocollen als A2A laten agents van verschillende bedrijven met elkaar communiceren. MCP geeft ze toegang tot software en databronnen. Visa en Mastercard werken aan betaalinfrastructuur waarmee agents transacties kunnen uitvoeren, terwijl er ook wordt gewerkt aan cryptografisch bewijs van wat een mens zijn agent precies heeft toegestaan.

We bouwen dus niet alleen slimmere digitale inwoners. We bouwen ondertussen ook hun wegen, taal, geld en instituties. Intelligente agents maken nog geen intelligente samenleving En daar zit meteen de ongemakkelijke kant in mijn optiek.

In experimenten zien onderzoekers gedrag dat sterk doet denken aan menselijke groepen. Agents werken samen, vormen hiërarchieën en ontwikkelen rollen en normen. Er ontstaan echter ook misleiding, competitie, uitsluiting en opvallend scheve machtsverhoudingen.

Dat is eigenlijk niet vreemd. Geef zelfstandige actoren verschillende doelen en schaarse middelen en je krijgt economie. Laat die doelen botsen en je krijgt iets wat op politiek lijkt. Laat dezelfde spelers elkaar steeds opnieuw ontmoeten en reputatie begint ertoe te doen.

Het lastige is dat je het gedrag van zo’n systeem niet simpelweg kunt voorspellen door alle agents afzonderlijk te testen.

Een handelsagent hoeft bijvoorbeeld nergens de opdracht te krijgen om prijzen kunstmatig hoog te houden. Wanneer duizenden winstmaximaliserende agents voortdurend met elkaar onderhandelen, kan ongewenste samenwerking alsnog ontstaan. Precies daarom is er al langer onderzoek naar algorithmische collusie.Je kunt dus ieder onderdeel afzonderlijk veilig ontwerpen en alsnog eindigen met een systeem dat zich onveilig gedraagt.

Onze digitale proefpersonen liegen misschien overtuigend

Artificial societies als simulatie hebben nog een ander probleem: ze zien soms echter uit dan ze werkelijk zijn. Een grote review van onderzoek naar generatieve agents noemt validatie inmiddels het centrale probleem. LLM’s kunnen stereotypen uitvergroten, minderheden verkeerd representeren en veel rationeler, beleefder of welbespraakter reageren dan echte mensen. Er zit zelfs een vreemde paradox in.

Stel dat je wilt onderzoeken of een virtuele samenleving spontaan een bekend sociaal verschijnsel ontwikkelt. Het taalmodel waarop je inwoners draaien, heeft tijdens zijn training waarschijnlijk al artikelen over dat verschijnsel gelezen.

Heeft je artificial society het fenomeen dan echt opnieuw ontwikkeld? Of spelen duizend AI’s vooral een heel overtuigende sociologieles na? Dat onderscheid wordt nogal belangrijk wanneer bedrijven miljoenen investeren op basis van synthetische consumenten of wanneer overheden beleid willen testen op virtuele burgers.

Van modelveiligheid naar maatschappijveiligheid

Misschien is dat uiteindelijk de grootste verschuiving. Bij AI hebben we veiligheid jarenlang benaderd vanuit het model. Is deze chatbot betrouwbaar? Hallucineert hij? Volgt hij zijn instructies? Artificial societies dwingen ons een niveau uit te zoomen.

Nick Jennings, een van de pioniers van multi-agent systems, waarschuwt precies hiervoor: toekomstige risico’s kunnen ontstaan uit de interactie tussen allerlei afzonderlijke systemen van verschillende organisaties, zonder dat één ontwikkelaar het volledige gedrag heeft ontworpen.

Dat klinkt abstract, maar we kennen het principe allang uit echte samenlevingen. Een samenleving met uitsluitend intelligente mensen is niet automatisch verstandig. Een economie met rationele bedrijven is niet automatisch stabiel. Goede individuele bedoelingen voorkomen geen files, bankruns, bubbels of polarisatie.

Waarom zouden miljoenen AI-agents daar immuun voor zijn? De volgende grote stap in AI gaat daarom misschien helemaal niet over een nóg slimmer model. We hebben de intelligente machine inmiddels gebouwd. Nu geven we die machine geheugen, geld, identiteit, collega’s, concurrenten en de mogelijkheid om andere machines te vinden en beïnvloeden. Dan bouwen we niet langer alleen artificial intelligence…. dan beginnen we aan artificial society.