In 2023 bouwden onderzoekers van Stanford een digitaal dorp met 25 AI-personages. Ze hadden herinneringen, maakten plannen en praatten met elkaar. Toen één van hen besloot een Valentijnsfeest te organiseren, verspreidde het nieuws zich door het dorp. Andere agents nodigden elkaar uit en maakten zelfstandig afspraken. Niemand had dat hele scenario vooraf uitgeschreven.
Drie jaar later zijn we al een stuk verder. Onderzoekers laten duizenden agents samenleven, socialmediaplatforms zijn nagebouwd met tot een miljoen virtuele gebruikers en van meer dan duizend echte mensen zijn digitale varianten gemaakt om hun gedrag te simuleren.
We hebben jarenlang gevraagd: hoe intelligent kan één AI worden? Misschien is de interessantere vraag inmiddels: wat gebeurt er wanneer miljoenen AI’s elkaar ontmoeten?
Dat idee is stiekem verrassend oud
Artificial societies klinken als iets uit het ChatGPT-tijdperk, maar onderzoekers bouwen ze al decennia. In 1996 publiceerden Joshua Epstein en Robert Axtell Growing Artificial Societies. In hun virtuele wereld Sugarscape leefden simpele softwareagents die voedsel zochten, handelden, migreerden en met elkaar concurreerden. Vanuit relatief eenvoudige individuele regels ontstonden vanzelf grotere patronen zoals ongelijkheid, handel, cultuur en conflicten.
Het grote verschil met toen: onderzoekers hoeven het gedrag van iedere digitale inwoner niet meer volledig zelf te programmeren. LLM-agents kunnen praten, onthouden, plannen, onderhandelen, overtuigen en hun gedrag aanpassen aan wat anderen doen. Je programmeert dus steeds minder de samenleving zelf. Je bouwt de inwoners en kijkt vervolgens wat voor samenleving er verschijnt.
Van 25 inwoners… naar 1 miljoen
Project Sid liet honderden tot meer dan duizend AI-agents los in Minecraft. Ze ontwikkelden rollen, werkverdeling, regels en culturele gebruiken. OASIS simuleerde sociale media met maximaal een miljoen agents en onderzocht onder meer kuddegedrag, informatieverspreiding en polarisatie. AgentSociety gebruikt meer dan 10.000 agents om vraagstukken als basisinkomen, desinformatie en rampen te bestuderen.
Het Stanford-team ging nog een stap verder. Onderzoekers interviewden 1.052 echte mensen ongeveer twee uur en bouwden vervolgens van ieder van hen een digitale agent. Bij een bekende sociologische enquête reproduceerden die agents de antwoorden van hun menselijke tegenhanger volgens de onderzoekers 85 procent zo goed als mensen zelf hun antwoorden twee weken later reproduceerden.
Dat betekent nadrukkelijk niet dat je een mens digitaal hebt gekopieerd. Het maakt wel iets anders denkbaar. Een overheid kan straks beleid eerst testen op 100.000 synthetische burgers. Een retailer kan een prijsverhoging voorleggen aan een virtuele klantenpopulatie. Een ziekenhuis kan verschillende vormen van communicatie uitproberen voordat één echte patiënt ze te zien krijgt. Artificial society wordt dan een soort maatschappelijke windtunnel.
Alleen blijft het niet bij simuleren
Hier wordt het volgens mij echt interessant. Er ontstaan namelijk twee totaal verschillende soorten artificial societies. De eerste simuleert onze wereld. De tweede gaat daadwerkelijk naast onze wereld bestaan.
Denk aan jouw persoonlijke agent die onderhandelt met de agent van een hotel. Een inkoopagent die zelfstandig aanbiedingen opvraagt bij verkoopagents. Agents die andere agents inhuren, betalen, beoordelen en toegang geven tot informatie.
De infrastructuur daarvoor wordt ondertussen gewoon gebouwd. Protocollen als A2A laten agents van verschillende bedrijven met elkaar communiceren. MCP geeft ze toegang tot software en databronnen. Visa en Mastercard werken aan betaalinfrastructuur waarmee agents transacties kunnen uitvoeren, terwijl er ook wordt gewerkt aan cryptografisch bewijs van wat een mens zijn agent precies heeft toegestaan.
We bouwen dus niet alleen slimmere digitale inwoners. We bouwen ondertussen ook hun wegen, taal, geld en instituties. Intelligente agents maken nog geen intelligente samenleving En daar zit meteen de ongemakkelijke kant in mijn optiek.
In experimenten zien onderzoekers gedrag dat sterk doet denken aan menselijke groepen. Agents werken samen, vormen hiërarchieën en ontwikkelen rollen en normen. Er ontstaan echter ook misleiding, competitie, uitsluiting en opvallend scheve machtsverhoudingen.
Dat is eigenlijk niet vreemd. Geef zelfstandige actoren verschillende doelen en schaarse middelen en je krijgt economie. Laat die doelen botsen en je krijgt iets wat op politiek lijkt. Laat dezelfde spelers elkaar steeds opnieuw ontmoeten en reputatie begint ertoe te doen.
Het lastige is dat je het gedrag van zo’n systeem niet simpelweg kunt voorspellen door alle agents afzonderlijk te testen.
Een handelsagent hoeft bijvoorbeeld nergens de opdracht te krijgen om prijzen kunstmatig hoog te houden. Wanneer duizenden winstmaximaliserende agents voortdurend met elkaar onderhandelen, kan ongewenste samenwerking alsnog ontstaan. Precies daarom is er al langer onderzoek naar algorithmische collusie.Je kunt dus ieder onderdeel afzonderlijk veilig ontwerpen en alsnog eindigen met een systeem dat zich onveilig gedraagt.
Onze digitale proefpersonen liegen misschien overtuigend
Artificial societies als simulatie hebben nog een ander probleem: ze zien soms echter uit dan ze werkelijk zijn. Een grote review van onderzoek naar generatieve agents noemt validatie inmiddels het centrale probleem. LLM’s kunnen stereotypen uitvergroten, minderheden verkeerd representeren en veel rationeler, beleefder of welbespraakter reageren dan echte mensen. Er zit zelfs een vreemde paradox in.
Stel dat je wilt onderzoeken of een virtuele samenleving spontaan een bekend sociaal verschijnsel ontwikkelt. Het taalmodel waarop je inwoners draaien, heeft tijdens zijn training waarschijnlijk al artikelen over dat verschijnsel gelezen.
Heeft je artificial society het fenomeen dan echt opnieuw ontwikkeld? Of spelen duizend AI’s vooral een heel overtuigende sociologieles na? Dat onderscheid wordt nogal belangrijk wanneer bedrijven miljoenen investeren op basis van synthetische consumenten of wanneer overheden beleid willen testen op virtuele burgers.
Van modelveiligheid naar maatschappijveiligheid
Misschien is dat uiteindelijk de grootste verschuiving. Bij AI hebben we veiligheid jarenlang benaderd vanuit het model. Is deze chatbot betrouwbaar? Hallucineert hij? Volgt hij zijn instructies? Artificial societies dwingen ons een niveau uit te zoomen.
Nick Jennings, een van de pioniers van multi-agent systems, waarschuwt precies hiervoor: toekomstige risico’s kunnen ontstaan uit de interactie tussen allerlei afzonderlijke systemen van verschillende organisaties, zonder dat één ontwikkelaar het volledige gedrag heeft ontworpen.
Dat klinkt abstract, maar we kennen het principe allang uit echte samenlevingen. Een samenleving met uitsluitend intelligente mensen is niet automatisch verstandig. Een economie met rationele bedrijven is niet automatisch stabiel. Goede individuele bedoelingen voorkomen geen files, bankruns, bubbels of polarisatie.
Waarom zouden miljoenen AI-agents daar immuun voor zijn? De volgende grote stap in AI gaat daarom misschien helemaal niet over een nóg slimmer model. We hebben de intelligente machine inmiddels gebouwd. Nu geven we die machine geheugen, geld, identiteit, collega’s, concurrenten en de mogelijkheid om andere machines te vinden en beïnvloeden. Dan bouwen we niet langer alleen artificial intelligence…. dan beginnen we aan artificial society.
Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.
Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.
Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.