Stel: je zit met vier mensen aan tafel. Iedereen kan elkaar prima verstaan, behalve één aanwezige: de AI-notulist. Niet omdat de microfoon kapot is, maar omdat iemand software heeft aangezet die zijn stem specifiek voor machines onverstaanbaar maakt.
Dat is wat Kalypta doet. De nieuwe app vervormt audio lokaal en in real time. Mensen horen nauwelijks verschil, terwijl transcriptiesoftware volgens de makers gemiddeld twee van iedere drie woorden mist.
Ik vind vooral interessant wat hier achter zit. We hebben jarenlang technologie gebouwd die steeds beter kan luisteren, kijken, herkennen en onthouden. Nu ontstaat bijna spiegelbeeldig een nieuwe markt: technologie die ervoor zorgt dat technologie juist níét meer kan luisteren, kijken of leren.
Welkom bij de counter-AI economy.
Voor bijna iedere AI ontstaat een anti-product
Kalypta staat niet op zichzelf. Apps als NearbyGlasses en Zuck Off waarschuwen wanneer er mogelijk een slimme bril in de buurt is. Fawkes probeert gezichtsherkenning te misleiden. Kunstenaars gebruiken Glaze en Nightshade om te voorkomen dat AI hun stijl zomaar leert. Cloudflare laat website-eigenaren AI-crawlers blokkeren of zelfs laten betalen voor toegang.
Het patroon is bijna komisch. AI kan je stem klonen, dus vervormen we je stem. AI herkent je gezicht, dus maken we dat gezicht machine-onleesbaar. AI leest je website, dus zetten we een hek om de crawler heen. Iedere nieuwe AI-toepassing lijkt zijn eigen anti-product voort te brengen.
Het probleem is niet AI, maar de verdwenen uitknop
Je zou dit makkelijk kunnen zien als een nieuwe anti-technologiebeweging. Volgens mij gebeurt juist het tegenovergestelde.
In een wereldwijd onderzoek van KPMG en de University of Melbourne gebruikte 66 procent van de ruim 48.000 ondervraagden AI regelmatig, terwijl slechts 46 procent bereid was AI-systemen te vertrouwen. Pew vond dat 57 procent van de Amerikanen weinig of geen controle ervaart over de rol van AI in hun leven.
De weerstand groeit dus niet omdat mensen AI weigeren. Ze groeit terwijl AI juist overal terechtkomt. Daar zit in mijn optiek ook echt de breuk. ChatGPT open je zelf. Bij een camerabril kiest iemand anders ervoor dat technologie naar jou kijkt. Een notuleerbot luistert mee omdat één deelnemer hem heeft aangezet. Een crawler leest je website zonder dat je het merkt.
De eigenaar van de technologie heeft toestemming gegeven. De persoon aan de andere kant van de lens of microfoon vaak niet. AI verschuift hier dus echt van instrument naar omgeving.
We hebben deze film trouwens eerder gezien
Toen de handcamera eind negentiende eeuw toegankelijk werd, kon ineens iedereen onbekenden op straat fotograferen. Juist in die periode publiceerden Samuel Warren en Louis Brandeis in 1890 hun beroemde essay The Right to Privacy. Nieuwe technologie maakte het volgens hen steeds makkelijker om het privéleven binnen te dringen.
Later zagen we hetzelfde bij cameratelefoons, Google Street View en Google Glass. Die laatste is misschien wel de beste vergelijking. Glass was technisch indrukwekkend, maar je zag duidelijk dat iemand een computer op zijn gezicht droeg. Meta heeft dat probleem briljant opgelost: de computer ziet eruit als een gewone Ray-Ban.
Technologisch vooruitgang. Sociaal misschien juist ingewikkelder, omdat de technologie onzichtbaarder wordt. In Nederland waarschuwt de Autoriteit Persoonsgegevens inmiddels expliciet voor camerabrillen. Hans Anders stopte begin oktober zelfs tijdelijk met de verkoop van Meta-brillen vanwege privacyzorgen. Misschien veroorzaakt niet de intelligentie van nieuwe technologie de meeste weerstand, maar het verdwijnen van de zichtbare grens.
Privacy wordt agency
Daarom gaat deze discussie volgens mij inmiddels over iets groters dan privacy. Eerst was de boodschap: verzamel mijn gegevens niet. Daarna: volg mij niet. AI voegt daar iets nieuws aan toe: interpreteer mij niet automatisch, kopieer mij niet automatisch en handel niet automatisch op basis van mij.
Een AI-notulist maakt niet simpelweg een opname. Hij verandert een gesprek in een permanent en doorzoekbaar databestand. Een trainingsmodel bewaart niet alleen een afbeelding, maar probeert er stijl en patronen uit te halen.
De vraag wordt in mijn optiek daarmee: wie bepaalt wat machines met mij, mijn stem, mijn werk en mijn gedrag mogen doen? Dat is agency.
Misschien is dit juist een goed teken
Technisch zullen veel blockers uiteindelijk verliezen. Nieuwe modellen leren omgaan met verstoringen, slimme brillen veranderen en gezichtsherkenning wordt beter. Normatief kunnen ze ondertussen wel degelijk winnen.
Historisch verdwijnen succesvolle technologieën bijna nooit door weerstand. Wat wel verandert, zijn de spelregels. Camera’s bleven bestaan. Street View bleef bestaan. Online advertenties overleefden adblockers. We gingen alleen opnieuw onderhandelen over wat acceptabel is.
Ik vermoed dat AI dezelfde route gaat afleggen. Niet van AI overal naar AI nergens, maar van “AI tenzij iemand bezwaar maakt” naar AI die rekening moet houden met context, zichtbaarheid en toestemming.
Voor organisaties begint dat verrassend dichtbij. Wie nu zonder duidelijke afspraken een AI-notulist in iedere vergadering zet, moet niet verbaasd zijn wanneer de tegenreactie volgt.
Misschien zijn al die vreemde anti-AI-apps daarom helemaal geen teken dat de AI-revolutie hapert. Iedere technologie die werkelijk overal terechtkomt, krijgt uiteindelijk regels, etiquette en een uitknop. AI…dat begint die uitknop nu zelf uit te vinden.
Jan Scheele werkt dertien jaar op het snijvlak van deep tech, strategie en leiderschap. Als keynote spreker, dagvoorzitter en adviseur maakt hij technologie tastbaar voor boardrooms, directieteams en grote podia, zonder de complexiteit te versimpelen of te verbergen achter buzzwords.
Zijn achtergrond ligt in het bouwen. Als CEO van een technologie scale-up, oprichter van meerdere techbedrijven en organisator van meer dan vijftig TED-events wereldwijd zag hij van dichtbij hoe technologische keuzes doorwerken in strategie, governance en cultuur. Vanuit zijn betrokkenheid bij het World Economic Forum en de BCNL Foundation kijkt hij daarbij niet alleen naar wat technisch mogelijk is, maar ook naar wat bestuurlijk houdbaar en maatschappelijk wenselijk is.
Hij publiceerde vijf boeken, waarvan twee Amazon-bestsellers, en schrijft wekelijks over AI, blockchain en de organisatorische gevolgen van deep tech. Zijn blogs bereikten inmiddels meer dan twee miljoen lezers.