Microsoft onthulde recent hun nieuwste AI model: VASA-1. Deze slimme technologie kan een geanimeerde video maken van een pratend of zingend persoon, op basis van slechts een foto en een bestaand audiobestand. Je hoeft dus alleen maar een stukje audio op te nemen van iemand en een foto maken… en je kan al een volledige virtuele clone maken die zegt wat jij hem verteld. 

Mogelijke toepassingen? Denk aan virtuele avatars die lokaal gerenderd worden zonder video feeds, of zelfs het animeren van een willekeurige foto van iemand online, waardoor het lijkt alsof die persoon iets zegt. Er zijn al de gektste voorbeelden opgedoken; van de Mona Lisa die aan het rappen is, tot President Biden die oproept niet te gaan stemmen. Inderdaad; dit soort deepfakes kunnen ook heel negatieve kanten hebben. Een filmpje kan je hier vinden.

In de begeleidende onderzoekspublicatie wordt gesteld dat deze innovatie de weg vrijmaakt voor real-time interacties met levensechte avatars die menselijke conversatiegedragingen nabootsen.  Het VASA framework, wat staat voor “Visual Affective Skills Animator,” maakt gebruik van machine learning om een statisch beeld en een audiofragment te analyseren. Hieruit genereert het een realistische video met nauwkeurige gezichtsuitdrukkingen, hoofdbewegingen en lip-sync die perfect op het audiofragment aansluit. Het model bootst geen stemmen na, maar gebruikt een bestaand audio-input, speciaal opgenomen of gesproken voor een bepaald doel.

Microsoft beweert dat VASA-1 aanzienlijk beter presteert dan eerdere methoden voor spraakanimatie, zowel in realisme, expressiviteit als efficiëntie. Mijn eerste indruk? Het lijkt inderdaad een flinke vooruitgang ten opzichte van eerdere animatiemodellen die met een enkele afbeelding werkten.

Mijn broertje is net gepromoveerd als biotechnoloog, na 9 academische papers te hebben geschreven over nieuwe typen eiwitten, die hij heeft ontwikkeld in labs in Cambridge, Los Angeles en Groningen. Belangrijk onderzoek, want ze worden voornamelijk ontwikkeld om bepaalde typen kanker te voorkomen of te genezen. Zijn begeleider kreeg er eerder de Nobelprijs voor.

Rondom de AI-gekte, wordt door veel professionals vooral nog gekeken naar het genereren van teksten en afbeeldingen. Maar ik zie in mijn dagelijkse werk rondom AI, echt de meest ongekende nieuwe manieren van gebruik. Een AI-gegenereerde medicijn, ontwikkeld door Insilico Medicine, ondergaat nu de tweede fase van klinische proeven.

Dit AI-gegenereerde medicijn, gericht op de behandeling van idiopathische pulmonale fibrose – een ziekte waarbij de longen verharden en littekens vormen – is een baanbrekende stap in de biotechnologie. Met behulp van hun Pharma.AI-platform heeft Insilico de ontwikkelingstijd van het medicijn, ISM018_055, aanzienlijk verkort. De eerste fase van de proeven in Nieuw-Zeeland en China toonde aan dat het medicijn veilig is voor mensen. Nu, in de tweede fase, wordt de effectiviteit ervan verder onderzocht.

De snelle vooruitgang – het halveren van de gebruikelijke ontwikkelingstijd van zeven jaar voor nieuwe medicijnen – benadrukt de potentie van AI in de medische wetenschap. Het project, oorspronkelijk begonnen uit een mix van hoop en scepsis, staat nu als een potentieel keerpunt in het ontdekken en ontwikkelen van nieuwe medicijnen met AI.

Met deze innovatie kunnen we wellicht niet alleen levensreddende behandelingen versnellen, maar ook nieuwe wegen inslaan in de strijd tegen verouderingsgerelateerde ziekten. Dit AI-avontuur, nog in de kinderschoenen, kan uiteindelijk leiden tot snellere, efficiëntere en hoopvolle toekomstige behandelingen voor een scala aan ziektes.

Het is een van de oudste en grootste industrieën ter wereld. Toerisme heeft al veel grote ‘pivots’ doorgemaakt door de introductie van het vliegtuig en het internet. AI gaat misschien nog wel een veel grotere impact hierop hebben. In dit artikel lees je over de laatste trends die ik zie binnen deze reisbranche industrie.

Er zijn branches die de afgelopen jaren ongekend hard zijn gegroeid, maar ook branches die ongekend hard zijn getroffen. Door de lockdown viel wereldwijd meer dan 80% van het toerisme weg en stonden 120 miljoen banen op de tocht. Dit was qua impact al 7 keer zo veel als die van 9/11. Gelukkig zijn inmiddels de stoplichtstatussen opgeheven, de afstandstickers weggehaald en draait Nederland recreatieland op volle toeren. Zo hard zelfs, dat op heel wat vlakken de niveaus al boven dat van voor corona zitten. Dat tonen onderzoeken van ABN AMRO en cijfers van het CBS heel mooi aan.

Meer gasten, meer mogelijkheden, meer uitdagingen

Nederland trekt bijvoorbeeld meer toeristen dan vóór corona. Ze blijven langer en komen van minder ver. Maar het zijn niet alleen de buitenlandse toeristen. Sinds de pandemie hebben veel Nederlanders ons eigen land als vakantiebestemming herontdekt. Ook de verwachte koopkrachtverbetering heeft een positief effect op de behoefte aan horeca en reizen. Nederlanders willen volgend jaar meer geld uitgeven aan vrije tijd. Dat blijkt uit een onderzoek van ABN AMRO. Datzelfde onderzoek laat ook zien dat ‘beleving’ voor de consument veel belangrijker is dan ‘spullen’. Bijna 7 op de 10 millennials besteedt zijn/haar geld het liefst aan ervaringen.

De vrijetijdseconomie in Nederland kampt ook met sterk gestegen kosten, personeelsproblemen en veel vraagstukken over digitale transformatie. Dit net zoals veel andere sectoren. De afgelopen jaren mocht ik al heel wat toeristische organisaties en bestemmingen adviseren over de inzet van nieuwe technologie. Ik zie en hoor steeds weer terug dat de meeste professionals in de sector (zowel ambtenaren als ondernemers) door de bomen het bos niet meer zien. Er zijn zoveel nieuwe technologieën, die zoveel praktische mogelijkheden bieden. Welke kies je en waar begin je? Eerder schreef  ik over metaverse binnen toerisme. Ook schreef ik over de vele bestemmingen die al met deze technologie bezig zijn. In dit artikel duik ik in op de ongekende mogelijkheden met AI.

Al verder dan we denken

Momenteel is AI al in veel delen van de vrijetijdseconomie geïntegreerd. Vaak zonder dat we het weten. Ik maak altijd graag gebruik van de Privium-oogscan. Wil je niet wachten om door de douane te gaan op Schiphol en op de luchthaven in Eindhoven? Daarvoor zijn er bijvoorbeeld AI-aangedreven bagage-afhandelingssystemen zonder bagagelabels. Veel toeristen gebruiken Google Maps tijdens het reizen, wat ook bomvol AI-tools zit. Ook veel actieve bedrijven in de sector gebruiken al allerlei tools die werken op basis van AI.

Technologische vooruitgang heeft de verwachtingen van consumenten de afgelopen tijd flink veranderd. Sinds 2013 is de tijd die aan digitale apparaten wordt besteed met 70% gegroeid. Deze trend is alleen maar versneld tijdens de coronapandemie omdat online interacties steeds meer de plaats innamen van persoonlijk contact.

AI heeft al, en gaat in mijn optiek een ongekend grote impact hebben op de reisbranche. Van het verbeteren van klantervaringen en efficiency, tot sterk verbeterde besluitvorming en innovatie. Er zijn allerlei mooie frameworks die worden gebruikt in de reisbranche, zoals de Leefstijlvinder. Daarmee worden de doelgroepen en de klantreis prachtig in kaart gebracht.

AI transformeert bestemmingsmarketing door gepersonaliseerde ervaringen te bieden die reizigers aanspreken, waardoor de betrokkenheid en conversie aanzienlijk worden verhoogd. Daarnaast optimaliseert het bestemmingsmanagement en -ontwikkeling door inzichten en data-gedreven besluitvorming, wat leidt tot duurzamere en efficiëntere toeristische bestemmingen. – Isabel Mosk, Toerismestrateeg

Geïnspireerd raken & zoeken

Mijn reismix is altijd heel gevarieerd. Enerzijds elk kwartaal een week volledig ergens offline tot rust komen, anderzijds veel actieve trips. In de zomer ga ik een maand in een Muay Thai-kamp in Thailand zitten. In het najaar ga ik 7 vulkanen op een rij beklimmen in Equador. Beiden waren redelijk makkelijk geboekt. Het bokskamp, omdat 4 verschillende vrienden dezelfde plek aanraadden. De vulkanentrip, omdat er niet veel opties zijn waar je dit concreet kunt doen. Alle bergen en vulkanen die ik tot nu toe heb beklommen, moest ik altijd verplicht bij een agency boeken met een gids. Anders kom je het park niet binnen. Ik moest dus vooral een goede agency zoeken. Aangezien het aanbod vrijwel nihil is, was dit snel gevonden en geregeld.

Mijn hiketrip in de Dolemieten in mei is wat anders. Je kunt daar gaan en staan waar je wilt, dus alle opties waren open. In mijn zoektocht naar bijzondere hikes en leuke plekken om te overnachten, liep ik helemaal vast. Elke reisblog had weer een andere favoriet. Destinaties die zichzelf aanprijzen als ‘bellissimo’ staan sowieso al helemaal onderaan in de ladder van vertrouwen.

In de categorie ‘practice what you preach’ (ik schrijf en adviseer veel over de digitale transformatie door technologieën als AI, crypto’s, NFTs en metaverse), heb ik Google’s Gemini aangeslingerd. Hier heb ik eerst even goed nagedacht over de prompt:

• Wat wil ik precies: type hikes
• Hoe lang wil ik dit doen: een week
• Hoe wil ik reizen: met de huurauto
• Wat zoek ik precies: de mooiste plekken om te hiken en goede plekken om te overnachten

Binnen 15 seconden kreeg ik een volledig programma voor de week, van dag tot dag. Zo op elkaar afgestemd, dat ik zo min mogelijk hoef te rijden. Met beklimmingen die perfect voldoen aan mijn wensen. Ook met gelijk een paar mooie plaatsen om te overnachten. Daarnaast nog een lijst met aanbevelingen waar ik rekening mee moet houden tijdens het hiken en wat ik niet moet vergeten om in de backpack te stoppen. Ik was met stomheid geslagen. Een volledig op maat gemaakte trip, gratis en binnen een paar seconden. Nu reis ik als single meestal alleen, maar ik heb vanaf nu altijd een reismaatje: de chatbot.

De bot is mega hot

De CEO van Google voorspelt het zelf ook al. Haar eigen toekomst waar zoeken niet meer ‘king’ is, maar chatbots die de rol overnemen. Dit zie ik ook al breeduit in de reisbranche. Al meer dan 40% van de millenials gebruikt dagelijks AI in de reisbranche (chatbots) en dat neemt alleen maar toe. Je zag dit ook al door de snelle pivots van reisreserveringsgiganten als Booking.com, Skyscanner en Expedia. Toen ChatGPT de mogelijkheid bood om plugins toe te voegen aan de chatbot, waren deze sites er als de kippen bij om plugins te bouwen. Hiermee kunnen gebruikers bij het uitwerken van hun trip ook gelijk via de chatbot boeken. Een stap verder zie ik trouwens ook al binnen metaverse-omgevingen. Daar krijg je dan heel mooi een 3D-avatar die je door het boekingsproces leidt.

Het zijn niet alleen de bekende bots van OpenAI en Google die de consument helpen in de zoektocht. Hopper maakt gebruik van een vluchtdatabase om optimale hotelprijzen en vluchten te voorspellen. Het geeft consumenten ook gepersonaliseerde aanbevelingen over het meest geschikte tijdstip om een vlucht te boeken. Wanneer je een vlucht volgt, krijg je aanbevelingen over de vraag of je deze nu moet kopen of moet wachten op een betere prijs. De uitgebreide database van Hopper bestaat uit biljoenen historische vluchtprijzen en live prijsfeeds om aanbevelingen te kunnen geven. De app heeft sinds de lancering ervan voor meer dan $600 miljoen aan vliegtickets verkocht.

Daarnaast zie ik ook steeds meer organisaties die niet alleen tijdens het verblijf, maar ook al voor tijdens het zoek- en boekproces chatbots aanbieden. Dit met de bedoeling om de mogelijke gast 24/7 te kunnen helpen met een gepersonaliseerd antwoord.

Leer je klanten kennen zoals je jouw vrienden kent

In die zoekfase zijn er ook voor bedrijven talloze mogelijkheden om AI-tools handig in te zetten. Frankwatching staat bomvol artikelen over hoe je met AI je hele marketingafdeling veel slimmer en effectiever kunt laten werken, en zelfs vervangen door tools. Daarnaast las ik laatst deze zeer interessante blog over het belang van Answer Engine Optimization.

Maar zoals ik al in eerdere artikels schreef, er zijn ook prachtige mogelijkheden met de gebruikelijke tools van AI als GPT en nichetools als Forethought. Daarmee kun je ‘signal from the noise’ onderscheiden met data. Veel organisaties in de vrijetijdseconomie zitten op potten goud aan data, maar daar doen ze nog niet zo veel mee. Ik liet laatst in een sessie een aantal executives van een hotelketen eerst verwonderd kijken naar hoe makkelijk het is om te doen aan ‘forecasting’ en ‘revenu management’. Dit met tools als GPT, waar analyses en voorspellingen uit kwamen, waar ze zelf nooit achter zouden zijn gekomen. Die verwondering verdween al snel toen ze zagen dat dit eigenlijk hun werk normaal is.

Klik & klaar

Booking.com heeft al een bijzondere revolutie teweeggebracht binnen het online boeken van vakanties. Ik liet laatst in een sessie voorbeelden zien van ondernemers in de vrijetijdseconomie. Daar werkten de contactformulieren op de eigen sites niet of je kon er niet direct boeken en betalen, maar je moest een verzoek insturen. Toen ik vroeg aan de zaal wie deze locaties zou bellen of mailen om een reservering te vragen, bleven de handjes allemaal naar beneden. De toerist in 2024 wil simpel, snel en frictieloos kunnen boeken. Hij wil ook direct een bevestiging krijgen en zeker zijn van zijn zaak.

De on-site beleving revised

Menselijk contact is belangrijk en dat zal nooit vervangen worden door technologie. Dit is een antwoord dat ik veel hoor als ik spreek over de impact van technologie op de vrijetijdseconomie. Toch hebben genoeg succesvolle experimenten al bewezen dat veel typen gasten daar toch echt anders over denken. Neem alleen al de robots die in heel wat Nederlandse restaurants rondrijden.

Zelf slaap ik veel bij dezelfde hotelketen als ik voor werk op pad ben. Ik kan in de app inchecken omdat mijn identiteitsgegevens hier bekend zijn en ik kan zelfs gelijk een kamer kiezen. Met diezelfde app kan ik de deur open maken. Er komt geen mens meer aan te pas en ik ben vooral mega blij dat dit zo efficiënt kan, omdat ik vaak laat in de avond incheck. Hiervoor hoef ik echt niet een half uur voor in de rij te staan bij de incheckbalie.

Je ziet dit ook steeds meer op luchthavens. Om het incheckproces te vergemakkelijken en te versnellen, rijden er op de luchthaven Londen Heathrow AI-robots rond. Die begeleiden de passagiers hierin. Volgens een rapport gepubliceerd door Vero Solutions vervangen robots in 2030 de mens volledig bij het incheckproces. Het Henn-na Hotel in Nagasaki is het eerste hotel ter wereld dat volledig wordt bemand door meertalige robots die voornamelijk worden gebruikt voor de in- en uitcheckverwerking.

Maar ook het contact vervaagt tijdens het verblijf. Niet meer naar de receptie moeten lopen of te bellen, maar gelijk een vraag aan een chatbot stellen begint steeds meer de norm te worden. Die geeft niet alleen praktische informatie over het verblijf, maar geeft gelijk ook als ‘cityguide’ leuke tips over wat je tijdens het verblijf in de omgeving kunt doen. Hotelketen Hilton lanceerde hiervoor ‘Conny’, die gebouwd is op de infrastructuur van IBM.

De Nederlandse Runner heeft dit soort AI-tools ook al toegankelijk gemaakt voor alle typen bedrijven in de vrijetijdssector. Volgens CEO Michiel de Vor gebruikt 60% van de gasten van de hotels (die hun app gebruiken) de app en beantwoordt al meer dan 100.000 vragen per maand. De meeste vragen (gemiddeld 4.2 per klant) krijgen gelijk een antwoord. 95% wordt ook echt direct binnen de app beantwoord. Er zit ook nog een commercieel haakje aan. 12% van de vragen resulteert in een upsell van 45 euro per boeking.

Met de AI-gekte zie je talloze andere mooie oplossingen ontstaan, die het de toerist tijdens zijn verblijf makkelijker maken. Zelf maak ik al jaren gretig gebruik van de eerste echt grote ‘LLM’: Google Translate. Door de camera te richten op een menukaart in Azië of Zuid-Amerika, krijg ik gelijk de vertaling te zien van de gerechten. Dit voorkwam al vaak dat ik hersenen of testikels op mijn bord kreeg. Samsung gaat komend jaar een stap verder met haar Galaxy telefoons. Daarmee kun je een live stemvertaling krijgen. Ook apps als Uber werken aan een grotere AI-personalisatie. Die leert niet alleen jouw gewoonten kennen, maar doet ook suggesties op basis van wat je doet op het moment.

Het luisterend oor

Mijn eigen contact met verblijfplekken zijn vrijwel altijd enkel de check-in en check-out. Maar als bedrijf wil je in mijn optiek wel kunnen bijsturen, mocht een gast een vervelende ervaring hebben. Zelf werk ik door mijn werk in crypto’s al jaren met zogenaamde ‘sentiment analyses’. Op basis van wat er op social media geschreven wordt, kun je heel mooi een globaal beeld krijgen over het sentiment rondom een bepaald onderwerp of zelfs bedrijf. Luchtvaartmaatschappijen en de Politie gebruiken dit bijvoorbeeld al jaren.

Social Media is live, dus je kunt in tools zelfs notificaties krijgen als er een heel negatief (of positief, mag natuurlijk ook!) bericht wordt geplaatst. Je kunt hier dan gelijk kordaat op inspelen, indien mogelijk. PaxPulse van Mindtree biedt hiervoor een platform.

Inclusiviteit moet de basis en de norm blijven

Ik gaf laatst een keynote op een event rondom vrijetijdseconomie. Daar hoorde ik talloze ondernemers hun enthousiasme delen over de mogelijkheden van AI en hoe zij diezelfde dag nog een bot-first strategie zouden gaan implementeren.

Daar zie ik wel echt twee grote obstakels, die in mijn optiek echt nog in de weg zitten. Ten eerste blijft digitale inclusiviteit een ding, ook in een zeer sterk technologisch ontwikkeld land als Nederland. Ik zie het zelf alleen al bij mijn 67-jarige ouders. Die kunnen zo goed met Whatsapp overweg, dat ik mijn moeder zelfs moet afremmen met al haar GIFjes. Diezelfde app gebruiken om contact te hebben met het hotel gaat hen echter een stap te ver. Die lopen nog rustig met geprinte bevestigingen naar de balie en vragen daar om tips voor een wandeling op papier.

In de snelheid van de technologische ontwikkelingen, is het in mijn optiek heel belangrijk om de verschillende doelgroepen constant mee te nemen in de beschouwing. Sommige doelgroepen verwachten al dat je alle technologieën hebt omarmd. Sommigen zal het exclusieve gebruik ervan enkel afschrikken om überhaupt bij je te boeken. Ruim 4 miljoen Nederlanders vinden het moeilijk om te werken met een laptop, tablet of smartphone. Hiervan hebben 1,2 miljoen Nederlanders nog nooit het internet gebruikt.

Ik maakte het laatst nog mee in Amsterdam. Het lukte een ouder echtpaar niet om te bestellen met een QR-code. Toen de serveerster langskwam en aangaf dat ze echt via de QR-code moesten bestellen, liep de man met tranen in zijn ogen naar de bar en schreeuwde: ‘Mag ik gewoon een drankje bestellen zoals vroeger alstublieft?’.

Leren om het tij te keren met hallucineren

Hilarisch, maar vooral ook vervelend. De hallucinaties van AI komen ook genoeg voor in de vrijetijdseconomie. Dat heb ik de afgelopen tijd een aantal keer zelf aan den lijve ondervonden. Tijdens keynotes op zowel Terschelling als in Limburg, werd ik er door het publiek op gewezen dat sommige suggesties om te bezoeken in de regio helemaal niet klopten. Dit tijdens een live demonstratie van het uitwerken van een reisplanning door een chatbot. Er werden plaatsen genoemd die helemaal niet eens in het gebied liggen.

Nu was dit gelukkig steeds een klein onderdeel van het hele plan, maar het geeft wel aan dat je nog niet volledig op chatbots kunt vertrouwen. Maar wat doe je als destinatie om dit te voorkomen? Veel experts geven aan dat je hier het beste zelf een chatbot zo veel mogelijk met de juiste antwoorden kunt voeden. Dat staat ook goed in dit artikel beschreven.

Toerisme is in mijn optiek weer een prachtig voorbeeld waar technologie een heel positieve impact kan hebben op alle spelers. Het gooit de hele klantreis op zijn kop qua kansen en mogelijkheden. Van het contact met klanten tot het behoud ervan. Van het verkopen en ‘upsellen’ tot de eigen organisatie helemaal toekomstbestendig maken. Met de razendsnelle ontwikkelingen op het gebied van technologieën als AI, ben ik benieuwd wat voor gave mogelijkheden we de komende tijd nog meer gaan zien.

Dit jaar gaat de helft van de wereldbevolking naar de stembus. Meer dan 4 miljard mensen mogen hun stem uitbrengen tijdens een van de 40 verkiezingen die er worden gehouden. Niet alle verkiezingen gaan waarschijnlijk democratisch verlopen, zoals in Rusland. Maar er zijn vooral zorgen over de negatieve impact van technologie zoals AI die verkiezingen weleens zouden kunnen ondermijnen.

De uitslagen van de verkiezingen van dit jaar gaan naar verwachting aanzienlijke en wereldwijde gevolgen hebben voor de toekomst van de democratie. Maar ook voor belangrijke onderwerpen zoals mensenrechten, veiligheid en klimaatactie. In Bangladesh en Taiwan gingen stemmers al naar de bus om hun democratische recht uit te oefenen. Later dit jaar volgen wereldmachten als de VS, India en het Verenigd Koninkrijk.

Zelf heb ik twee keer in een campagneteam van een politieke partij mogen meewerken aan een verkiezingscampagne. Hierdoor maakte ik kennis met de rol die technologie hierin speelt. Zoals:

• Big data-analyses om kiezers te leren kennen, en
• getargete ads op social media om specifieke doelgroepen met een specifieke boodschap aan te spreken.

Maar in een tijdperk van AI worden zelfs de meest krachtige democratieën bang bij het idee wat voor negatieve impact technologie kan hebben op de stembusgang. Zo bang zelfs, dat mijn collega’s van het World Economic Forum ‘AI-gegenereerde desinformatie’ als grootste risico voor 2024 beschouwen.

AI-gegenereerde desinformatie

Media als de New York Times en de BBC waarschuwden hier al in 2018 voor. En talloze wetenschappelijke artikelen tonen aan wat voor ongekend groot, negatief effect de verspreiding van desinformatie via social media kan hebben op verkiezingen, door het manipuleren van de online dialoog en laten verdwijnen van vertrouwen.

We hebben dit uiteraard eerder gezien. Cambridge Analytica, een politiek data-analysebedrijf, verzamelde zonder toestemming persoonlijke gegevens van ongeveer 87 miljoen Facebook-gebruikers. Deze gegevens werden gebruikt om psychologische profielen op te stellen en gerichte politieke advertenties te verspreiden. Het bedrijf beweerde een rol te hebben gespeeld in de beïnvloeding van ongeveer 200 verkiezingen wereldwijd.

AI weapons for mass desinformation

‘Bewaar uw stem voor de verkiezingen van november’. Vorige maand ging er een robocall uit waarin de Amerikaanse president Joe Biden werd nagebootst. De boodschap was gericht op kiezers in de Amerikaanse staat New Hampshire, waarin hen werd geadviseerd niet te stemmen bij de presidentsverkiezingen van de staat.

De stem, gegenereerd door AI, klonk ontzettend echt. Dit laat ook gelijk het grote probleem zien met de snel ontwikkelende AI-technologie. We hebben het niet langer over het photoshoppen van kleine aanpassingen aan hoe iemand eruitziet. We hebben het over de grootschalige creatie en verspreiding van zeer echt uitziende informatie, die door elke technische leek kan worden gefabriceerd.

Dat veel mensen dit soort gefabriceerde informatie blindelings geloven, bleek uit een online test van de New York Times. Lezers werden uitgenodigd om naar tien afbeeldingen te kijken en te proberen vast te stellen welke echt waren en welke door AI waren gegenereerd. Een beetje hetzelfde wat Lubach in zijn vaste rubriek doet met ‘Kamerlid of AI’.

De test toonde aan hoe moeilijk het is om onderscheid te maken tussen echte en door AI gegenereerde afbeeldingen. Dit werd ondersteund door meerdere academische onderzoeken, waaruit bleek dat “gezichten van blanke mensen, gecreëerd door AI-systemen, als realistischer werden ervaren dan echte foto’s”, aldus journalist Stuart Thompson.

De democratisering van desinformatie

Sociale media verlaagden de kosten voor het verspreiden van verkeerde informatie of informatie. AI verlaagt de kosten voor de productie ervan. De makkelijk te gebruiken dashboards van LLM AI-modellen hebben al een explosie aan vervalste informatie en zogenaamde ‘synthetische’ inhoud mogelijk gemaakt. Van geavanceerd stemklonen tot nagemaakte websites.

De technologie zorgt voor een verregaande democratisering van desinformatie, door zeer geavanceerde tools te bieden aan iedere burger die geïnteresseerd is in het promoten van zijn favoriete kandidaat door boodschappen te verspreiden die ze willen. Mensen hoeven niet langer developers of Photoshop wizards te zijn om tekst, afbeeldingen of video te genereren. Maar ze hoeven ook niet per se voor een Russische of Chinese trollfarm te werken om chaos te zaaien. Iedereen kan wat dat betreft een maker van politieke content worden en proberen kiezers of de media te beïnvloeden.

Het is een wereldwijd probleem

We zagen naast het voorbeeld van Biden in de VS ook wereldwijd al andere concrete voorbeelden voorbijkomen. Venezolaanse staatsmedia verspreiden bijvoorbeeld pro-regeringsboodschappen via AI-gegenereerde video’s van nieuwslezers van een niet-bestaand internationaal Engelstalig kanaal. Ze werden gegenereerd door Synthesia, een bedrijf dat op maat gemaakte deepfakes produceert.

Bij de recente verkiezingen in Slowakije circuleerden door AI gegenereerde audio-opnamen op Facebook, waarin een liberale kandidaat werd nagebootst die plannen besprak om de alcoholprijzen te verhogen en de verkiezingen te manipuleren. Tijdens de Nigeriaanse verkiezingen van februari vorig jaar, werd in een door AI gemanipuleerd audiofragment ten onrechte een presidentskandidaat betrokken bij plannen om stembiljetten te manipuleren.

Oude fraude, nieuwe trucjes

Veel typen fraude die we voorbij zien komen, zijn niet nieuw. Scammers doen al jaren aan ‘voice cloning’ en het gebruik van deepfakes om mensen te misleiden. Het grote verschil is hier dus echt de eenvoud waarmee iedere wereldburger zelf dit kan doen met tools die vrij voor handen zijn. Eerder schreef ik al over startups die het mogelijk maken om met een korte stemopname, wat foto’s en filmmateriaal een overleden persoon weer ‘tot leven te wekken’ als een 3D hologram, waar je zelfs een gesprek mee kan voeren. Dat is in mijn optiek echt een prachtig voorbeeld van de kracht van convergentie van technologieën. Maar het kan ook op een verkeerde manier gebruikt worden. Volgens de Financial Times stijgt het aantal scams in de financiële sector in recordtempo.

Laatst heb ik in een masterclass rondom het gebruik van AI met de deelnemers gekeken hoe makkelijk het is om een fake ID te maken. Dit deed ik naar aanleiding van deze Reddit post die viral ging. De verwondering veranderde al snel in verbazing. Bij veel organisaties, zoals banken, kan je online bijvoorbeeld een bankrekening afsluiten. Om dit proces succesvol af te ronden, is de identificatie nodig door middel van het uploaden van een identiteitsbewijs en een selfie die je maakt. Een simpele leek kan nu al via tools als Midjourney een fake ID laten genereren. Wat doet dit met al die zogenaamde Know Your Customer (KYC-) processen, die hier zo sterk van afhankelijk zijn?

Het is trouwens niet alleen de negatieve impact van Generatieve AI waarvoor wordt gewaarschuwd rondom verkiezingen. Een recent rapport van Freedom House laat zien dat ook steeds meer overheden AI gebruiken om censuur toe te passen op de bevolking. Door bijvoorbeeld het controleren van internettoegang. Iets wat we al zien/zagen in Turkije, Iran en Ethiopië.

Wassen neus of sterke vuist?

Normaal worden grote technologiebedrijven in de Verenigde Staten vaak met rust gelaten. Maar in oktober afgelopen jaar tekende de Amerikaanse president Biden een zogenaamde ‘executive order‘ om AI-gegenereerde content verplicht te laten watermerken. Helaas hebben al veel experts vanuit zowel de hoek van de overheid als de technologiebedrijven aangegeven niet eens te begrijpen wat ze moeten verstaan onder ‘watermerken.

Gelukkig hebben 20 grote technologiebedrijven (waaronder Google, Meta, Microsoft, OpenAI, TikTok, X, Amazon en Adobe) begin dit jaar beloofd te helpen voorkomen dat verkeerd gebruik van AI een impact zal hebben op de wereldwijde verkiezingen. Ze tekenden hiervoor de ‘Tech Accord to Combat Deceptive Use of AI in 2024 Elections’. Een ‘vrijwillige’ overeenkomst met acht specifieke toezeggingen om technologie in te zetten die schadelijke AI-inhoud tegen moeten gaan. Je kan dan denken aan detectiemechanismen van de verspreiding van dit soort content op hun platforms, maar ook bij het genereren ervan.

How can we ensure that AI and technology are forces for good rather than chaos? – Ravi Agrawal, Edit-in-Chief, Foreign Policy

Acties van Google, OpenAI en Microsoft

Daarnaast hebben de bedrijven ook los van elkaar talloze acties aangekondigd. Google verplicht politieke adverteerders om op zeer duidelijke manier duidelijk te maken of inhoud digitaal is gewijzigd of gegenereerd met AI. Ook heeft het de beantwoording van verkiezingsgerelateerde vragen door haar chatbot Gemini beperkt. Zusje YouTube zal van makers van video’s verplichten om duidelijk te maken of ze AI-gegenreerde content posten of niet.

ChatGPT eigenaar OpenAI heeft aangegeven dat het authenticatie-tools zal introduceren waarmee de gebruiker direct kan zien of een afbeelding te vertrouwen is of niet. Het heeft ook gezegd dat het politici en politieke campagnes met behulp van deze tools zal verbieden. Ik ben benieuwd hoe dit er concreet uit gaat zien. Een Nederlandse politieke partij als de BBB heeft natuurlijk al aangegeven dat ze het verkiezingsprogramma deels met GPT heeft geschreven.

Ook grootaandeelhouder Microsoft komt met soortgelijke maatregelen om inhoud te verifiëren. Daarnaast heeft het naar eigen zeggen haar zoekmachine Bing een upgrade gegeven, om gebruikers resultaten te geven van gezaghebbende, geverifieerde bronnen.

Socialmediakanalen

Het afgelopen jaar kwam X veel in het nieuws rondom de grote hoeveelheid desinformatie die op het platform wordt verspreid. Dat komt mede omdat de nieuwe eigenaar Elon Musk het verkiezings-integriteitsteam van het platform ontsloeg. Volgens Musk ondermijnde dit juist ‘de verkiezingsintegriteit’. Recent introduceerde X de ‘Community Notes’ als belangrijkste (extern gepubliceerde) tool om desinformatie te bestrijden. Het wordt echter door veel experts bekritiseerd als gebrekkig, foutgevoelig en ontoereikend.

Facebook-moeder Meta is door het Cambridge Analytica-schandaal al wat langer semi-gedwongen bezig met het voorkomen van dat het platform wordt misbruikt voor de beïnvloeding van verkiezingen. Ook Meta laat politieke adverteerders verplichten om hun naam er duidelijk bij te vermelden en om duidelijk aan te geven of content AI-gegenereerd is.

Timestamp it with the trust machine

Zoals ik al eerder schreef, zie ik de samensmelting (convergentie) van verschillende nieuwe technologieën echt als de volgende grote stap voorwaarts. Je ziet de meest gave voorbeelden, zoals:

• drones die worden aangestuurd door IoT en machine learning om gewassen te besproeien, en
• dat blockchain en AI elkaar versterken, door blockchain-code (smart contracts) te controleren op bugs en AI-data decentraal op te slaan en eigenaren te belonen voor het gebruik met crypto.

Waar AI momenteel juist voor veel onenigheid zorgt en door alle eerder beschreven cases het vertrouwen in de technologie laat verminderen, wordt blockchain juist omschreven als de ‘trust machine’. Door de technologische aard ervan, kan je bijvoorbeeld niks wijzigen aan data die je op de blockchain hebt gezet. Dat zorgt in talloze industrieën wereldwijd voor vertrouwen in de data.

Blockchain kan bijvoorbeeld met het zogenaamde ‘timestampen’ content waarmerken en dus de kijker ervan het vertrouwen geven dat er niet mee is geklooid. De Amsterdamse startup Wordproof won hier een prestigieuze Europese innovatieprijs mee en heeft zo bijvoorbeeld al alle artikelen van het NRC getimestamped. Aan de andere kant van de oceaan zet Fox (van onder andere Fox News) blockchain-technologie in (Polygon) om eenzelfde oplossing aan te bieden.

In Guatamala werden vorig jaar zelfs de verkiezingen met deze technologie op de blockchain gezet. Iets waar ik in 2019 al over schreef en waar nu door steeds meer overheden mee geëxperimenteerd wordt.

Robo-vrijwilligers en gesprekspartners

Het is niet alleen maar kommer en kwel rondom de verkiezingen. Ik zie wat dat betreft ook genoeg kanten waar technologie juist een positieve impact kan hebben.

Recent mocht ik bijvoorbeeld voor een groep politici een workshop over AI geven en gaf hier het voorbeeld van het opzetten van een eigen chatbot. Hier liet ik twee (vooraf gemaakte) voorbeelden zien:

• Een bot waar ik de verkiezingsprogramma van alle partijen had geupload en dus heel simpel, maar doeltreffend, een discussie kon voeren over onderwerpen die mij aan het hart gaan.
• Maar ook en bot voor een partij zelf. Je kan hier namelijk alles in uploaden: stemgedrag, blogs, krantenartikelen … Op basis daarvan kan je een potentiële kiezer de mogelijkheid geven om een gesprek aan te gaan, zo diep diegene maar wil. Op een moment en locatie naar keuze.

Dat is een platte chatbot, maar er zijn ook al politici die virtuele vrijwilligers zo inzetten. Een mooi voorbeeld is de democratische kandidaat Shamaine Daniels uit de Amerikaanse staat Pennsylvania. Zij gebruikt voor haar campagne Ashley, een AI-campagne-vrijwilliger. Ook de democratische Amerikaanse presidentskandidaat Dean Philips heeft zo de ‘Dean.Bot’ gelanceerd.

Het antwoord op de fake ID’s? Daarvoor wordt toch gewezen op het veel bekritiseerde Worldcoin-project, waar ik eerder over schreef. Het zou door de opzet van de techniek zorgen voor een echte ‘proof of humanity’. Experts betwijfelen dit.

Leugenaarsdividenden

Medeoprichter van het Center for Humane Technology, Tristan Harris, waarschuwt al langer en breeduit over de negatieve impact van technologieën als AI op bijvoorbeeld verkiezingen.

Een van de uitdagingen is bijvoorbeeld dat campagnetoespraken beschermde uitingen zijn. Kandidaten kunnen in principe (in de meeste, democratische landen) vrijwel alles zeggen en doen wat ze willen, zonder risico op juridische consequenties. Zelfs als hun uitingen overduidelijk onjuist zijn, komen ze vrijwel altijd vrijuit en worden hier niet op aangepakt door bijvoorbeeld een rechter.

Een andere uitdaging is het feit dat volgens onderzoek desinformatie juist het beste gedijt op kleine platformen. Platformen die in tegenstelling tot de grotere broers juist nog niet bekend hebben gemaakt hoe ze desinformatie aan gaan pakken. Dit zijn platformen die vaak ook veel minder budget hebben voor zaken als contentmoderatie.

Lees Ook: In de metaverse op vakantie? 25 reistips!

Maar ook een ander interessant onderzoek uit 2018 laat het bewijs zien voor het zogenaamde ‘leugenaarsdividend’. Het suggereert dat naarmate het publiek zich meer bewust wordt van het feit dat AI video en audio op overtuigende wijze kan genereren, de ‘bad actors’ juist authentieke en echte content als ‘nep’ aanmerken, wat volgens de auteurs voor een nóg onduidelijkere informatievoorziening zorgt richting de kiezers. Met alle gevolgen van dien.

Zal AI net zo’n of zelfs een nog veel ergere impact hebben op de verkiezingen dit jaar? Time will tell. Ik heb zelf nog steeds hoop dat technologie kan helpen met het voorkomen van het gebruik door ‘bad actors’. We gaan het komende jaar zien of alle maatregelen hebben geholpen en de grote angst voor niets is geweest.

Nurture is being replaced by an algorithm. I’m calling out the real-time experiment that’s being run on us and democracy right now. – Ian Bremmer, president of the Eurasia Group