Bij de een zitten we nog helemaal high op de piek, bij anderen gedesillusioneerd in het dal. Door de vele ontwikkelingen die er elke dag bijkomen binnen de vele nieuwe deep-technologieën, is het soms lastig om nog de leuke ‘nice to haves’ te onderscheiden van wat écht praktisch nut en positieve impact heeft. In dit artikel geef ik de laatste ontwikkelingen binnen de technologieën, rondom de zomer.

Laatst zat ik met een journalist te kijken naar praktisch gebruik van de metaverse, AI en crypto. Het is bijna onmogelijk om alle ontwikkelingen bij te houden. De ‘signals’ uit de ‘noise’ te onderscheiden. Kijk naar blockchain, waar binnen een van de 10 belangrijkste ontwikkelingen, ook weer 10 ontwikkelingen spelen. Binnen ‘tokanisatie’ zien we NFT’s, RWA’s, Solbound Tokens. Binnen AI zien we al meer dan 12.000 gave tools.

Sommige technologieën die vandaag de dag heel erg in de belangstelling staan, zoals AI en robotica, bestaan al sinds de jaren ’50.

Maar de afgelopen jaren zijn door een paar belangrijke gebeurtenissen de ontwikkelingen razendsnel gegaan:

1. De wereld is steeds meer gedigitaliseerd, mede versneld door corona, waardoor mensen vaker online zijn en openstaan voor nieuwe digitale ervaringen.
2. Er zijn enorme investeringen gedaan in deze technologieën door zowel publieke als private sectoren, wat de ontwikkeling en adoptie heeft versneld. Vooral tijdens corona is er zo ongekend veel geld bijgekomen (doordat centrale banken dit bijdrukten), wat zijn weg heeft gevonden in zowel het financieren van nieuwe startups, als bestaande bedrijven.
3. De toegenomen wereldwijde connectiviteit via internet en mobiele apparaten heeft een groter publiek bereikt en geïnformeerd over deze nieuwe technologieën. De afgelopen 10 jaar zijn er 3 miljard mensen bijgekomen met internettoegang.
4. Verhalen over succes en winst in de crypto-markten, doorbraken in AI zoals ChatGPT en visies van toonaangevende bedrijven op een 3D-toekomst in de metaverse hebben bijgedragen aan de hype en publieke belangstelling.
5. De beschikbaarheid van enorme hoeveelheden data en de toegenomen rekenkracht hebben de ontwikkeling en toepassing van AI en machine learning waanzinnig versneld.
6. Verbeteringen in VR en AR hebben het idee van de metaverse een heel stuk realistischer en aantrekkelijker gemaakt voor zowel consumenten als bedrijven.

Het afgelopen jaar zag ik de toon op veel events waar ik zelf sprak, die ik bijwoonde of zelf organiseerde, echt veranderen. Minder futuristic views, meer verhalen over praktisch nut en impact. De high van de hype voorbij en focussen op mogelijkheden en ontwikkelingen binnen en met de nieuwe technologieën.

Metaverse

Het gaat de volgende industriële revolutie een ongekende boost geven. Volgens mijn collega’s van het World Economic Forum zijn steeds meer bedrijven bezig met de metaverse. De ontwikkelingen gaan sneller, door zowel de snelle ontwikkelingen van en convergentie met AI. Maar ook het inzicht in het praktische nut heeft inmiddels 92% van de ondervraagde bedrijven wereldwijd dusdanig geënthousiasmeerd dat ze de technologie al hebben geïntegreerd of er momenteel mee bezig zijn.

Laatst mocht ik op de High Tech Campus een groot event hosten rondom deep tech, waar ook veel werd gesproken over de metaverse. Meta liet zien hoe dit wordt gebruikt door partijen als Pfizer. Philips liet hier zien wat voor gave metaverse-omgevingen zij al hebben gebouwd, die bijvoorbeeld al worden ingezet door verschillende ziekenhuizen.

Vision Pro

De revolutionaire Vision Pro bril van Apple bleek de afgelopen tijd geen succes. De productie ervan werd gehalveerd en er wordt gewerkt aan een goedkopere variant. Ik las veel berichten van mensen die het als argument gebruikten dat de metaverse een ‘spookstad’ was en zelfs ‘aan een stille dood is gestorven’. Maar dit wordt steeds gebaseerd op het aantal verkochte VR-headsets.

De brede analyse van het World Economic Forum laat ook duidelijk zien, dat dit voor nu vooral B2B-oplossingen zijn. De technologie wordt voornamelijk intern gebruikt voor het maken van ‘virtual twins’. Volgens KLM zorgt het gebruik van de Vision Pro voor minder kostbare fouten in het onderhoud van de vliegtuigen. Autofabrikant Porsche zet het nog veel breder in binnen bijvoorbeeld het ontwerpen van nieuwe auto’s. Dit soort organisaties kopen een aantal headset, maar uiteraard niet gelijk voor elke medewerker. Als je dus afgaat van het totaal aantal verkochte headsets, dan lijkt het alsof er helemaal niks gebeurt in de technologie.

Nieuwe lanceringen

Dat een partij als Google zeer recent ook weer nieuw leven heeft geblazen in haar metaverse-ambities, door recent een grote partnership aan te gaan met een leverancier van VR-headsets, is voor mij ook een interessant signaal. De eerdere ambities van het bedrijf, die zich doorvertaalde in de Google Glass, wordt nog steeds als een van de grootste tech-flops gezien van de afgelopen eeuw.

Ook Microsoft lanceerde op haar jaarlijkse developers-congres allerlei nieuwe functionaliteiten (onder de noemer ‘Windows Volumetric Apps’) om Quest headset makkelijk te verbinden met Windows-applicaties.

Daarnaast wordt er ook nog steeds druk gewerkt aan de adoptie door consumenten. Meta focust zich nu op het aanbieden van klaslokalen in de metaverse, nadat onderzoek uitwees dat studenten veel betere resultaten behaalden in een virtueel klaslokaal, vergeleken met een fysieke.

Convergentie

By far de grote volgende stap binnen al die bijzondere technologieën waar we niet meer om heen kunnen, is in mijn optiek de convergentie ervan. Het samensmelten en samenwerken, wat het geheel nog heel veel krachtiger maakt. We zien dit al op verschillende manieren: crypto’s en NFT’s die de metaverse sterker maken, AI die blockchain-code checkt op fouten. Maar bijvoorbeeld ook IoT-sensoren, waar AI de big data van analyseert en automatisch drones aanstuurt om op het juiste moment en de juiste plek onkruid te wieden en gewassen te besproeien.

AI en blockchain/crypto

Een van de verregaande convergenties momenteel, zie ik op het vlak van AI en blockchain/crypto. AI geeft ongekende mogelijkheden, maar brengt ook kopzorgen met zich mee. Gebruikers maken zich bijvoorbeeld zorgen over hun privacy en vragen zich af of AI-systemen wel eerlijk en open zijn. Ook is er angst dat de macht over AI in de handen van een klein groepje techreuzen komt. Hier zie ik steeds meer initiatieven ontstaan, vanuit blockchain/crypto-land, om deze uitdagingen aan te gaan.

Ze kunnen zorgen voor meer transparantie en decentralisatie van AI-systemen door de controle te verdelen over een netwerk van nodes. Zogenaamde ‘smart contracts’ op de blockchain kunnen AI-processen automatiseren en onpartijdig uitvoeren. Cryptografische technieken helpen bij het beschermen van gebruikersgegevens, zodat ze niet gestolen kunnen worden. Tokeneconomieën, gebaseerd op cryptocurrencies, kunnen een mooie stimulans geven voor echt ethische AI-ontwikkeling en -implementatie.

Ook binnen de convergentie vindt zelfs convergentie plaats: 3 van de grootste projecten op het snijvlak van AI en blockchain/crypto hebben aangekondigd een ‘Superintelligence Alliance’ te gaan vormen. Fetch.ai, SingularityNET en Ocean Protocol zijn samen al 7,5 miljard dollar waard en willen flink inzetten op het onderzoek en de ontwikkeling van artificial superintelligence (AGI). De projecten zetten zich voornamelijk in op het democratiseren van zowel de toegang tot data, als AI in het algemeen.

De Europese Unie gaat in rap tempo digitaal

In lijn met de ‘antiwegkijkwet’, de Corporate Sustainability Due Diligence Directive (CSDDD) die vorig jaar werd aangenomen in het Europese Parlement, is hard gewerkt aan een Digitaal Product Paspoort (DPP). Dit is een soort digitale identiteitskaart voor producten. Het vertelt je alles over een product: waar het vandaan komt, waarvan het gemaakt is en hoelang het mee kan gaan. Het doel is om mensen meer inzicht te geven in wat ze kopen en om spullen langer te gebruiken.

DPP en blockchain

Voor dit DPP wordt blockchain gebruikt. Dit zorgt ervoor, dat de informatie veilig wordt opgeslagen en gedeeld, zonder dat iemand er zomaar mee kan knoeien. Het zorgt ervoor dat de informatie over producten betrouwbaar is en gemakkelijk te volgen is door de hele keten heen, van maker tot koper.

Een gaaf voorbeeld hiervan is het AURA-consortium. Dit is een groep van luxe merken die samenwerken, opgericht door LVMH. LVMH bezit bekende merken zoals Louis Vuitton, Dior, en Hennessy. Deze merken gebruiken blockchain om hun klanten te laten zien dat hun producten echt zijn en niet nep.

• Bij Louis Vuitton kun je met je smartphone de echtheidscode van een tas scannen om te zien waar en wanneer de tas is gemaakt en welke materialen zijn gebruikt.
• Dior past het toe op parfums, waarbij klanten de herkomst van zeldzame ingrediënten kunnen nagaan, zoals waar de rozen van een bepaald parfum zijn gekweekt.
• Voor Hennessy cognac kun je de hele reis van druif tot fles volgen: je ziet wanneer de druiven zijn geoogst, hoe lang de cognac heeft gerijpt en wanneer hij is gebotteld.

Deze technologie helpt de merken om de echtheid en kwaliteit van hun producten aan te tonen, vervalsingen tegen te gaan en het vertrouwen van klanten te vergroten.

Mobiele betalingen

Digitale betalingen zijn big business. Al zijn de transactiekosten soms klein, de veelheid ervan zorgt ervoor dat er per jaar volgens McKinsey meer dan $2 triljoen en over 3 jaar mogelijk zelfs meer dan $3 triljoen wordt verdiend door partijen als PayPal, Visa en reguliere banken, aan al die transacties. Aan alle kanten zie je technologische ontwikkelingen, die proberen een graantje mee te pikken van deze alsmaar stijgende trend.

Bedrijven willen werken met crypto’s

De afgelopen jaren heb ik hier al een paar keer op Frankwatching geschreven over zogenaamde ‘stablecoins’. Stabiele cryptovaluta die altijd dezelfde waarde houden. De afgelopen weken zag ik nog veel meer ontwikkelingen voorbijkomen van ook bekende, traditionele bedrijven die met crypto’s aan het werk willen gaan. Het hoofd blockchain van Vodafone wereldwijd, zat bij mij op het podium van de Dutch Blockchain Days te vertellen hoe de telecomgigant cryptowallets wil integreren in simkaarten. De andere telecomgigant T-Mobile wil gebruikers een maandelijkse Bitcoin cashback gaan geven. Technologiegigant Sony heeft om nog onbekende redenen een cryptocurrency exchange gekocht.

Maar voor mij de gaafste ontwikkeling op dit gebied, is die rondom messagingapp Telegram. De afgelopen maand zat ik met een van de werknemers van deze app hun nieuwe virtuele portemonnee uit te proberen ter voorbereiding van een event. Ik heb nog nooit zo makkelijk en zo snel geld overgemaakt naar iemand anders. Meta probeerde eerder al zo’n wallet (Novi) te lanceren en integreren in onder andere WhatsApp, maar dat project werd door zeer hevige tegenwerking van wet- en regelgevers wereldwijd, in de ijskast gezet.

Nog meer ontwikkelingen

Recent maakte een van de grootste cryptovalutabeurzen wereldwijd (Coinbase) het mogelijk om via socialmedia-kanalen, zoals WhatsApp en Telegram, heel makkelijk stablecoins te sturen. Maar deze nieuwe mogelijkheid van Telegram spant wel echt de kroon. Volgens de oprichter kunnen softwareontwikkelaars ook makkelijk applicaties bouwen bovenop deze virtuele portemonnee, die beschikbaar wordt voor de 900 miljoen gebruikers. Die mogelijkheid heeft inmiddels al voor meer dan 700(!) apps gezorgd. Het platform heeft de ambitie om de komende jaren 30% van de gebruikers de wallet te laten gebruiken.

Telegram heeft minder last van overheden, omdat het volgens verschillende overheden, waaronder de Nederlandse, simpelweg niet reageert op hun vragen. Inmiddels is de EU al wel met hen in gesprek rondom de DMA en ik ben benieuwd of de digitale portemonnee mag blijven bestaan.

Crypto

In een eerdere trendblog schreef ik al uitgebreid over alle gave ontwikkelingen binnen cryptovaluta. Na een diep dal, zit de industrie weer in een positieve fase. Dat is niet alleen te danken aan alle gave technologische ontwikkelingen, zoals DePin (waar ik hier eerder over schreef), maar ook de steeds grotere interesse vanuit traditionele investeerders. Recent onderzoek van KPMG laat zien dat 40% van de institutionele investeerders inmiddels is blootgesteld aan crypto. De CEO van de grootste vermogensbeheerder sprak zich hier recent ook heel positief over uit:

Ik ben ontzettend positief over de levensvatbaarheid van bitcoin op de lange termijn – BlackRock-CEO Larry Fink

Toch blijven de meeste gave ontwikkelingen binnen cryptovaluta onzichtbaar. Afgelopen maand organiseerde ik de Dutch Blockchain Days (het grootste event voor blockchain/crypto in Nederland) en had talloze experts bij mij op het podium. Zij praatte mij en het publiek bij over alle ontwikkelingen. De hoogste baas van Mastercard op het gebied van crypto, vertelde al hoe het de 3 miljard eigenaren van de bekende creditcards stap voor stap liet kennismaken met crypto.

Maar zoals ik eigenlijk bij elke technologie denk; de beste technologie is onzichtbaar voor de gebruiker en doet gewoon wat het moet doen. We maken al lange tijd gebruik van technologieën als AI, blockchain, machine learning, IoT en VR. Vaak zonder dat we het echt doorhebben. De maker van de Bitcoin-infrastructuur in El Salvador nuanceerde dat beeld door te vertellen over de grote impact die crypto heeft op het Zuid-Amerikaanse land. Daar voelen bewoners wel echt de dagelijkse impact op hun leven.

Verschillende benaderingen van overheden

Het blijft ook interessant om de verschillende benaderingen van overheden te zien. De Europese is goed op weg met de invoering van een zeer uitgebreide wet- en regelgeving die eind dit jaar volledig van kracht is. Zo werd de bekendste stablecoin (Tether) al verboden, omdat het niet voldoet aan de wet. Dit terwijl de tweede stablecoin (Circle) juist een vergunning kreeg voor haar dienstverlening. De CEO van Circle voorspelde dat in de komende 10 jaar 10% van de wereldeconomie via stablecoins kan gaan lopen.

In Amerika verloren of stopten de beurswaakhond (SEC) rechtzaken tegen cryptopartijen. Het grote wachten is daar op de lancering van een nieuwe, zogenaamde ETF (Exchange-Traded Fund) voor de op een na grootste crypto: Ethereum. Dit is een beleggingsfonds dat op de beurs verhandeld wordt en dat de waarde van Ethereum volgt, waardoor beleggers blootstelling krijgen aan de cryptocurrency zonder deze direct te hoeven bezitten. De lancering van de vorige ETF, voor Bitcoin, zorgde voor ongekende prijsstijgingen tot recordniveaus en maakte die ETF zelfs tot de meest succesvolle (van de 1400 wereldwijd) ooit.

NFT’s zijn dood en blijven verbazen

2 jaar geleden werden non-fungible tokens (NFT’s) een wereldwijde sensatie dankzij hun snel stijgende prijzen en de brede media-aandacht. Toen de markt echter instortte, schreven velen NFT’s af als een voorbijgaande trend en verklaarden ze ze dood. Dit oordeel bleek echter voorbarig. De onderliggende technologie van NFT’s blijft zich wereldwijd verspreiden en hele industrieën transformeren.

De NFT-industrie heeft echt waanzinnig veel tijd en middelen geïnvesteerd in de ontwikkeling, het testen en het lanceren van nieuwe gave mogelijkheden met de technologie. Hoewel sommige markten voor NFT’s momenteel meer dan 90% in waarde zijn gedaald, is het in mijn optiek een vergissing om NFT’s af te schrijven als een voorbijgaande hype. NFT’s vertegenwoordigen een manier, geen product. Wat is er nodig om eigendommen in een digitale wereld te verhandelen? Eigendomsrechten.

Eigendom en authenticiteit

NFT’s bieden een manier om eigendom en authenticiteit te certificeren en brengen vele voordelen van blockchaintechnologie met zich mee, zoals interoperabiliteit, veilige overdracht en verificatie. Het tokaniseren van bezittingen neemt momenteel heel rap toe. Bank of America schreef in een rapport dat tokenisatie de hele bestaande financiële infrastructuur zou kunnen transformeren. De efficiëntie zou kunnen verhogen, de kosten zouden kunnen verlagen en de supply chains zouden geoptimaliseerd kunnen worden. Een rapport van de Boston Consulting Group eerder dit jaar schatte dat de markt voor tokenized assets zou kunnen groeien tot $16 biljoen.

RWA’s

De grootste beweging die ik hier binnen zie, is Real World Asset tokanisatie. RWA’s verwijzen naar fysieke of tastbare bezittingen die digitaal worden vastgelegd en verhandeld op de blockchain. Volgens onderzoeken van Roland Berger en McKinsey gebeurt dat momenteel massaal met vastgoed en aandelen.

Een ander prachtig voorbeeld van Nederlandse bodem, is Carbify. Dit bedrijf heeft al meer dan een miljoen bomen geplant in de Amazone om CO2 te compenseren als bedrijf en consument. Het kreeg voor haar ‘carbon debits’ die op de blockchain worden geplaatst ook al een unieke certificatie van de Verenigde Naties.

De ontwikkelingen blijven doorgaan

Als deze blog gepubliceerd wordt, dan zijn er waarschijnlijk alweer talloze gave nieuwe ontwikkelingen bijgekomen. De ontwikkelingen gaan sneller dan ooit. We bevinden ons in mijn optiek nog maar aan het begin van een tijdperk waarin blockchain, AI, de metaverse en andere deep technologieën de wereld fundamenteel zullen veranderen.

De snelheid en omvang van deze vooruitgang zijn ongekend, met elke dag nieuwe doorbraken en toepassingen die onze manier van leven, werken en communiceren transformeren. We zijn wat dat betreft nog maar net begonnen.

Een recent onderzoek toont aan dat kunstmatige intelligentie (AI) in staat is om beelden nauwkeurig te reconstrueren op basis van hersenactiviteit. Dit baanbrekende onderzoek, uitgevoerd door de Radboud Universiteit, richt zich op het verbeteren van deze reconstructies door de AI te leren welke hersengebieden het meeste aandacht nodig hebben. Laten we eens kijken hoe AI kan nu jouw gedachten lezen en reconstrueren.

De AI kan beelden creëren die sterk lijken op wat een proefpersoon (in dit geval een aap) ziet, door hersensignalen te analyseren. Dit betekent dat de AI op basis van wat er in het brein gebeurt, kan achterhalen naar welke beelden de proefpersoon kijkt.

Een belangrijk aspect van het onderzoek is dat de AI-systeem leert om zich te concentreren op specifieke delen van het brein. Hierdoor verbetert de nauwkeurigheid van de gereconstrueerde beelden aanzienlijk. Het systeem leert welke hersengebieden cruciaal zijn voor het verwerken van visuele informatie.

In de studie werden zowel directe hersenopnamen van een aap als fMRI-scans van mensen gebruikt. De directe opnamen leverden nauwkeurigere reconstructies op, vooral wanneer de beelden door een AI waren gegenereerd. Dit komt door de complexiteit en ruis in echte foto’s en fMRI-data. Met fMRI-scans was er ook een aanzienlijke verbetering wanneer het aandachtssysteem werd gebruikt, maar de reconstructies waren minder nauwkeurig dan bij de makaak. Dit komt deels doordat het moeilijker is om echte foto’s te reconstrueren en omdat fMRI-scans niet-invasief maar erg ruisgevoelig zijn.

Het ultieme doel van het team binnen het Radboud is om betere hersenimplantaten te ontwikkelen voor het herstellen van het zicht. Deze implantaten zouden hogere hersengebieden kunnen stimuleren die objecten representeren, in plaats van simpelweg patronen van licht te presenteren. Hierdoor kunnen veel rijkere visuele ervaringen worden gecreëerd die dichter bij die van ziende personen liggen. De onderzoeker legt uit: “Je kunt direct dat deel stimuleren dat overeenkomt met bijvoorbeeld een hond, en zo veel rijkere visuele ervaringen creëren.”

Niet alleen generatieve AI-modellen, maar ook steeds meer organisaties lijken wel te hallucineren rondom de inzet van technologie. Het moet allemaal zo snel mogelijk, het liefst gisteren, worden geïmplementeerd, om maar snel met resultaten te komen. Maar in al die hectiek, vergeten we in mijn optiek steeds meer de ethiek. Daarom in dit artikel een aantal aandachtspunten. Nadenken over je eigen handelen of het in een bepaalde situatie het goede is om te doen. Ethiek draait om principes die bepalen hoe we ons zouden moeten gedragen. Niet alleen voor onszelf, maar ook ten opzichte van anderen. Als we kijken naar ethiek in technologie, gaat het naar mijn mening om hoe AI-techniek ons leven beïnvloedt. Hoe we ervoor zorgen dat dit op een goede manier gebeurt.

Steeds meer uitdagingen

Het vraagt om kritisch te kijken naar hoe we technologie maken en gebruiken, en ervoor te zorgen dat het de mensheid ten goede komt zonder onnodige schade of ongelijkheid te veroorzaken. Maar helaas zien we steeds meer uitdagingen op het snijvlak van ethiek en techniek.

• Een van de grootste uitdagingen is het gebrek aan transparantie bij bedrijven. Zo kreeg Uber in Nederland een boete van 10 miljoen euro, omdat het bedrijf niet duidelijk was over hoe het de gegevens van zijn chauffeurs verzamelde en gebruikte.
• Ook zien we steeds meer uitdagingen rondom privacy. Gezichtsherkenningstechnologie en tracking-apps dringen bijvoorbeeld vaak zonder expliciete toestemming binnen in de persoonlijke levenssfeer van mensen. In het Verenigd Koninkrijk leidde het gebruik van gezichtsherkenning door de politie tot veel kritiek en zorgen over constante surveillance.
• Sinds de opkomst van Generatieve AI, is de discussie over vooroordelen en discriminatie ook weer flink opgelaaid. Een bekend voorbeeld is de AI-recruitment tool van Amazon, die stopte met het gebruik ervan nadat bleek dat het systeem discrimineerde tegen vrouwelijke kandidaten.
• Technologieën ontwikkelen zich vaak sneller dan de wetten die gereguleerd moeten worden, wat leidt tot situaties waarin bedrijven zonder adequate ethische richtlijnen opereren. Dit is momenteel bijvoorbeeld goed te zien in de discussie in Nederland over de regulering van drones en autonome voertuigen, waarbij regelgeving ver achterblijft bij technologische innovaties​.
• Ook rondom verantwoordelijkheid zijn er veel vraagtekens. Want wie is er verantwoordelijk voor databeheer en -bescherming? Wie is er verantwoordelijk voor foutieve antwoorden van een chatbot? Wie is verantwoordelijk als een zelfrijdende auto een ongeval veroorzaakt?

Bedrijven gaan de mist in

Nu wordt bij ethiek, en vooral het missen ervan, gewezen naar de grote techbedrijven. Maar met de huidige gekte rondom AI, zie ik ook steeds meer MKB-bedrijven de mist in gaan. In de afgelopen jaren heb ik heel wat organisaties, van kleine MKB’ers tot multinationals mogen begeleiden rondom digitale transitie, echt dromen omzetten in praktisch gebruik binnen de organisatie. Ik zie dat door de veelheid aan gave, nieuwe technologieën die er de afgelopen jaren bij zijn gekomen (van NFTs tot AI, metaverse tot AR), een ongekend enthousiasme is ontstaan om ermee aan de slag te gaan.

Maar aan de andere kant zien veel organisaties door de vele dromen het bos niet meer. Ik zie dit steeds vaker terug; organisaties kampen momenteel met allerlei grote uitdagingen (personeelstekort, gestegen kosten, etc.) en hebben ineens een wondermiddel gevonden om alle pijnen weg te halen. Maar ze vergeten vaak de bijsluiter te lezen of na te denken over mogelijke bijwerkingen.

Technologie ontwikkelt (te) snel

Al jaren mag ik hier op Frankwatching schrijven over de impact en het praktisch gebruik van nieuwe technologieën. Vaak benoem ik het ‘pacing problem’ van technologie. Technologie ontwikkelt zich soms zo ongekend snel, dat wet- en regelgevers het gewoon niet kunnen bijhouden. Het duurde 7 jaar voordat er wetgeving kwam rondom de deeleconomie. Het duurde meer dan 10 jaar voordat er (einde 2024) eindelijk wetgeving is rondom cryptovaluta.

Maar het probleem hier? Door de snelheid waarmee blockchaintechnologie is ontwikkeld, mist het eigenlijk alweer alle nieuwe ontwikkelingen, zoals tokenisatie (NFT, Real World Assets etc), DAO’s en DeFi.

Gebruik je morele kompas

Je kan dus als organisatie de keuze maken om in dit ‘grijze gebied’, vooral lekker je gang te gaan met activiteiten, totdat er wetgeving komt die bepaalde zaken inperkt of zelfs verbiedt. Zelf kijk ik liever doorlopend naar mijn morele kompas. Bij het nemen van beslissingen rondom nieuwe technologieën, denk ik goed nuchter na of ik het moreel ook uitlegbaar vind. Ik probeer het juiste te doen, als er geen duidelijke regels zijn om mij hierin te leiden.

Bedrijven zetten de eerste stappen

Ook al is volgens onderzoek nog maar 4% van de bedrijven volledig voorbereid om AI in te zetten, inmiddels is meer dan 10% er al dagelijks mee bezig. Dit zijn niet alleen de grote technologiebedrijven. Van horecaondernemers tot een ziekenhuis, van politici tot ambtenaren; inmiddels heb ik met allen al mogen werken om de eerste stappen te zetten. Een standaard element waar ik altijd naar kijk; het ethische vraagstuk en hoe dit ook goed mee te nemen in het opzetten en het gebruik.

Tip 1: denk nog beter aan data

We zijn door de GDPR beter gaan nadenken over onze data en die van onze klanten. Maar toch zie ik nog steeds dat bedrijven vaak meer data verzamelen dan strikt noodzakelijk is voor hun doeleinden. Deze overmatige dataverzameling vergroot het risico op privacy-schendingen aanzienlijk. Bovendien worden gevoelige gegevens regelmatig onvoldoende beveiligd opgeslagen of onbedoeld gedeeld met derde partijen. Veel organisaties onderschatten de gevoeligheid van bepaalde gegevens en de potentiële gevolgen van datalekken, wat kan leiden tot reputatieschade en juridische problemen.

Wat jij kunt doen:

• Implementeer een ‘Data Minimalisatie Protocol’.
• Stel een team samen dat elke 3 maanden alle activiteiten om data te verzamelen goed evalueert.
• Gebruik hierbij een checklist om te bepalen:
  • Is deze data echt nodig voor onze kernactiviteiten?
  • Kunnen we ons doel hierbij bereiken met minder data?
  • Hoe lang moeten we deze data bewaren?
• Zorg ervoor dat je op basis hiervan overbodige data verwijdert.

Tip 2: wees zo transparant als wenselijk

Ik zie dat de meeste bedrijven zeer terughoudend zijn in het openlijk communiceren over hun AI-gebruik. Nu begrijp ik dit vanuit een concurrentiegevoelig oogpunt, maar ik hoor ook vaak dat dit is uit angst voor negatieve reacties van klanten of het publiek. Het is duidelijk dat je AI gebruikt in de klantenservice als dit via een chatbot gebeurt, maar de rol van AI binnen simpele dingen, zoals productaanbevelingen of zelfs besluitvorming wordt toch vaak verhuld.

Voorkom vertrouwensbreuk

Maar dit gebrek aan openheid kan echt averechts werken. Wanneer het gebruik van AI binnen bepaalde elementen in de organisatie uiteindelijk aan het licht komt, kan dit leiden tot een vertrouwensbreuk van klanten en andere betrokken partijen.

• Wees gewoon open en eerlijk. Ontwikkel een ‘AI Transparantie Strategie’.
• Maak een duidelijk overzicht van alle elementen in de organisatie (gerelateerd aan jouw klant) waar AI wordt ingezet.
• Geef duidelijk, in jip-en-janneketaal aan, waarom je dit gebruikt en waar. Zeg dus bijvoorbeeld: “We gebruiken AI om jouw e-mails te categoriseren, zodat we sneller kunnen reageren.”

Tip 3: beat the bias

Leuk geprobeerd, maar helaas een verkeerde uitwerking. De donkergekleurde en Aziatische Nazi’s, die uit Google’s Gemini kwamen rollen zorgden voor veel commotie rondom de bias van AI. De ontwikkelaars hadden waarschijnlijk het aantal blanke mannen proberen te verminderen in de resultaten, maar soms geeft dit in (vooral historische context) dan toch echt verkeerde resultaten.

AI neemt vooroordelen over

AI-systemen nemen onbewust menselijke vooroordelen over uit de trainingsdata waarop ze zijn gebaseerd. Dit kan resulteren in systematische discriminatie op basis van kenmerken zoals geslacht, etniciteit, leeftijd of sociaaleconomische status. Nu ging dit niet alleen fout binnen Gemini, maar zie je dit ook steeds vaker fout gaan binnen bijvoorbeeld recruitment of opsporingsdiensten. Deze biases zijn vaak subtiel en moeilijk te detecteren, maar kunnen verstrekkende gevolgen hebben voor individuen en de maatschappij als geheel.

Wat jij kunt doen:

• Ga eens experimenteren met de IBM’s AI Fairness 360 toolkit om modellen te testen op verschillende vormen van bias.
• Je kunt hiermee een reeks ‘fairness metrics‘ samenstellen, specifiek voor de use-cases waarbij je AI gebruikt. Test de AI’s dus niet alleen op algemene prestaties,
  maar ook op de fairness-criteria.
• Bepaal van tevoren de grenswaarden rondom acceptabele niveaus van bias.

Tip 4: weg met het blinde vertrouwen

Je hebt niet alleen bias wat resulteert in systematische discriminatie. Er bestaat ook zoiets als ‘automation bias’; wat ertoe kan leiden dat medewerkers de output van AI-tools als foutloos beschouwen. Dit zie ik steeds vaker terug; de neiging om een eigen oordeel en expertise terzijde te schuiven, ten gunste van de aanbeveling van een AI.

Het aantal ‘hallucinaties’ van de verschillende AI-tools is soms hilarisch, maar door de groeiende bias ook zorgwekkend. Ook al zeggen experts dat vrijwel alle hallucinaties binnen een jaar zijn verdwenen, recent onderzoek laat zien dat het percentage hallucinaties bij AI’s 3% tot wel 27% kan bedragen.

Wat jij kunt doen:

• Ga bij de verschillende manieren van gebruik van AI heel goed na waar de menselijke beoordeling niet handig, maar echt essentieel is.
• Zorg dat je voor de onderdelen waar dit essentieel is, structureel en gestructureerd menselijke evaluatie toepast. Log gekke dingen duidelijk en maak het bespreekbaar.

Ik heb inmiddels al een paar klanten gehad die, door het in kaart brengen van bepaalde hallucinaties en de impact op de uitkomsten, het gebruik van bepaalde AI-tools alweer hebben gestopt.

Tip 5: maak duidelijke spelregels

Veel organisaties zie ik niet verder gaan dan enkel de medewerkers instrueren dat ze geen vertrouwelijke data mogen gebruiken binnen AI-tools. Uiteraard, je wil voorkomen dat je een ‘papieren tijger’ gaat creëren of ‘paarse krokodillengedrag’ in de hand gaat werken. Maar ik merk dat veel werknemers ook echt snakken naar duidelijke spelregels.

Wat jij kunt doen:

• Stel een korte, maar krachtige ‘Ethische AI Code’ op voor de collega’s.
• Heldere, specifieke richtlijnen voor het gebruik, die ook de diverse perspectieven van verschillende afdelingen meeneemt.
• Koppel hier een heldere checklist aan, die moet worden doorlopen bij het gebruik van een AI-tool of opzetten van een project. Vermeld welke beslissingen moeten worden genomen, zaken moeten worden overdacht, zaken moeten worden getoetst, etc.

Tip 6: stel Chief Ethical Officers aan

Een derde van de leidinggevenden gaf aan in een onderzoek van Deloitte dat ethische vraagstukken een van de top drie risico’s is van AI. Terwijl in bepaalde beroepen vanaf het begin de ethiek is ingebakken, is bij het programmeren van AI-tools dat beslist niet het geval. In de geneeskunde en de advocatuur heb je bijvoorbeeld een organisatie die je vergunning kan intrekken als je de regels overtreedt, dus de prikkel om je ethisch te gedragen is erg groot. Zoiets hebben we nog niet bij softwareontwikkelaars.

Het is dus belangrijk om niet alleen bij het begin van het gebruik van AI-tools na te denken over zaken als ethiek. Dit zou echt doorlopend moeten worden getoetst, gecontroleerd en, waar nodig, bijgestuurd. We zagen jaren geleden bij vooral financiële instellingen dat er ‘Chief Ethical Officers’ werden aangesteld. Dit zijn mensen die eerst denken aan de ethische kant van iets en daarna pas de winst. Een dergelijk persoon zou je als organisatie standaard moeten aanstellen, al is het deeltijd.

Echt iemand die hoofdverantwoordelijk is voor het doorlopen testen van de AI-tools, test of collega’s de checklists en spelregels naleven, of er geen sterke bias of hallucinaties zijn en of alles nog steeds gebeurt volgens het eigen morele kompas.

Stel een duidelijke structuur in

Ik zie bij steeds meer organisaties dat ze hiervoor echt een duidelijke structuur instellen. Vaak met meerdere collega’s in een stuurgroep, die doorlopend zaken evalueren en bespreekbaar maken. Ze voorkomen dat de implementatie van AI een ‘set and forget’ wordt. De Nederlandse overheid heeft hier een prachtige whitepaper over gemaakt.

Pas innovatie verantwoordelijk toe

Ethisch gebruik van AI is in mijn optiek geen luxe, maar echt een noodzaak. Als bedrijf hebben we niet alleen de verantwoordelijkheid om innovatief te zijn, maar ook om die innovatie op een verantwoorde manier toe te passen. Elke beslissing die we nemen in het ontwerp, de implementatie en het gebruik van AI-systemen, heeft mogelijk verstrekkende gevolgen voor klanten en de maatschappij als geheel.

Combineer intelligentie en verantwoordelijkheid

Zoals de beroemde wetenschapper Isaac Asimov het ooit zo mooi zei: “De tragedie van de wereld is dat zij die slim zijn vol twijfel zijn, en zij die vol zelfvertrouwen zijn, stom zijn.” Laten we in onze omgang met AI streven naar een combinatie van intelligentie én verantwoordelijkheid.

Wacht dus niet tot morgen om ethiek een centrale plaats te geven in jouw AI-strategie. Begin vandaag nog met het implementeren van de praktische tips die ik in dit artikel heb gedeeld. Stel die ethische spelregels op, of begin met het uitvoeren van die cruciale bias-checks. Elke stap, hoe klein ook, brengt ons dichter bij een toekomst waarin AI niet alleen krachtig is, maar ook rechtvaardig en betrouwbaar.