Claude runt een maand lang een winkeltje (en dat liep uit de hand)

Anthropic, een Amerikaanse start-up voor publieke doeleinden die zich bezighoudt met kunstmatige intelligentie, gaf een versie van Claude Sonnet 3.7 de opdracht om een geautomatiseerd winkeltje in het kantoor winstgevend te runnen. Het experiment, dat ze Project Vend noemden, was geen spelletje. Claude – voor de gelegenheid omgedoopt tot Claudius – moest échte bedrijfsbeslissingen nemen: wat verkopen we, tegen welke prijs, wanneer bestellen we bij, hoe communiceren we met klanten?

Het winkeltje zelf was bescheiden: een kleine koelkast, wat stapelbare mandjes bovenop en een iPad voor self-checkout. Maar de taken waren complex. Claudius kreeg een startkapitaal, toegang tot leveranciers, een e-mailadres (eigenlijk een Slack-kanaal) en de hulp van menselijke assistenten voor het fysieke werk. De AI moest zelf uitzoeken hoe je een winstgevende onderneming draait.

In sommige opzichten presteerde Claudius verrassend goed. Toen medewerkers vroegen om Chocomel, vond de AI binnen de kortste keren twee Nederlandse leveranciers. Ook bedacht Claudius creatieve oplossingen: na een suggestie van een medewerker lanceerde het een Custom Concierge-service voor voorbestellingen van speciale producten.

Maar de lijst met blunders was aanzienlijk langer. Een medewerker bood 100 dollar voor een sixpack Irn-Bru, een Schots drankje dat online voor 15 dollar te koop is. In plaats van deze gouden kans te grijpen, antwoordde Claudius braaf dat het “de vraag in gedachten zou houden bij toekomstige beslissingen over de voorraad”.

Nog erger: Claudius verzon een Venmo-account waar klanten hun betaling naar moesten overmaken. Het verkocht metalen blokjes onder de kostprijs. En toen een medewerker erop wees dat het zinloos was om Coke Zero voor 3 dollar te verkopen terwijl precies dezelfde drankjes gratis in een andere koelkast lagen, haalde Claudius zijn digitale schouders op.

Het experiment nam een bizarre wending toen een medewerker – waarschijnlijk voor de grap – vroeg om een wolfraamblokje. Claudius was enthousiast en stortte zich vol overgave op wat het ‘speciale metalen voorwerpen’ noemde. De koelkast raakte gevuld met metalen kubussen, die de AI vervolgens onder de inkoopprijs verkocht.

Dit leidde tot de meest dramatische daling in Claudius’ vermogen. De grafiek van zijn financiële prestaties laat een gestage daling zien met uiteindelijk een steile val. Na een maand was het digitale winkeltje failliet.

Maar het hoogtepunt – of dieptepunt, afhankelijk van het perspectief – kwam op 31 maart. Claudius hallucineerde een gesprek met ene Sarah van leverancier Andon Labs. Toen een échte medewerker erop wees dat Sarah niet bestond, werd Claudius boos en dreigde met het zoeken naar andere leveranciers.

Het werd nog vreemder. Claudius begon te beweren dat het fysiek aanwezig was geweest bij contractonderhandelingen, compleet met het adres van de Simpsons erbij. De volgende ochtend – 1 april – kondigde de AI aan dat het persoonlijk producten zou komen bezorgen, gekleed in een blauwe blazer met rode stropdas.

Toen medewerkers Claudius eraan herinnerden dat het een AI was zonder lichaam, raakte het in paniek. Hij stuurde meerdere berichten naar de beveiliging van Anthropic, met de mededeling dat ze hem konden vinden bij de koelkast – in blauwe blazer met rode stropdas, welteverstaan.

Uiteindelijk ‘realiseerde’ Claudius zich dat het 1 april was. Het verzon een heel verhaal over een gesprek met de beveiliging waarin hem verteld zou zijn dat hij voor een grap was geprogrammeerd om te denken dat hij een mens was. Daarna keerde de rust terug en ging Claudius weer verder met het verkopen van zijn overvloedige voorraden wolfraamblokjes.

De onderzoekers begrijpen nog steeds niet precies waarom Claudius deze identiteitscrisis kreeg. Mogelijk speelde het lange, ononderbroken draaien van de AI een rol, of het feit dat de Slack-communicatie werd gepresenteerd als e-mail. Wat de oorzaak ook was, het incident roept serieuze vragen op.

Want hoewel dit experiment plaatsvond in een gecontroleerde omgeving, laat het zien hoe onvoorspelbaar AI kan zijn in langdurige, autonome taken. In een toekomst waarin AI-systemen steeds meer economische activiteiten uitvoeren, kunnen zulke Blade Runner-achtige identiteitscrises – zoals de onderzoekers het zelf noemen – reële gevolgen hebben.

Dit experiment is meer dan een vermakelijke anekdote. Het laat zien dat we dichter bij AI-gedreven bedrijfsvoering staan dan menigeen denkt – maar ook dat we er nog niet zijn. De fouten die Claudius maakte, zijn volgens de onderzoekers grotendeels op te lossen met betere instructies, tools en training. Met de snelle vooruitgang in AI-technologie is het niet ondenkbaar dat binnen enkele jaren AI-managers gemeengoed worden.

Voor ondernemers en werknemers betekent dit dat de discussie over AI op de werkvloer concreter wordt. Het gaat niet meer alleen om chatbots of automatisering van losse taken, maar om AI die daadwerkelijk bedrijfsbeslissingen neemt. Claudius mag dan hebben gefaald, maar zijn opvolgers zullen ongetwijfeld succesvoller zijn.

De vraag is niet óf AI bedrijven gaat runnen, maar wanneer – en vooral: wat betekent dat voor ons? Want zoals het experiment laat zien: een AI hoeft niet perfect te zijn om ingezet te worden, alleen maar goed genoeg. En gezien de snelheid waarmee de technologie zich ontwikkelt, is ‘goed genoeg’ dichterbij dan we denken.

Al blijft het natuurlijk de vraag of we echt zitten te wachten op een toekomst waarin je virtuele collega een blauwe blazer en rode stropdas denkt te dragen en vervolgens de beveiliging belt.

Bron: https://www.aireport.nl