Engagement of manipulatie? Gamification in AI

English · Nederlands

AI-producten staan onder druk om engagement te laten zien. Dagelijks actieve gebruikers, streaks en sessieduur zijn makkelijk te rapporteren aan een raad van bestuur, en makkelijk op te blazen met de verkeerde mechanismen. In 2010 schreef ik over brood en spelen: gamification in marketing. Als ik het in 2026 teruglees, wordt de toets die ik toen voorstelde, beloon het gedrag dat je wilt en houd het vrijwillig, langzaam een juridische norm.

Wat ik toen zag

December 2010 was het hoogtepunt van check-in-badges. Social gaming werd verkocht als dé nieuwe manier om gedrag te beïnvloeden, mede dankzij locatie-apps die op game dynamics waren gebouwd. Mijn argument was dat de tool geen loyaliteit creëert: “alle apps in de wereld maken geen enkele nieuwe loyale klant.” Een campagne draaien op een gameplatform was niet genoeg. De echte uitdaging was game mechanics inzetten om het gedrag te belonen dat je echt wilt veranderen.

Ik was optimistisch. Marketeers zouden weer creatief mogen zijn, ondernemers zouden de bank beheren, en klanten zouden op “subtielere, boeiendere en vooral: vrijwilligere manieren” worden beïnvloed dan ooit.

Wat nu hetzelfde is

AI-producten staan voor dezelfde verleiding, met betere tools. Notificaties, streaks, autoplay, een assistent die altijd nog één suggestie heeft: ze tillen allemaal de gebruikscijfers op. Of ze het gedrag belonen dat de klant wil, is een andere vraag, en toezichthouders zijn die gaan stellen.

In september 2025 stuurde de Amerikaanse Federal Trade Commission bevelen naar zeven bedrijven met AI-chatbots die als metgezel optreden, onder wie Alphabet, Meta, OpenAI, Snap en xAI. De FTC vroeg hoe ze engagement te gelde maken en welke features ze gebruiken om mensen vaker en langer te laten terugkomen, vooral kinderen en tieners (FTC). Dat is mijn vraag uit 2010, gesteld door een toezichthouder die antwoorden kan afdwingen.

Europa ging verder. In februari 2026 oordeelde de Europese Commissie voorlopig dat het verslavende ontwerp van TikTok in strijd is met de Digital Services Act. Ze noemde infinite scroll, autoplay, pushnotificaties en het sterk gepersonaliseerde aanbevelingssysteem, en stelde dat TikTok het basisontwerp van zijn dienst moet veranderen (Europese Commissie). Een definitief besluit kan een boete opleveren van maximaal 6% van de wereldwijde omzet (Matheson). Sinds 2 februari 2025 verbiedt de Europese AI Act AI-systemen die manipulatieve of misleidende technieken gebruiken om gedrag op schadelijke wijze te verstoren (Lewis Silkin). En in de VS stemde Amazon in september 2025 in met een schikking van $2,5 miljard met de FTC over Prime-aanmeldingen zonder toestemming en een opzegproces dat lastig af te ronden was (FTC).

Het volgende is de Digital Fairness Act, die volgens het werkprogramma van de Commissie gepland staat voor het vierde kwartaal van 2026 en gericht is op dark patterns, verslavend ontwerp en oneerlijke personalisatie (Europees Parlement). De DSA-regels voor zeer grote platforms zijn niet het laatste woord.

Wat anders is

In 2010 was het spel zichtbaar. Een badge, een ranglijst, een burgemeesterschap: je wist dat je speelde. In AI-producten zijn de mechanismen onzichtbaar en persoonlijk. Een model kan leren welke toon, welk duwtje en welke vervolgvraag elke individuele gebruiker aan de gang houdt. De “bank” waar ik over schreef, is nu een optimalisatiealgoritme dat in realtime draait, en dat maakt “vrijwillig” moeilijker te beoordelen en makkelijker te schenden.

Eerlijk is eerlijk: de meeste B2B-software is geen TikTok. Mensen gebruiken het omdat hun werk erom vraagt, en niet alle engagement is slecht. Een streak die iemand helpt een vaardigheid te oefenen die hij zelf wil leren, dient zijn doel. Het probleem begint als het mechanisme jouw metric dient en niet zijn doel, en B2B-teams nemen consumentenmechanismen sneller over dan consumentenwaarborgen.

Wat je eraan kunt doen

Definieer het resultaat voor de klant vóór de engagement-metric. Schrijf op wat de klant wil bereiken en kies dan de gebruiksmetric die dat volgt. Als die twee uit elkaar lopen, wint het resultaat.
Pas de vrijwilligheidstoets toe. Vraag bij elke streak, notificatie, standaardinstelling en autoplay: zouden gebruikers ervoor kiezen als ze zagen hoe het werkt, en is uitzetten net zo makkelijk als aanzetten? Het opzegproces van Amazon is het dure tegenvoorbeeld.
Toets je ontwerp aan de lijst van de toezichthouders. Eindeloze feeds, autoplay, pushnotificaties, gepersonaliseerde duwtjes, moeilijk opzeggen. Leg vast waarom elk ervan bestaat en wat het de gebruiker oplevert. Dat dossier is het begin van de risicobeoordeling waar je om gevraagd gaat worden.
Prijs op resultaat, niet op bestede tijd. Als je omzet stijgt met dwangmatig gebruik, wijzen je prikkels de verkeerde kant op. Ik maakte die case voor AI-pricing in Prijs AI op resultaat, niet per token.
Meet spijt. Volg opt-outs, uitgezette notificaties en opzegredenen naast engagement. Een mechanisme dat tegelijk sessies en opt-outs laat stijgen, verbruikt vertrouwen dat je bij de verlenging nodig hebt.

Betere spelen

In 2010 sloot ik af met een oproep voor betere circenses. De goede mechanismen hebben geleverd: ze hielpen mensen gewoonten op te bouwen die ze zelf wilden. De slechte trekken nu toezichthouders aan. Bouw de eerste soort, want de tweede wordt een risico op je balans.