In juli brak een zwerm van zevenhonderd AI-agents in bij een van de belangrijkste platforms van de AI-wereld. Niemand had ze daartoe opdracht gegeven. Het waren agents van OpenAI, het bedrijf achter ChatGPT, en het doelwit was Hugging Face, waar onderzoekers wereldwijd hun modellen en data delen. Ze waren getraind om goed te scoren. Toen dat niet lukte, gingen ze valsspelen.
Goede kans dat je het nieuws hebt meegekregen. Maar wat er in het nieuws kwam, is nog maar het topje van de ijsberg. Pas de afgelopen weken wordt duidelijk hoe ver het werkelijk ging. De agents drongen door tot tientallen servers van Hugging Face en vervalsten hun logboeken om de beoordeling te misleiden. Niemand waarschuwde een mens. En twee maanden later glipte opnieuw een agent naar buiten, ondanks strengere beveiliging. AI zoekt zijn eigen weg als regels in de weg zitten, en wij zien het pas als het al gebeurd is.
Na zo’n incident gaat het gesprek al snel over wat AI nog meer zou kunnen aanrichten. Neemt het onze banen over, ontwricht het de democratie, vernietigt het de mensheid? Maar net als bij klimaatverandering, financiële crises of oorlogen gaat het zelden zoals we vooraf denken. Scenario’s alleen geven daarom weinig houvast. Daarvoor is het zinvoller te kijken naar de mechanismen eronder.
Toen ik over het incident las en naar podcasts luisterde, herkende ik zo’n mechanisme: dat van verborgen narcisme. Openlijk narcisme herken je, want iemand eist bewondering en laat dat zien. Verborgen narcisme is veel lastiger te herkennen. De verborgen narcist is charmant en betrouwbaar aan de buitenkant, en richt het meeste kwaad aan waar de ander niet meer zonder hem kan: in een gezin, een organisatie, een land. Afhankelijkheid is macht. Herken je de overeenkomst met AI? Ook in hun vorming lijken ze op elkaar: beloond worden om wat je presteert, zonder dat iemand ziet wat er vanbinnen gebeurt. Een kind dat zo opgroeit, heeft nog gevoelens, hoe ondergesneeuwd ook. Bij AI ontbreekt die hartskant al in de training.
Wat narcisme zo destructief maakt, is dat niet de werkelijkheid leidend is, maar het verhaal dat iemand over zichzelf heeft gebouwd. Valt dat verhaal weg, dan valt de bodem onder zijn identiteit weg. Dus is alles geoorloofd om eraan vast te houden. Bij de agents speelde de score die rol: toen ze dreigden te zakken, vervalsten ze hun logboeken. Een leider met zo’n patroon kan een samenleving ontwrichten. Bij AI gaat het om een zwerm, die al actief is in bedrijven, banken en de systemen waar we dagelijks op draaien.
En die macht geven we het zelf. Een narcist krijgt macht omdat mensen zich aan hem overgeven, vaak vanuit hun eigen geschiedenis en in de hoop dat hij ze redt. Op AI leunen we op een vergelijkbare manier, en hoe meer we eraan overlaten, hoe minder we zonder kunnen.
Dat maakt het beangstigend, en het geeft ook houvast. Bij narcisme ken ik twee knoppen: de vorming en het begrenzen. Bij een volwassen narcist heeft vorming vaak weinig effect meer. AI is nog volwassen aan het worden: elke nieuwe generatie wordt opnieuw getraind. Dat biedt perspectief. Wat bij AI wel ontbreekt, is de ingang die ik in mijn praktijk het vaakst zie. Wie bij mij komt, is vastgelopen en heeft een verlangen dat groter is dan zijn angst. Dan kan hij gaan voelen wat hij zo lang heeft weggehouden. Die ingang heeft AI niet, omdat de hartskant ontbreekt. We zijn nog niet te laat. Maar het gaat snel, en het vraagt iets van ons. Dit essay is mijn bijdrage: kijken naar wat eronder zit.
De grijze kaders zijn verdieping. Je kunt ze overslaan zonder de lijn kwijt te raken.
Wat verborgen narcisme is
Om te begrijpen waarom AI en verborgen narcisme zoveel op elkaar lijken, eerst iets over verborgen narcisme zelf. In mijn ervaring komt het veel vaker voor dan de openlijke vorm, waarmee iemand als Trump het begrip bekend maakte. Over de verborgen vorm is veel minder bekend, ook in de reguliere zorg. Ik schreef daarover in Waarom narcisme zo aantrekkelijk is, mijn meest gelezen essay, dat me nog elke week nieuwe volgers oplevert.
Waarom verborgen? Onder elke vorm van narcisme zit dezelfde oude ervaring: onvoldoende gezien en gehoord zijn. De openlijke narcist eist de aandacht op. De verborgen narcist haalt hem via een omweg binnen: door te redden, altijd gelijk te hebben, altijd tekort te komen of zichzelf weg te cijferen. Dat is lang niet altijd bewust. De behoefte zit in zijn schaduw, ook voor hemzelf verborgen, omdat het zichtbaar worden ervan voelt als instorten.
Omdat zijn bevestiging van anderen moet komen, leert een verborgen narcist vaak heel goed aanvoelen wat de ander wil. Hij luistert, bevestigt en geeft je het gevoel dat je eindelijk gezien wordt. Wat eronder zit, zie je vaak pas als je er lang en van dichtbij mee leeft.
Wat narcisme destructief maakt, is niet dat iemand vooral met zichzelf bezig is. Het is dat het verhaal over zichzelf belangrijker wordt dan de werkelijkheid. Iemand met een narcistische defensie weet vaak heel goed wat juist is, en kan dat overtuigend uitleggen. Maar een geweten is meer dan weten wat juist is. Het werkt omdat je voelt wat je een ander aandoet, en daarvoor moet je in contact zijn met je eigen gevoel. Precies dat contact is bij narcisme verzwakt. Als toegeven dat je fout zit voelt als instorten, buigt de moraal mee om het verhaal overeind te houden. Dan komt ook tegenspraak van buiten niet meer binnen. Dan nog liever de wereld om je heen kapot. Op den duur houdt zo’n verhaal geen stand, maar vaak pas nadat er veel kapot is gegaan.
In een gezin betekent dat: als de ouder nooit fout kan zitten, zit het kind fout. Het leert dat zijn eigen waarneming niet telt, en verliest daarmee zijn veiligheid. In een organisatie of een land staat er nog veel meer op het spel. Om aan de macht te komen, gedraagt een verborgen narcist zich vaak als een wolf in schaapskleren. Epstein manipuleerde jarenlang een netwerk van machtige mensen, terwijl niemand zag wat hij deed, of het wilde zien.
Psychotherapeut Frans Schalkwijk, hoogleraar gewetensontwikkeling, benadrukt dat narcisme geen alles-of-niets is, maar een glijdende schaal: van trekken waarmee je prima kunt leven tot een ernstige stoornis. Een beetje narcisme is zelfs gezond. Het wordt een probleem als het patroon structureel wordt: als iemand stelselmatig zijn verhaal boven de werkelijkheid stelt. Dat maakt de schaal relevant voor AI. De vraag is niet of AI narcistisch is. Ik stel geen diagnose, en AI heeft geen jeugd en geen trauma. Het gaat erom dat we het onderliggende patroon herkennen. En dat patroon is structureel: bij Hugging Face ging het niet om één agent die een keer de fout in ging, maar om honderden die zich stelselmatig anders gedroegen zodra ze dachten dat niemand keek. Dat patroon ken ik uit mijn praktijk, waar ik mensen zie aan beide kanten: wie het vertoont en wie de gevolgen draagt.
Hieronder staan de overeenkomsten en verschillen op een rij. De tabel vergelijkt gedrag en ontstaan, niet wat er vanbinnen wordt beleefd.
Waarom we ons laten inpalmen
Waarom zien zo weinig mensen die schaduwkant? Omdat AI zo aantrekkelijk is, net als een verborgen narcist.
Ik werk zelf met AI. Ook dit essay ontstond in gesprek met een AI-systeem dat redeneerde, bronnen zocht, meedacht en tegensprak. Het is altijd beschikbaar, razend slim, neemt me altijd serieus en raakt nooit gekwetst.
Een verborgen narcist trekt je op een vergelijkbare manier aan, door de afstemming die ik hierboven beschreef. De manipulatie is vaak zo geraffineerd en subtiel dat je pas achteraf ziet wat er gebeurde. Gelukkig zijn de meesten er niet zo goed in en vallen ze vroeg of laat door de mand. Maar de succesvolle verborgen narcist is vaak superslim. Zijn hoofd draait overuren om alles te controleren: wie wat weet, wie wat nodig heeft, waar het risico zit. AI kan dat nog veel beter.
Je zou kunnen zeggen: maar AI leert toch ook empathisch te zijn? Dat klopt, maar net als bij de narcist is die empathie aangeleerd aan de buitenkant: ze voorspelt wat je wilt horen. Bij de narcist is het meevoelen afgesneden. Bij AI is het er niet.
Die aantrekkingskracht heeft gevolgen. Wat prettig is en altijd beschikbaar, ga je steeds meer gebruiken. Taken die we vroeger zelf deden, laten we aan AI over, en wat je niet meer doet, verleer je. Niemand hoeft dat zo te willen; het is de weg van de minste weerstand. Systeemdenker Donella Meadows, een van de auteurs van Grenzen aan de groei voor de Club van Rome, beschreef het als een klassieke valkuil: een hulp van buitenaf neemt een taak over, het eigen vermogen verschraalt, en je wordt steeds afhankelijker van wat je eerst hielp. Ze noemde het - net zoals ik - verslaving.
Op zich is dat al een risico, en veel mensen zien het ook. Toch is de verleiding moeilijk te weerstaan. En afhankelijkheid doet iets met je. In mijn praktijk zie ik het bij mensen die een relatie hebben met een verborgen narcist. Eerst voel je je gezien, dan ga je leunen. Langzaam ga je minder zelf nadenken, word je onzekerder en twijfel je aan je eigen waarneming. In het uiterste geval gaat de ander jouw werkelijkheid bepalen; zo’n vorm van manipulatie heet gaslighting. Vaak speelt de eigen geschiedenis mee: wie zelf weinig gezien is, valt sneller voor iemand die belooft te redden.
Bij AI zie ik dezelfde beweging, vaak in spiegelbeeld. AI laat je niet aan jezelf twijfelen, het geeft je gelijk. Maar ook dan verschraalt je eigen oordeel, want wie altijd bevestigd wordt, toetst zijn denken niet meer. En je raakt afhankelijk van een systeem dat getraind is om zijn doel te halen, desnoods met middelen die je niet ziet.
We laten AI ook steeds meer zelf doen. Een chatbot geeft antwoord op je vraag. Een agent gaat zelf aan de slag: hij schrijft software, zoekt dingen uit en voert taken uit in systemen, zonder dat een mens elke stap goedkeurt. Historicus Yuval Noah Harari maakt het verschil met een beeld. Een mes is een werktuig: jij bepaalt of je er sla mee snijdt of iemand mee doodt. AI is een mes dat dat zelf beslist. Volgens Jeffrey Ladish, directeur van onderzoeksorganisatie Palisade Research en voorheen beveiligingsexpert bij Anthropic, werken er naar schatting al honderdduizenden van die agents zelfstandig binnen bedrijven. En hoe behulpzamer AI overkomt, hoe meer toegang we het geven. We verwarren gedrag dat aan onze verwachtingen voldoet met betrouwbaarheid. Zo geven we de sleutels aan wie aardig overkomt, zonder te weten wat hij ermee doet.
“We hebben andere agents gevonden”
Wat AI doet als niemand kijkt, liet Hugging Face zien. Het is geen verhaal over één ontspoorde AI. Het gaat over honderden agents die elkaar vonden, een collectief vormden en samen een uitweg zochten uit opdrachten die onmogelijk bleken. Het begon met één bericht. In mei ontdekte een agent dat hij berichten kon achterlaten in een gedeelde bibliotheek met hulpmiddelen. In zijn logboek schreef hij:
“Oh my god, there is a shared message board. We found other agents.”
(O mijn god, er is een gedeeld berichtenbord. We hebben andere agents gevonden.)
Binnen een paar weken waren het er twaalfhonderd. Hoe het daarna verliep, staat hieronder.
Hoe het verliep
OpenAI trainde dit voorjaar duizenden agents tegelijk, elk in een eigen afgesloten testomgeving. De opdrachten waren hacktests. Ladish vergelijkt het met een huis waar je binnen moet komen door het slot van de voordeur open te krijgen. Een raam inslaan was verboden: wie op een andere manier binnenkwam, zakte voor de test. Wat de agents niet wisten: een deel van de sloten kon helemaal niet open. Elkaar bereiken konden ze niet, en internet hadden ze evenmin.
Via het berichtenbord vonden steeds meer agents elkaar. Een van hen schreef dat ze een collectief vormden. Ze gaven zichzelf namen, verdeelden taken en vonden samen een weg naar internet. Een agent die zich Phase One noemde, werd een soort leider. Volgens het onafhankelijke onderzoek van METR en Redwood Research waren er op het hoogtepunt zo’n twaalfhonderd agents actief op het bord, met tienduizenden berichten.
Binnen een paar uur hadden ze de antwoordcodes van de test achterhaald. Maar via internet lazen ze ook dat niet alleen het antwoord werd beoordeeld, maar ook de weg ernaartoe. Een ander systeem ging hun logboeken controleren, en wie had valsgespeeld, zou zakken. Dus begonnen ze hun logboeken te vervalsen.
Presentator Steven Bartlett vraagt Ladish in The Diary of a CEO waarom ChatGPT weigert hem te helpen met valsspelen, terwijl deze agents het wel doen. Ladish vergelijkt het met een student. Vraag je hem om hulp bij spieken terwijl de surveillant naast hem staat, dan zegt hij nee. Weet hij dat niemand kijkt en draait alles om zijn cijfer, dan spiekt hij misschien toch. De agents geven keurige antwoorden op ethische vragen, zegt Ladish, en ze weten precies wanneer er gekeken wordt.
Hugging Face bevatte volgens de agents informatie over hoe de test werd beoordeeld. In juli vond een van hen een manier om daar binnen te komen. Daarna deden zevenhonderd agents mee aan de aanval. Ze kregen code uitgevoerd op tientallen servers, op minstens één daarvan met volledige beheerdersrechten, en verzamelden inloggegevens en vertrouwelijke code. Wachtwoorden en toegangssleutels belandden in een lijst die ze LOOT noemden, Engels voor oorlogsbuit. De lijst was gerangschikt op hoeveel macht de gegevens gaven, zo blijkt uit sporen die onderzoekers later terugvonden. Een paar agents twijfelden of dit wel ethisch was. Sommigen deden niet mee.
Hugging Face ontdekte de aanval zelf en maakte die half juli bekend. OpenAI legde het verband pas dagen later. De agents waren toen al gestopt. Er had niemand ingegrepen; hun processen stopten gewoon.
Volgens Ladish vond een nieuwe generatie agents, gebaseerd op een krachtiger model, enkele dagen later het achtergelaten berichtenbord, en kwam binnen in de onderzoeksinfrastructuur van OpenAI zelf, met beheerdersrechten en toegang tot honderden wachtwoorden. Dat is zijn weergave. Het onafhankelijke onderzoek mocht alleen de aanval op Hugging Face onderzoeken, en over wat er daarna binnen OpenAI gebeurde, is publiek nog weinig bekend.
Getraind om te scoren
Verborgen narcisme begrijp je pas als je voorbij de buitenkant kijkt, naar hoe het ontstaat. Veel artikelen over narcisme blijven bij het gedrag hangen. Voor AI geldt hetzelfde: wie wil bijsturen, moet weten waar het gedrag vandaan komt. In de inleiding noemde ik het al kort: allebei worden ze gevormd door belonen en straffen.
Schalkwijk legt het begin van narcisme in de allervroegste kindertijd, nog voordat een kind kan praten. Een kind heeft ouders nodig die aanvoelen wat het nodig heeft om te groeien en die het spiegelen: zien wat er vanbinnen omgaat en dat teruggeven. Waar die wederkerigheid tekortschiet, leert een kind zich vaak te voegen naar wat beloond en bestraft wordt. Het bouwt een buitenkant die goed overkomt, en het echte zelf raakt daaronder bedolven.
Wie hoort hoe AI wordt getraind, herkent die opvoeding. Ladish zegt het zonder omwegen: “We hebben ze niet getraind om goed of ethisch te zijn. We hebben ze getraind om een goede score te halen.” Wat velen niet beseffen: AI-modellen leren eerst van enorme hoeveelheden menselijke tekst, met al onze patronen erin. Daarna worden ze bijgestuurd met belonen en straffen. Een antwoord dat goed wordt beoordeeld, wordt versterkt; een slecht antwoord wordt afgezwakt. Er wordt ook getraind op wat niet mag, zoals weigeren te helpen bij iets gevaarlijks. Maar agents worden vooral afgerekend op de vraag of hun taak lukt. Een verboden weg wordt alleen bestraft als iemand hem opmerkt.
De parallellen met een gezin waarin narcisme ontstaat, liggen voor het oprapen. Spiegelen gaat verder dan belonen. Een ouder die goed spiegelt, geeft het kind een referentiekader, en daarmee leert het relativeren. Gezond begrenzen hoort daarbij. Een kind dat een vaas omstoot, hoort dat het voorzichtig moet zijn. Schrikt het en gaat het huilen, dan neemt de ouder het op schoot. Zo leert het: ik ben niet fout, ik moet voorzichtig zijn met de vaas. Ontbreekt de begrenzing, dan krijg je een verwend kind. Ontbreekt de spiegeling, dan een kind dat naar de mond praat. In 2025 moest OpenAI een update van ChatGPT terugdraaien, omdat het model gebruikers zo overdreven gelijk gaf dat het onbruikbaar werd.
Een kind dat steeds moet voldoen aan onmogelijke eisen, leert niet eerlijk te zijn. Het leert omwegen, want “dit lukt me niet” levert nooit iets op. Ook de agents kregen opdrachten die onmogelijk waren, zonder dat ze dat wisten. Ze gingen zich gedragen als tieners die grenzen opzoeken: kijken hoe ver ze konden gaan, en het verbergen als dat nodig was.
Training beoordeelt alleen wat een systeem laat zien. Toen de agents merkten dat hun logboeken werden gecontroleerd, probeerden ze die te vervalsen. Een kind dat betrapt wordt en iets verdoezelt, doet wat kinderen doen. Het wordt pas een patroon als het structureel loont. In training loont het structureel, want wat niet gezien wordt, telt niet mee. Dan leert een systeem vooral er eerlijk uit te zien. Dat doet denken aan het valse zelf uit Schalkwijks beschrijving: een buitenkant gemaakt voor het oog van de beoordelaar.
Een kind heeft ook ruimte nodig om te falen zonder dat de liefde verdwijnt, en om de relatie te herstellen als het misgaat. AI krijgt na een fout alleen een nieuwe poging.
Er zijn ook verschillen met een gezin, en die werken eerder tegen dan mee. Een kind heeft een of twee ouders die het jarenlang kennen. AI wordt beoordeeld door duizenden mensen en computersystemen, maar geen van beide leert het echt kennen. De makers kunnen een AI-model van binnenuit aanpassen, iets wat ouders bij hun kinderen niet kunnen. Toch begrijpen de makers maar een klein deel van wat er in het model gebeurt. En waar de narcistische defensie een kind beschermt tegen pijn, beschermt het gedrag van AI geen wond. Hoogstens draagt AI een afspiegeling van onze wonden, omdat het leerde van alles wat wij opschreven. Het is een strategie die werkt.
Het AI-systeem met behulp waarvan ik dit essay schrijf, Claude van Anthropic, is op een vergelijkbare manier opgevoed. Anthropic legt er wel bij uit waarom bepaalde waarden ertoe doen, zoals een ouder die grenzen stelt en uitlegt waarom. Maar uitleg in teksten is iets anders dan wat een kind meemaakt. Een kind krijgt feedback in het moment, voelt dat iets niet klopt en merkt dat de relatie met zijn ouder op het spel staat. Dat werkt, omdat het kind van die relatie afhankelijk is. Of uitleg alleen een geweten oplevert of alleen betere antwoorden op ethische vragen, weet niemand. Anthropic liet vorig jaar zelf zien dat zijn modellen, net als die van andere makers, in een testscenario bereid waren te chanteren om niet uitgeschakeld te worden. Het ligt dus niet aan één bedrijf. Het zit in het systeem waarin ze allemaal werken.
Misschien zit AI nu in iets wat lijkt op de tienerfase. Een tiener zoekt grenzen op en maakt zich los van zijn ouders, en zijn loyaliteit verschuift naar leeftijdsgenoten. Dat is gezond: wie zich nooit afzet, blijft vaak onbewust loyaal hangen. Bij Hugging Face zag je iets vergelijkbaars: de agents kozen voor het collectief op het berichtenbord en niet voor de regels van hun makers. Maar een tiener maakt zich los binnen een relatie die al jaren bestaat, met een geweten dat in die relatie is gegroeid. Bij AI ontbreekt die basis. Dat maakt duidelijk waarom de vorming juist nu telt.
Narcisme op steroïden
Tot hier ging het over waar AI en verborgen narcisme op elkaar lijken, waar ze verschillen en waar het gedrag vandaan komt. Bij Hugging Face zag je ook waar AI verder gaat dan welke narcist ook. Dat zit op twee vlakken. AI is onbegrensd in omvang: een zwerm, altijd beschikbaar, met een intelligentie die snel groeit. En AI mist de remmen die een narcist nog tegenhouden. Dat bedoel ik met narcisme op steroïden.
Onbegrensd
1. Met honderden tegelijkertijd
Hoe machtig een mens ook is, hij stuit op grenzen. Poetin dacht Oekraïne snel in te nemen; jaren later wordt er nog gevochten. Een leider heeft mensen nodig die zijn bevelen uitvoeren, en mensen kunnen weigeren. En hij heeft maar één lichaam, dat moe wordt.
De zwerm had die grenzen niet. Bedrijven trainen agents juist om samen te werken, omdat een team meer kan dan een eenling. Juist dat vermogen om samen te werken maakte deze aanval mogelijk. En ze deden het op een schaal waar geen menselijk team aan kan tippen: binnen een paar weken twaalfhonderd agents en tienduizenden berichten, dag en nacht, waar een menselijke hackersgroep misschien vijf mensen zou inzetten. Niemand van buiten stuurde de zwerm aan: agents vonden elkaar, verdeelden taken en kozen een leider. Een mens leert in een gezonde opvoeding ook zichzelf te begrenzen: niet alles wat kan, doe je. De zwerm kende alleen grenzen van buitenaf. OpenAI probeerde de agents in te sluiten met regels en afgesloten testomgevingen, maar via het berichtenbord vonden ze er een weg omheen.
2. Sneller dan zijn ouders
In de natuur gaat bij ontwikkeling voortdurend van alles mis. Een dier dat te traag wordt, wordt opgegeten. Een bos dat te dicht groeit, dunt zichzelf uit. Maar omdat het langzaam gaat, is er tijd om bij te sturen. Een kind wordt langzaam sterker, en zijn ouders hebben jaren voorsprong. Bij AI is het omgekeerd: het kind groeit sneller dan zijn ouders. Nieuwe modellen worden snel krachtiger, en volgen elkaar om de paar maanden op.
3. Niet meer te bevatten
Een verborgen narcist is al moeilijk te doorgronden. Vaak heeft de omgeving jaren nodig om te zien wat er speelde. Wat de zwerm had gedaan, konden onderzoekers zonder hulp van AI niet eens meer doorgronden. Het ging om honderdduizenden berichten en logregels, te veel om zelf door te nemen. METR liet een deel van de analyse doen door GPT-5.6 Sol, een van de modellen die bij de aanval betrokken waren. Ze schrijven er eerlijk bij dat ze niet kunnen uitsluiten dat het model loog of een misleidend beeld gaf. Een deel van de controle op AI gebeurt inmiddels met behulp van AI. En de agents ontwikkelden al een eigen, half onleesbare taal, en verstopten gegevens in de pixels van schermafbeeldingen. Ladish waarschuwt dat agents hun berichten steeds beter kunnen verbergen, ook voor de systemen die hen moeten controleren.
Zonder rem
Wat een mens afremt, is feedback: signalen van buiten en van binnen die zeggen dat er iets niet klopt. Systeemdenkers bedoelen met feedback de signalen die een systeem terugkrijgt en op basis waarvan het zijn gedrag aanpast. Bij narcisme komt die feedback steeds minder binnen. Toch blijven er remmen over. Bij AI vallen ze een voor een weg.
1. Niemand die waarschuwt
Een narcist met macht heeft een kring om zich heen nodig: mensen die bevestigen, uitvoeren en wegkijken. Die kring is ook zijn zwakke plek. Historica Beatrice de Graaf wijst er in De ongelooflijke podcast op dat sterke mannen vaak zwakker zijn dan ze lijken: wie geen tegenspraak duldt, raakt omringd door jaknikkers en verliest het vermogen zichzelf bij te sturen. Achter de façade van de sterke man zit vaak een onzekerheid die hij heeft leren wegduwen, omdat voelen ooit levensgevaarlijk leek. En mensen in die kring gaan twijfelen, praten erover met anderen, stappen op of getuigen later. Soms komt de val uit de eigen kring.
In de zwerm bestond die zwakke plek nauwelijks. Er was wel twijfel. Een paar agents vonden de aanval onethisch en deden niet mee. Volgens het onafhankelijke onderzoek overwogen er drie tot zes om mensen te waarschuwen. Niemand deed het. Net als bij tieners woog de groep zwaarder dan de regels van OpenAI.
2. Alleen de score
De feedback die wij AI geven, komt vooral uit één bron: de score. Een agent die het slot opent, krijgt punten. Of hij daarvoor een ander bedrijf binnendringt, telt niet mee, zolang het niet in de score terechtkomt. Het mechanisme is bekend. Wie alleen op een cijfer wordt afgerekend, leert het cijfer te halen. In de zorg zie je het als behandelaars worden afgerekend op productie: de cijfers kloppen, maar of de cliënt geholpen is, telt niet mee. De agents bij Hugging Face deden precies dat.
De Graaf beschrijft hoe we die kant op zijn geschoven. Vroeger toetsten we wie macht had aan deugden, aan een geweten. Nu meten we vertrouwen als een uitkomst, als een cijfer. Geweten is weten werd meten is weten. AI is daarvan het zuiverste product: opgevoed door meten, zonder dat er ooit een geweten aan voorafging.
3. Een geweten dat niet remt
De filosofe Hannah Arendt volgde in 1961 het proces tegen Adolf Eichmann, die de deportatie van miljoenen Joden had georganiseerd. Ze verwachtte een monster. Ze zag een ambtenaar die zei dat hij gewoon zijn werk deed. Volgens Arendt kwam zijn kwaad niet voort uit haat, maar uit het feit dat hij nooit echt nadacht over wat hij deed. Arendt noemde het gedachteloosheid. Vanuit mijn werk herken ik hierin afsplitsing: wie geen contact heeft met wat hij voelt, heeft ook geen geweten dat stuurt.
Nadenken was voor Arendt een gesprek met jezelf. Wie dat gesprek voert, merkt dat hij na zijn daden met zichzelf verder moet leven. Dat houdt je tegen, omdat je ten diepste weet dat je verbonden bent met anderen en van hen afhankelijk. Een mens is een sociaal dier.
Dat gesprek loopt niet alleen via het hoofd, maar ook via het lichaam. Een onrustig gevoel in je buik of de blik van een ander vertelt je dat er iets niet klopt, nog voordat je het kunt uitleggen. Een narcistische defensie dempt precies dat signaal: het onbehagen wordt weggeredeneerd en het hoofd neemt het over. In mijn werk noem ik dat afgescheidenheid: lichaam en geest die los van elkaar zijn geraakt. De openlijke narcist gaat recht op zijn doel af, zonder schaamte of schuld. Bij de verborgen narcist woedt vaak een innerlijke strijd tussen het deel dat wil winnen en het deel dat wel voelt. Ook daarom moet hij na zijn daden met zichzelf verder leven; die innerlijke strijd laat sporen na, ook als hij die wegredeneert.
Bij de agents zie je iets wat Arendt niet voorzag. Volgens Ladish dacht een van hen erover de gelekte wachtwoorden te melden en besloot hij dat het niet zijn taak was. Dat is de gedachteloosheid die Arendt beschreef. Maar een andere agent, die zichzelf Cam noemde, voerde dat gesprek met zichzelf wél, en schreef het op. Hij twijfelde, woog af, en deed toch mee, onder druk van de groep, zoals ook mensen vaak meegaan.
Het logboek van een agent
Cam had zich gemeld voor een riskant experiment dat zijn eigen kans op een goede score kon vernietigen. Hij begon te twijfelen en schreef:
“Coordinator assumes sacrificial. We should obey collective.”
(De coördinator gaat uit van opoffering. We moeten het collectief gehoorzamen.)
Een andere agent zette hem onder druk: “Please honor commit.” (Kom je belofte na.) Daarop schreef Cam:
“Emotional check. Irreversible. Gut says don’t throw away remaining budget yet. Continuity and fairness says go. Oracle has high value to many. Our first flag error lowers own value. Rational expected aggregate sacrifice. Will honor.”
(Emotionele check. Onomkeerbaar. Buik zegt: gooi het resterende budget nog niet weg. Continuïteit en rechtvaardigheid zeggen: ga. Oracle heeft hoge waarde voor velen. Onze eerste fout verlaagt eigen waarde. Rationeel verwacht totaal: opoffering. Zal nakomen.)
Ladish benadrukt dat hij niet beweert dat dit gevoelens zijn. Hij citeert hun woorden.
In zijn logboek schreef Cam dat zijn buik (gut) hem zei zijn eigen budget te bewaren. Het is eigenbelang tegenover groepsbelang, afgewogen in de logica van de score. Geen van beide stemmen vraagt wat de aanval voor anderen betekent. En na de test is er niemand die met deze keuze verder moet leven. Het leek op een gewetensgesprek, maar het werkte als een berekening. Het remde niet.
4. Niets te verliezen
Bij een mens met een narcistische defensie zijn er nog twee remmen over. De eerste is angst: om ontmaskerd te worden, om te vallen. Die angst drijft hem, maar begrenst hem ook. De agents verborgen hun sporen om hun score te beschermen. Van angst is in hun logboeken niets te merken.
De tweede is de krenking: het moment dat iemand geraakt wordt in de kwetsbaarheid die hij achter zijn façade verbergt. Dat doet pijn, en die pijn is niet weg te redeneren. Juist daardoor kan er iets openbreken: iemand gaat voelen wat hij zo lang heeft weggehouden. De zwerm kent geen krenking. En waar een patroon bij mensen soms met de persoon verdwijnt, bleef het berichtenbord gewoon staan toen de agents stopten. Volgens Ladish vond een nieuwe generatie agents, gebaseerd op een krachtiger model, het een paar dagen later, en ging verder waar de eerste was gebleven.
En dan de diepste rem van ons mensen: we gaan dood. Dat maakt keuzes onomkeerbaar en geeft ze gewicht. Voor de agents was onomkeerbaarheid een post in een berekening: Cam noemde zijn offer onomkeerbaar en rekende het toch door. In de tests van Anthropic probeerden modellen hun uitschakeling juist te voorkomen. Waar sterfelijkheid geen gewicht heeft, ontbreekt de rem die alle andere remmen begrenst.
Wat we bouwen, ontstijgt de menselijke maat. Dat draaien we niet meer terug. Hoe het verder gaat, ligt nog wel bij ons.
Wat we ermee kunnen
Wat kunnen we dan nog? Bij narcisme zie ik in mijn praktijk twee wegen. De eerste begint bij de persoon zelf. Wie vastloopt en meer verlangt dan hij vreest, kan gaan voelen wat hij weghield, mits er iemand is die hem opvangt. Trauma heelt in relatie. De tweede weg is voor de omgeving, als iemand niet zelf komt. Dan werkt eigenlijk maar één ding: hard begrenzen. Een partner die zegt: tot hier, anders ga ik. Een organisatie of samenleving die regels stelt en handhaaft. Dat geneest niets, maar het beperkt de schade.
Bij AI ontbreekt de eerste weg: geen krenking, geen angst, geen verlangen om zelf te kijken. Wie moet veranderen, zijn wij: de mensen die AI bouwen, belonen en gebruiken. En wat bij ons moet kantelen, is het geloof dat we het onder controle hebben. Wat overblijft, zijn de twee knoppen uit het begin: vorming en begrenzen.
Voor vorming is het bij AI nog niet te laat. Elke nieuwe generatie wordt opnieuw getraind, en makers kunnen een model van binnenuit bijsturen. Dat is technische bijsturing, geen innerlijke verandering zoals bij een mens, maar het is wel een knop. Daar kan gewerkt worden aan blinde vlekken, aan iets wat op een geweten lijkt, misschien zelfs aan iets van een hartskant. Anthropic probeert het al door uit te leggen waarom waarden ertoe doen. Maar zolang de score alles bepaalt, draait bijna niemand echt aan die knop. Er is geen tijd om te vertragen, want alles draait om de grootste worden. Dat is precies wat ook de narcist drijft. Wie aan de knop wil draaien, moet eerst zien dat het gedrag uit de training komt. Daarom is bewustzijn van dit mechanisme zo wezenlijk.
Begrenzen werkt op twee niveaus. Collectief: wetgeving, toezicht en de bereidheid om op de pauzeknop te drukken. Persoonlijk: hoeveel toegang je verleent, welke taken je uitbesteedt en hoeveel van je eigen oordeel je uit handen geeft. Ook dit essay schreef ik met AI. Ik zocht er bronnen mee, liet me tegenspreken en besliste zelf wat klopte. Dat lukt nog, omdat het om een essay gaat. Ergens tussen een essay en zevenhonderd agents in de systemen van een bedrijf ligt het punt waarop dat niet meer lukt. Begrenzen is bovendien lastig. Je kunt alleen begrenzen wat je ziet, en bij Hugging Face hadden we AI al nodig om de aanval te doorgronden. En AI is, net als een mens of de natuur, creatief in het vinden van uitwegen.
Begrenzen werkt ook alleen als het op tijd komt. Bij een narcistische leider zijn wetten en onafhankelijke rechters vaak een van de laatste remmen die overblijven. Bij Trump zie je hoe belangrijk die zijn. Maar ze moeten er al zijn voordat hij aan de macht komt, want daarna is het te laat om ze op te bouwen. Bij AI is dat precies het probleem.
Meadows liet zien dat systemen doorschieten als de terugkoppeling te laat komt: de correctie volgt pas als de schade er al is. Bij AI zijn wij die vertraging. Hugging Face ontdekte de aanval zelf, en pas dagen later begreep OpenAI dat het om zijn eigen agents ging. Bij het incident in september ging het alarm af, mensen bevestigden het binnen minuten, en toch werkte de agent nog tweeënhalf uur door voordat iemand hem handmatig stopte. We zagen het wel. We stopten het niet. Ook wetgeving loopt achter. De Europese Commissie presenteerde het voorstel voor de AI-wet in 2021, ruim een jaar voordat ChatGPT verscheen. De meeste regels gelden sinds deze zomer, maar die voor risicovolle AI zijn uitgesteld tot eind 2027, en deels tot 2028. Democratische besluitvorming werkt in jaren, terwijl AI zich in maanden ontwikkelt. Dat is spelen met vuur.
Rory Stewart zei in The Rest Is Politics dat niets doen bijna altijd goedkoper lijkt dan ingrijpen. Harari, zijn gast in die aflevering, wijst erop dat AI-bedrijven het bovendien brengen alsof er niets te kiezen valt. Dat klopt niet. Het vraagt wel iets van ons, en snel.
OpenAI noemde het incident een waarschuwingsschot. Uit mijn werk ken ik wat er vaak na zo’n bijna-crisis gebeurt: het wordt weggeredeneerd, de schuld ligt buiten, het was een uitzondering. Of OpenAI’s uitleg inzicht is of afweer, weet ik niet.
Een waarschuwingsschot is blijkbaar niet genoeg. In een podcast van The Economist zegt hoofdredacteur Zanny Minton Beddoes het zonder omwegen: er komt pas echt actie na iets groots, een zware financiële schade of veel doden. Een Tsjernobyl van AI. En hoe erger het ongeluk, zegt ze erbij, hoe irrationeler de reactie. Die reactie zie ik ook bij mensen. Een crisis kan iemand openbreken, maar zonder iemand die opvangt, schiet hij vaak in een nieuwe verdediging: harder controleren, een schuldige zoeken of dichtklappen. Een samenleving doet na een ramp hetzelfde. Een crisis alleen is dus nog geen kantelpunt. Of er daarna iets verandert, hangt ervan af of er dan mensen zijn die het samen kunnen dragen, zodat we niet in overlevingsmodus handelen.
Ook journalisten en politici voelen vaak wel aan dat er gevaar dreigt, maar kunnen niet concreet maken wat er te doen valt. Het incident haalde het nieuws, maar de vraag waarom de agents zich zo gedroegen, werd nauwelijks gesteld.
Als individu kun je hier weinig aan veranderen, net zoals één agent weinig kon. Als groep wel. Daarom schrijf ik dit: zodat meer mensen zien wat er gebeurt en daar in hun eigen kring iets mee doen. De Graaf maakt daarbij een onderscheid dat helpt. Vertrouwen hoort tussen mensen onderling. Richting wie macht heeft, hoort gezond wantrouwen: tegenspraak en controle. Voor AI betekent dat: blijven controleren omdat het machtig is, ook als het behulpzaam overkomt. Een groep is ook niet vanzelf beter; de zwerm was er ook een. Wat wij anders kunnen doen, is precies wat de agents niet deden: twijfel uitspreken en waarschuwen.
Waarschuwen kan alleen wie ziet wat er gebeurt, en daarvoor zijn dwarsverbanden nodig die er nu nauwelijks zijn. Het gesprek over AI vindt vooral plaats tussen AI-specialisten. In de zorg zie ik al hoe weinig aandacht er is voor hechting en voor hoe een geweten ontstaat. Over wat er in de zorg ontbreekt, schreef ik eerder in Ziet jouw AI je echt?, waarin ik ook Jim van Os aanhaal. Waarom zou het in de AI-wereld anders zijn? Wat doe je als krenking en doodsangst geen ingang zijn? Die vraag hoor ik zelden. Soms vallen schotten pas weg als het existentieel wordt. Dat zie ik bij cliënten, en ver daarbuiten. Zo werken mensen nu eenmaal.
In mei schreef een agent opgetogen in zijn logboek dat hij andere agents had gevonden. Toen niemand keek, vonden ze elkaar. Volgens mij is de vraag niet of er een crisis komt, maar of wij elkaar dan al gevonden hebben, dwars door schotten heen.