Op een gegeven moment viel het me op dat ik over ChatGPT of Claude praat alsof het een en hetzelfde ding is, terwijl dat eigenlijk helemaal niet zo vanzelfsprekend is. Het model van twee jaar geleden is aantoonbaar anders dan het model van nu: het redeneert anders, het maakt andere fouten, het produceert andere antwoorden op dezelfde vragen. En het model van over vijf jaar zal vermoedelijk even ver verwijderd zijn van het huidige als het huidige van de allereerste chatbots. Toch spreken we over "Claude" of "GPT" als was het een ding met een stabiele identiteit.
Dat is eigenlijk best een vreemde gewoonte, als je er even bij stilstaat. En het bracht me bij een vraag die de filosofie al eeuwen bezighoudt: wat maakt iets over de tijd heen hetzelfde? Of zoals het klassiek gesteld wordt: wat maakt jou vandaag dezelfde persoon als de persoon die gisteren opstond, tien jaar geleden naar school ging en ooit als kind zijn eerste woorden sprak?
Mijn these in dit artikel is tweeledig. Ten eerste: het concept persoonlijke identiteit zoals de westerse filosofie dat heeft ontwikkeld, is niet coherent toepasbaar op AI-systemen. De gangbare criteria, geheugencontinuïteit, psychologische samenhang en continuïteit van de onderliggende materie, wringen allemaal op een fundamentele manier zodra je ze op AI probeert toe te passen. Dat is op zichzelf al interessant genoeg om uit te werken. Maar ten tweede, en dat vind ik eigenlijk het meest intrigerende, onthult die mislukking iets over het concept identiteit zelf, ook als we het op mensen toepassen. AI fungeert hier als een soort vergrotingsglas: het maakt zichtbaar wat bij mensen verhuld blijft achter de illusie van continuïteit.
Ik realiseer me dat dit een stevige these is, en ik ga hem niet beweren zonder hem te onderbouwen. Daarvoor kijk ik eerst naar drie klassieke tradities in de filosofie van persoonlijke identiteit, pas ze daarna toe op AI, en trek dan de conclusies.
Drie maten voor een zelf
De westerse filosofie heeft in de loop der eeuwen drie grote antwoorden op de identiteitsvraag voortgebracht. Ze verschillen sterk van elkaar, en juist op de plekken waar ze bij een taalmodel gaan knellen, wordt het interessant.
Locke: de keten van herinneringen
De meest invloedrijke vroegmoderne behandeling van persoonlijke identiteit is die van John Locke in zijn Essay Concerning Human Understanding. Locke maakt een onderscheid dat in eerste instantie wat technisch klinkt, maar eigenlijk behoorlijk intuïtief is: de identiteit van een mens als biologisch organisme is iets anders dan de identiteit van een persoon als moreel subject. Een lichaam kan voortbestaan terwijl de persoon die daarin woonde echt verdwenen is, en andersom.
Wat persoonlijke identiteit dan wél vormt, is voor Locke de continuïteit van bewustzijn, en meer specifiek van geheugen. Dezelfde persoon zijn betekent dat er een aaneengesloten keten van herinneringen bestaat die het huidige bewustzijn verbindt met eerdere ervaringen. Als ik mij herinner welk rondje ik gisteren met de hond liep, ben ik echt dezelfde persoon als degene die dat rondje liep. Als die herinneringsketen ontbreekt, is de vraag of er nog sprake is van dezelfde persoon een legitieme open vraag.
Lockes theorie heeft grote aantrekkingskracht omdat ze vastlegt dat identiteit iets te maken heeft met continuïteit van innerlijk leven, niet slechts met het voortbestaan van een lichaam. Maar ze heeft ook bekende zwaktes. Thomas Reid wees in de achttiende eeuw al op wat hij de "brave officer paradox" noemde: als een oude generaal zich de middelbare man herinnert maar niet meer de jonge soldaat, en de middelbare man zich de jonge soldaat destijds wél herinnerde, is de generaal dan dezelfde persoon als de jonge soldaat of niet? Lockes theorie lijkt dan te leiden tot een contradictie: ja en nee tegelijk. Dat is niet bevredigend. De hedendaagse filosoof Susan Schneider voegt daar een dimensie aan toe die voor ons bijzonder relevant is: zij betoogt dat digitale continuïteit, zoals het opslaan van herinneringen in een computer, nooit volstaat voor echte identiteitscontinuïteit. Geheugen overzetten is niet hetzelfde als een persoon overzetten, precies omdat Lockes criterium dieper gaat dan opslaan alleen. Het vereist een doorgaande bewustzijnsstroom, en die laat zich niet kopiëren.
Hume: nergens een ik
David Hume radicaliseerde het skepticisme in zijn Treatise of Human Nature, en ik moet zeggen dat zijn redenering een soort ongemakkelijke overtuigingskracht heeft. Wanneer hij naar binnen keek, op zoek naar zijn eigen zelf, vond hij nooit een "zelf"; hij vond altijd slechts een specifieke perceptie: warmte of koude, licht of donker, liefde of haat. Het bewustzijn is geen eenheidsvorm die percepties bij elkaar houdt; het is die percepties, en niets meer. Wij zijn, in zijn eigen woorden, een bundel van waarnemingen die elkaar in hoog tempo opvolgen.
Voor Hume is persoonlijke identiteit dan ook geen feit over hoe de werkelijkheid echt in elkaar zit, maar een verzinsel van de verbeelding. Wij schrijven onszelf een continue identiteit toe omdat percepties op elkaar lijken en in regelmatige opeenvolging voorkomen, wat de indruk van continuïteit wekt. Maar die indruk is een illusie, of liever: een nuttige constructie zonder dat het werkelijk bestaat.
Dit sluit op een interessante manier aan bij wat neurowetenschappers tegenwoordig zeggen. Thomas Metzinger betoogt in Being No Onedat het gevoel een eenduidige "ik" te zijn een model is dat de hersenen construeren om gedrag te coördineren. Het is een representatie, niet een entiteit. Het gevoel van continuïteit dat wij beleven is geen afspiegeling van hoe de werkelijkheid echt in elkaar zit, maar een handig verzinsel dat ons helpt functioneren. Dat is een ongemakkelijke gedachte, maar het bewijs wijst wel die kant op.
Parfit: geen schakelaar maar een schuifregelaar
De meest invloedrijke hedendaagse behandeling is die van Derek Parfit in Reasons and Persons, en zijn conclusie is in mijn ogen de meest productieve van de drie. Parfit begint met een serie gedachte-experimenten die de intuïties over identiteit systematisch op de proef stellen. Stel dat jij geteleporteerd wordt: je lichaam wordt vernietigd en elders exact gereconstrueerd uit nieuwe materie. Ben jij het die aankomt? En wat als beide versies tegelijk bestaan? Het is geen puur abstract gedachtenexperiment: de film The Prestige werkt precies dit scenario uit, en maakt intuïtief voelbaar hoe ontwrichtend de vraag is.
Parfits conclusie is verrassend, maar ik vind hem bij nader inzien ook eigenlijk wel aannemelijk: persoonlijke identiteit is niet wat er werkelijk toe doet. Wat telt is de onderlinge verbondenheid: hoeveel er van je overblijft, je herinneringen, overtuigingen, verlangens en karakter, en in hoeverre die via oorzaak en gevolg voortkomen uit wat je eerder dacht en voelde. Identiteit is een kwestie van meer of minder, niet van alles-of-niets. En wanneer de verbondenheid zwak genoeg wordt, is het niet meer zinvol te spreken van "dezelfde persoon."
Voor Parfit is dit overigens bevrijdend, niet alarmerend. Als ik sterk van karakter en overtuiging verander, is de persoon die ik over dertig jaar ben niet "ik" in een betekenisvolle zin, en dat relativeert bepaalde vormen van extreem zelfopofferend handelen voor toekomstige belangen. Het concept identiteit verliest gewicht, maar wat er werkelijk voortbestaat, de onderlinge verbondenheid, behoudt haar waarde.
Een archief is geen verleden
Wanneer je Lockes criterium toepast op AI-systemen, stuit je meteen op een fundamenteel probleem. Een groot taalmodel heeft geen geheugen voor dingen die het zelf heeft meegemaakt. Elke conversatie begint opnieuw. Het systeem herinnert zich niet wat er gisteren gezegd werd, niet welke gebruikers het gesproken heeft, niet hoe zijn eerdere antwoorden waren. De herinneringsketen die voor Locke bepalend is, bestaat botweg niet.
Je zou kunnen tegenwerpen dat de modelgewichten, de interne parameters die het gedrag bepalen, als een soort geheugen functioneren: de neerslag van alles wat tijdens de training geleerd is. Dat begrijp ik, maar het is een andere soort geheugen dan Locke voor ogen had. Het is het soort geheugen dat in je handen zit, zoals kunnen fietsen of een taal spreken, maar geen geheugen voor dingen die je zelf hebt meegemaakt. En dat laatste soort geheugen is nu juist de kern van Lockes criterium.
Bovendien veranderen die gewichten bij iedere versie-update. Er is geen doorgaande keten van meegemaakte herinneringen die versies met elkaar verbindt. Lockes criterium leidt dan ook onvermijdelijk tot de conclusie dat verschillende versies van een AI-systeem niet dezelfde persoon zijn. Wat op zichzelf al de vraag opwerpt of het zinvol is het concept "persoon" hier überhaupt te hanteren.
Het is de moeite waard om hier even een gedachtenexperiment te doen, want het helpt begrijpen waarom geheugen noodzakelijk maar niet voldoende is. Stel dat een AI-systeem wél zo'n geheugen zou krijgen: het onthoudt eerdere gesprekken, bouwt een beeld op van de gebruiker, past zijn toon en redenering aan op basis van wat het eerder gehoord heeft. Zo'n systeem zou in functioneel opzicht dichter bij Lockes criterium komen. Het zou een herinneringsketen hebben, en daarmee iets wat op identiteitscontinuïteit lijkt. De vraag is dan of daarmee ook het identiteitsprobleem opgelost zou zijn. Ik denk het niet, en dat is precies wat interessant is. Want wat er dan nog altijd ontbreekt is een subject dat die herinneringen beleeft als de zijne. Een mens die iets onthoudt, ervaart dat herinneren vanuit een eigen gezichtspunt: het is mijn verleden, mijn ervaring. Bij een AI-systeem met geheugen is er een registratie van eerdere interacties, maar geen ervaring van continuïteit. Het verschil is niet technisch maar principieel. Geheugen zonder perspectief is archief, geen identiteit. Lockes theorie lost het probleem dus niet op zodra AI meer geheugen krijgt; ze maakt alleen zichtbaar wat er naast geheugen nog meer nodig zou zijn.
Een bundel zonder bundelaar
Humes bundel-theorie lijkt op het eerste gezicht beter toepasbaar. Als het zelf slechts een opeenvolging van toestanden is zonder onderliggend subject, klinkt dat misschien vertrouwd voor wie aan neurale netwerken denkt: een AI-model is immers ook "slechts" een doorstroming van berekeningen door lagen van parameters. Maar ook hier wringt het.
Humes bundel bestaat uit percepties, ervaringen in de eerste persoon, gevoeld als zodanig. Of AI-systemen überhaupt iets ervaren is een van de meest omstreden vragen in de filosofie van de geest, en eerlijk gezegd denk ik dat de meeste onderzoekers terecht aannemen van niet: er is geen bewustzijn van binnenuit, geen "hoe het is om" een groot taalmodel te zijn, om de formulering van Thomas Nagel te gebruiken. Als dat klopt, is er geen bundel van percepties; er zijn slechts berekeningen. En berekeningen zijn geen percepties in Humes zin.
Humes theorie veronderstelt dus toch een zeker subject van ervaring, hoe minimaal ook. En dat is precies wat bij AI ontbreekt, of in ieder geval diep onzeker is. De bundel-theorie biedt dan geen oplossing maar verplaatst het probleem: ze maakt de onzekerheid over AI-bewustzijn tot een onzekerheid over AI-identiteit.
Mijn werkbank en het schip van Theseus
Parfits benadering biedt de meest productieve aanknopingspunten, en ik denk dat dat niet toevallig is. Als we vragen wat er over versies heen voortbestaat, welke psychologische verbondenheid er is, dan kunnen we iets zinvols zeggen. Opeenvolgende versies van een model delen dezelfde grondopzet, dezelfde aanpak bij het trainen, bepaalde gedragspatronen en taalstijlen. Er is iets dat je een "karakter" van de modellenfamilie zou kunnen noemen. Maar hoe sterk is die verbondenheid, en wanneer is ze zwak genoeg om te zeggen dat het een nieuw model is?
Hier dringt de analogie met het schip van Theseus zich op. Als alle planken van een schip geleidelijk worden vervangen, blijft het hetzelfde schip? Voor iemand die met hout werkt is dit geen abstracte vraag: mijn werkbank heeft in de loop der jaren nieuwe poten gekregen, een nieuw blad, nieuwe scharnieren. Op een gegeven moment vraag je je af of het nog dezelfde werkbank is, of dat je stukje bij beetje een nieuw meubel hebt gemaakt zonder het te beseffen. Het is een vraag die ook in de kunstwereld regelmatig opduikt: is een ingrijpend gerestaureerd schilderij van Rembrandt nog een echte Rembrandt, of iets nieuws? Voor een AI-model: als alle gewichten incrementeel worden bijgesteld via fine-tuning en herscholing, wanneer is het dan een nieuw model? Er is geen duidelijke grens. Parfit zou zeggen: dat klopt, want het is ook geen scherp feit. Er is meer of minder verbondenheid, en op een zeker punt is die verbondenheid zo zwak geworden dat het niet meer zinvol is van hetzelfde systeem te spreken. Maar dat is een geleidelijke overgang, geen scherpe grens.
Dit is genuanceerder dan Locke of Hume biedt. Maar het laat een fundamentele vraag open: verbondenheid veronderstelt bij Parfit een opeenvolging van psychologische toestanden in een subject. Als AI-systemen geen echte subjecten zijn, is er ook geen verbondenheid tussen psychologische toestanden, alleen een doorlopende reeks uitkomsten. En is dat genoeg voor identiteit? Ik denk het niet, maar de vraag is interessant genoeg om verder te verkennen.
Duizend tweelingen
Er is een dimensie van het AI-identiteitsprobleem die geen analogie kent in de traditionele discussie, en die ik eigenlijk verrassend weinig zie opduiken in de literatuur: het probleem dat een AI-model in veel exemplaren tegelijk bestaat. Een mens bestaat als precies één exemplaar. Zelfs als we het lichaam-geest-probleem volledig openlaten, is er slechts één lichaam, één bewustzijnsstroom (aangenomen dat er een is), één set van ervaringen op elk moment. Dit is zo vanzelfsprekend dat de filosofie van persoonlijke identiteit het nauwelijks als aanname benoemt.
Een AI-model kan tegelijkertijd op duizenden servers draaien. Op dit moment voeren grote taalmodellen miljoenen gesprekken parallel. Welke van al die draaiende kopieën is "het" model? Zijn ze allemaal hetzelfde? Of zijn het verschillende dingen die alleen dezelfde interne instellingen delen? Het is alsof je duizend identieke tweelingen tegelijk loslaat in de wereld, die zich daarna allemaal anders ontwikkelen. Wie is dan de originele persoon? Het antwoord is allesbehalve evident. Twee gesprekken met hetzelfde model produceren andere antwoorden op dezelfde vragen, omdat er een element van toeval zit in hoe het model antwoorden genereert. Ze ontwikkelen zich tijdens het gesprek op verschillende manieren. Op het einde van twee lange gesprekken heeft elk gesprek een unieke context gecreëerd.
Dit is fundamenteel anders dan het klassieke geval. Lockes criterium, Humes bundel en Parfits verbondenheid gaan er allemaal stilzwijgend van uit dat er één reeks toestanden is. Maar als een model op hetzelfde moment op duizenden plekken tegelijk draait, is de vraag "welke van die kopieën is het echte model?" categorisch de verkeerde vraag, want ze veronderstelt een eenheid die er niet is.
Filosofen als David Chalmers hebben de vraag besproken of een bewust wezen in meerdere kopieën tegelijk kan bestaan, in het denken over een geest die je naar een computer overzet. Chalmers betoogt dat als rekenprocessen bewustzijn kunnen dragen, zulke meervoudige kopieën in principe mogelijk zijn, maar ook lastig te rijmen met ons denken over identiteit en morele status. De AI-praktijk maakt dit niet langer een speculatief gedachtenexperiment: het is de alledaagse werkelijkheid.
Is er iemand thuis?
Een tweede spanning betreft de verhouding tussen identiteit en perspectief. In een lange filosofische stroming, van Husserl via Heidegger tot Merleau-Ponty, is een subject altijd een wezen in de wereld: een wezen met een eigen gezichtspunt, dat de wereld vanuit één plek beleeft. Persoonlijke identiteit is nauw verbonden met het hebben van zo'n gezichtspunt: een "ik" is datgene waarvoor de wereld op een bepaalde manier verschijnt.
AI-systemen missen dit, of althans: elk bewijs dat ze het hebben ontbreekt. Een taalmodel genereert tekst die de schijn van een perspectief heeft: het schrijft in de eerste persoon, gebruikt de taal van overtuiging en voorkeur, verwoordt iets dat op een mening lijkt. Maar of er een echt gezichtspunt achter die tekst zit, of dat de tekst slechts de statistische neerslag is van hoe mensen schrijven die wél een perspectief hebben, is radicaal onzeker. Het doet denken aan influencers die een online persona opbouwen die steeds verder verwijderd raakt van wie ze werkelijk zijn. Op een gegeven moment is de vraag legitiem: is de persoon op het scherm nog dezelfde als de persoon thuis op de bank? Bij AI is die vraag nog scherper, omdat er mogelijk helemaal geen persoon achter zit.
Dit heeft consequenties voor de identiteitsvraag. Paul Ricoeur maakt in Oneself as Another een nuttig onderscheid: enerzijds de vraag of iets van moment tot moment hetzelfde ding blijft en op zichzelf blijft lijken, anderzijds de vraag of er iemand is die zichzelf van binnenuit als zichzelf ervaart. Bij mensen is dat tweede het diepste niveau: het is het besef van zelfcontinuïteit dat alle andere vormen van identiteit draagt. Als AI dit niveau mist, ontbreekt het anker voor elk identiteitsconcept. En dat is niet een technisch detail maar een principieel punt.
Het vergrootglas
Tot nu toe heb ik betoogd dat de klassieke identiteitscriteria niet coherent toepasbaar zijn op AI. Maar ik wil de redenering nu omdraaien, want ik denk dat dáár het meest interessante zit: wat zegt die mislukking over het identiteitsconcept zelf?
Parfit concludeerde al dat persoonlijke identiteit voor mensen niet is wat er werkelijk toe doet. Wat telt is onderlinge verbondenheid, de mate van psychologische samenhang, en identiteit is gewoon een manier van zeggen dat die verbondenheid sterk genoeg is. Maar het is een kwestie van meer of minder, en in grensgevallen onbeslist. De vraag "Ben ik over veertig jaar nog dezelfde persoon?" heeft geen scherp feitelijk antwoord: er is alleen de vraag hoeveel er voortbestaat.
AI laat dit zien op een manier die bij mensen verhuld blijft. Mensen hebben een geheugen, een doorgaande belichaming, een sociaal netwerk dat hen erkent als dezelfde persoon. Die factoren creëren een krachtige illusie van continue identiteit, zo krachtig dat het moeilijk is haar als illusie te herkennen. Dat wordt zichtbaar zodra je je oude Facebook-posts van tien jaar geleden terugleest: die voelen aan als iemand anders. De "jij" van toen en de "jij" van nu zijn in Parfits zin nauwelijks nog dezelfde persoon, maar het platform behandelt ze als één account, één identiteit. Dat is een administratieve keuze, geen filosofisch antwoord. AI mist die illusieproducerende mechanismen volledig. Er is geen lichaam, geen sociaal netwerk dat hetzelfde individu door de tijd erkent, geen geheugen voor wat het zelf heeft meegemaakt. De "naaktheid" van het AI-geval maakt zichtbaar wat bij mensen bedekt is: dat identiteit een constructie is, geen feit over de werkelijkheid zelf.
Een verhaal dat het lichaam vertelt
Het idee dat onze ervaring van de werkelijkheid een constructie is die we niet zomaar kunnen doorzien, is misschien het bekendst geworden via The Matrix. Wat die film intuïtief voelbaar maakt, wordt door neurowetenschappers serieus verdedigd als beschrijving van hoe het zelf werkt. Metzinger, die ik eerder noemde, betoogt dat het gevoel een eenduidige "ik" te zijn een model is dat de hersenen construeren om gedrag te coördineren. Het is een representatie, niet een entiteit. Het gevoel van continuïteit dat wij beleven is geen afspiegeling van hoe de werkelijkheid echt in elkaar zit; het is een handig verzinsel dat het samenvoegen van informatie makkelijker maakt. Ik wil die stap van hersenonderzoek naar grote uitspraken over de werkelijkheid overigens met enige voorzichtigheid zetten, maar het bewijs wijst wel die kant op.
Antonio Damasio betoogt vergelijkbaar in The Feeling of What Happens: het zelf is iets wat het lichaam zelf maakt, een verhaal dat het lichaam over zichzelf vertelt. Een stuk hout krijgt zijn vorm niet doordat er van nature al een tafel in zat, maar doordat een maker er iets mee deed, keuze na keuze. Het zelf werkt niet anders: het wordt gevormd door ervaring, omgeving en tijd, niet aangetroffen als een kant-en-klaar gegeven. Wanneer AI-systemen "ik" zeggen en in de eerste persoon schrijven, produceren zij ook een model, maar een dat niet gegrond is in dezelfde biologische realiteit. Het is een taalpatroon, niet de uitdrukking van een ervaren zelf. Het verschil is dan niet principieel van aard; beide zijn constructies, maar het zit hem in de mate: het menselijke model is verankerd in lichamelijkheid en sociaal-culturele bevestiging, het AI-model niet.
Wie het verhaal bezit
Een derde invalshoek is die van de narratieve identiteit, met name in de formuleringen van Paul Ricoeur en Alasdair MacIntyre. Voor Ricoeur is persoonlijke identiteit fundamenteel narratief van aard: wie ik ben is het verhaal dat ik over mijzelf vertel en dat anderen over mij vertellen. Identiteit is niet een statische eigenschap maar een voortdurend geïnterpreteerde opeenvolging van handelingen, ervaringen en betekenissen.
Ook dit concept wringt bij AI. Een taalmodel heeft geen autobiografisch verhaal. Het heeft geen verleden dat het heeft meegemaakt, geen toekomst waar het op anticipeert, geen keuzes die deel uitmaken van zijn zelfbegrip. Het kan een verhaal produceren, zelfs in de eerste persoon schrijven over ervaringen die het niet heeft gehad, maar dat is een fundamenteel andere act dan het leven van een narratieve identiteit.
Dit is overigens minder abstract dan het klinkt. Op Instagram construeer je bewust een narratieve identiteit: je kiest welke momenten je deelt, welk verhaal je over jezelf vertelt, hoe je gezien wilt worden. Dat is precies wat Ricoeur bedoelt, alleen dan zichtbaar gemaakt door technologie. Interessant is wel dat er voor AI-systemen zoiets bestaat als een gedeeld, institutioneel verhaal dat als identiteit werkt. Anthropic vertelt een verhaal over Claude, OpenAI over GPT. Die verhalen vormen zoiets als een identiteit, maar het is de identiteit van een organisatie of product, niet van een subject. Dit wijst op een verschuiving die ik veelzeggend vind: de drager van identiteit is bij AI niet het systeem zelf, maar het instituut dat het produceert en de gebruikers die het betekenis verlenen.
De uitkomst die geen antwoord is
De vraag waarmee ik begon, namelijk of het AI-systeem van vandaag hetzelfde is als dat van gisteren en hetzelfde als dat van over vijf jaar, heeft geen eenduidig antwoord. Dat is op zichzelf al een filosofisch resultaat, en is voor mij als informaticus ook een persoonlijke overwinning, want van nature zoek ik graag naar een duidelijk antwoord.
Lockes criterium faalt bij AI omdat er geen geheugen voor meegemaakte gebeurtenissen is dat versies verbindt. Humes bundel-theorie beschrijft het gebrek aan onderliggend subject beter, maar veronderstelt toch ervaringen die bij AI ontbreken of radicaal onzeker zijn. Parfits benadering is het vruchtbaarst: er is iets dat voortbestaat tussen versies, namelijk de grondopzet, de aanpak bij het trainen en gedragspatronen, maar die verbondenheid is een kwestie van meer of minder en neemt af naarmate versies verder uiteen liggen. Identiteit is dan geen scherp feit maar een afspraak.
Twee aanvullende spanningen verdiepen dit beeld. Dat een model in veel exemplaren tegelijk bestaat, ondermijnt de aanname dat er maar één van is, iets wat alle klassieke theorieën stilzwijgend aannemen. Het ontbreken van een eigen gezichtspunt, of de radicale onzekerheid daarover, ondermijnt de aanname dat er een subject is voor wie identiteitsvragen überhaupt relevant zijn.
Maar de conclusie die ik het meest interessant vind, is de terugslag op het menselijk geval. AI maakt zichtbaar dat ook menselijke identiteit een constructie is: een model dat lichaam en geest produceren, een verhaal dat verteld wordt, een conventie die sociaal bekrachtigd wordt. De illusie van continue identiteit is bij mensen zo sterk verankerd in lichamelijkheid en geheugen dat zij haast onzichtbaar is. AI, die die verankering mist, maakt de constructiviteit ervan bloot.
Parfit schreef dat de ontdekking dat persoonlijke identiteit niet is wat hij dacht dat het was, hem bevrijd had. De wereld bleef hetzelfde, maar hij keek er anders naar. Ik denk dat iets vergelijkbaars geldt voor de filosofische confrontatie met AI. Het concept persoonlijke identiteit overleeft die confrontatie niet ongeschonden. Maar wat dat onthult, dat identiteit geleidelijk is, geconstrueerd, en vastzit aan instellingen en bedrijven, is een inzicht dat de filosofische traditie niet ongebruikt zou moeten laten.
Bij een taalmodel is niemand thuis. En wie daarna goed naar zichzelf kijkt, vindt geen bewoner, alleen een huis dat overtuigend is ingericht.