Bliendets arkitektur

Vilka är vi, och vilka håller vi på att bli?

Jag växte upp i Sydostasien med värderingar formade av både österländska och västerländska influenser. Tankar om ett målmedvetet liv och självförvandling var en del av mitt tänkande redan från tidig ålder. Stoicismen upptäckte jag senare. Detta var inte produktkoncept, utan sätt att tänka kring hur man lever, vad som är viktigt och vilken människa jag skulle kunna bli.

Detta är min erfarenhet, inte en beskrivning av alla som växer upp i Sydostasien. Varken österländska eller västerländska värderingar utgör en enda, enhetlig tradition. Det som stannade kvar hos mig var möjligheten att rymma olika perspektiv samtidigt som man fortsätter att förändras.

Mycket senare gav en fråga om teknik dessa reflektioner en ny inramning: Hur kan AI och integritet gå hand i hand? Det var utgångspunkten för Zeredis design, inte början på mitt intresse för identitet eller förvandling. Den frågan fortsätter att prägla hur Zeredi ser på integritet.

Jag stötte på konceptet med multiversum senare i livet, långt efter dessa tidiga influenser. Tillsammans med frågor om en allt mer kapabel AI erbjöd det ett annat sätt att fundera över identitet: liven vi skulle kunna ha levt, de sidor av oss själva som olika situationer lockar fram, och de framtider vi ännu inte nått.

Dessa trådar vävdes samman kring en fråga: Vad betyder identitet i en AI-centrerad värld? Hur beskriver vi oss själva när till och med ett helt vanligt liv ständigt ändrar på svaret?

De här frågorna dök inte upp efter produkten, som en historia för att förklara den. Modellerna kom efteråt, rotade i frågorna om integritet, identitet och blivande. Jag tror inte att jag hade designat dem utan att ha ställt dessa frågor först.

Räcker en enda profil för att rymma alla versioner av vilka vi är?

Innan vi designade ett nytt sätt att beskriva en människa, började vi fråga oss vad en beskrivning aldrig helt kan fånga.

Frågorna före formen

Den teknologiska singulariteten är en spekulativ idé, inte en oundviklig framtid som vi påstår oss kunna förutsäga. För mig väckte den en fråga om jagets kontinuitet: Om singulariteten vore verklig, skulle personen på andra sidan fortfarande vara jag?

Idén om en singularitet svarar inte i sig på vad som händer med en individs identitet. Men att föreställa sig en sådan framtid gjorde frågan personlig: vad skulle göra att den personen fortfarande var jag, och vad skulle kunna förändras innan jag inte längre kände igen mig själv? Detta var en filosofisk fråga, inte en förutsägelse om en specifik teknik eller ett påstående om att ett system skulle kunna bevara en person.

Multiversum öppnade en annan tankegång. Vi letade inte efter bevis för att alternativa versioner av oss själva existerar. Möjligheten var en dörr till fantasin: vad händer med de versioner av ett liv som aldrig väljs, eller de sidor av en människa som en viss miljö aldrig låter oss visa?

Vi behöver inte ett annat universum för att möta denna mångsidighet. Vi kan vara reserverade i ett rum och utåtriktade i ett annat. Vi kan bära på en ambition i det tysta långt innan den blir synlig för någon annan. En del av oss blir inte falsk bara för att den saknas i den nuvarande bilden.

flowchart TB
    you["You"]
    you --- professional["Professional you"]
    you --- mom["Mom you"]
    you --- daughter["Daughter you"]
    you --- student["Grad student you"]
    you --- dreams["Your dream you"]

En person, olika sidor av ett liv. Dessa roller kan överlappa; de är exempel, inte en checklista eller en fullständig beskrivning av dig.

Dessa senare idéer förde mig tillbaka till den självförvandling jag tänkt på mycket tidigare. Ibland upptäcker vi en annan sida av oss själva. Ibland förändras vi. En beskrivning bör ge plats åt båda, utan att kräva att varje nytt svar bevisar att det gamla var fel.

Dessa idéer gav oss ingen färdig arkitektur. De gav oss frågor som var värda att ta med in i designen.

Det jag vi har, det jag vi blir

Värderingarna jag växte upp med, tillsammans med idéer jag upptäckte senare, gjorde detta till mer än en fråga om digitala profiler. Ett målmedvetet liv väcker frågor om vad vi rör oss mot. Stoicismen bjuder in till reflektion över våra omdömen, val och hur vi reagerar på det vi inte kan kontrollera. Självförvandling ber oss att lämna utrymme för förändring. Detta är olika influenser, inte utbytbara svar.

Frågor om egot gjorde utforskandet mer personligt. När vi säger "det här är jag", uttrycker vi då något som är viktigt för oss, eller håller vi fast vid en beskrivning som vi inte längre vet hur vi ska lämna?

Det finns inget enskilt österländskt eller västerländskt svar. Följande filosofiska perspektiv erbjuder ytterligare sätt att granska frågan; det är inte ett påstående om att jag växte upp med att praktisera varje tradition som nämns här.

Inom buddhistiskt tänkande utmanar läran om förgänglighet och icke-jag idén om en permanent, oberoende essens bakom allt vi kallar "jag". Det är inte det enkla påståendet att en person inte existerar eller inte spelar någon roll. Det ber oss att undersöka vad vi betraktar som fastställt, och hur fastklamring vid det kan bli en källa till lidande.

Bredvid det finns en fråga om egot: vad händer när en användbar beskrivning av oss själva blir något vi ständigt måste försvara? "Jag är den tyste." "Jag är alltid kapabel." "Jag är inte någon som ändrar mig." En beskrivning kan ge en känsla av tillhörighet, för att sedan tyst förvandlas till en förpliktelse.

Viss västerländsk existentialism erbjuder ett annat sätt att tänka kring blivandet: en människa uttöms inte av en kategori, och ett liv tar form inom omständigheter som vi inte helt själva har valt. I det här utforskandet är frågan hur ett föränderligt liv relaterar till den person vi känner igen som oss själva. Förvandling behöver inte betyda att allt som kopplar oss till ett tidigare jag försvinner.

Dessa traditioner är inte utbytbara och de ger inget gemensamt svar på den personliga identiteten. Inte heller betyder "ego" exakt samma sak i spirituella, filosofiska och psykologiska sammanhang. Jag placerar dem sida vid sida med min fråga, jag påstår inte att de löser den.

När dessa idéer hålls samman leder de mig tillbaka till en fråga: Om jag förändras, vad gör att jag fortfarande är jag?

För Zeredi blir detta en mer ödmjuk designfråga: hur kan en digital identitet ge plats för både kontinuitet och förändring, utan att låtsas ha svaret på vad som gör någon till samma person?

Det betyder inte att ett digitalt system kan avgöra vad jaget är. Ambitionen är mer praktisk: att låta någon säga "det här är viktigt för mig just nu" utan att tvingas säga "det här är allt jag någonsin kommer att vara".

Kollapsen

En profil håller ett mätvärde. En människa rymmer möjligheter.

Inom kvantfysiken kan en qubit befinna sig i en superposition av tillstånden 0 och 1. En mätning i den basen ger ett resultat. I beskrivningen av kollapsen uppdateras tillståndet till det resultatet.

Människor är inte qubits. Detta är en inspiration, inte en vetenskaplig redogörelse för identitet. Men bilden stannade kvar: många möjligheter, sedda genom en enda observation.

I min egen lilla förenkling av idén föreställde jag mig att vara en atom i en berättelse med två tillstånd, märkta 0 och 1: Jag vickar och darrar. Åh, någon tittar på mig. Jag borde stå still och titta tillbaka.

Det är en lekfull personifiering, inte så mätning fungerar: en atom märker inte någons blick och bestämmer sig för att stå still, och mätning kräver inte en medveten observatör. Det som intresserade mig var den mänskliga bilden bakom skämtet: att bli sedd, och sedan känna att vi måste hålla en enda version av oss själva stilla för den som tittar.

En digital profil kan kännas som den där avsmalningen. Den tar ett ögonblick från det flytande komplexiteten i ett människo-liv och fryser det.

Det är inte alltid ett misslyckande. En beskrivning kan vara användbar utan att vara komplett. Problemen börjar när något som var sant i ett ögonblick blir det svar som förväntas av oss överallt.

Vad utelämnar vi när vi låter en enda observation bli hela beskrivningen?

Viskningen och datan

Föreställ dig att du väljer en lugn restaurang för att det finns något du behöver höra någon säga.

Ett system ser bokningen. Det registrerar en preferens för lugna platser. Det fångar valet, men det missar viskningen. Det ser datan, men inte vad kvällen betyder för dig.

Imorgon kanske du vill ha musik som är så hög att du kan försvinna i den. Båda versionerna av dig är verkliga. Ingen av dem borde behöva korrigera den andra.

Ändå kan en profil bära med sig det första svaret som om det andra vore ett misstag. Ett val blir ett mönster. Ett mönster blir en etikett. Till slut börjar etiketten tala före dig.

Den saknade kontexten är inte nödvändigtvis något som systemet bör samla in. Du ska inte behöva avslöja viskningen för att förhindra att ett restaurangval definierar dig. Ibland behöver ett system en enklare slutsats, inte en mer intim förklaring.

Vi är inte en enda profil.

Identitetens geometri

Detta är hjärtat i Zeredi.

Vi tror att ett svar kan vara uppriktigt utan att vara permanent. Livet fortsätter att röra sig efter att ett formulär har fyllts i. Vi förändras så tyst att våra digitala spöken ofta dröjer sig kvar långt efter att vi har gått vidare.

Vad händer om vi kan ändra identitetens geometri?

Den lugna middagen och den högljudda kvällen behöver inte två olika personer för att förklaras. De behöver utrymme för olika sammanhang.

Det du visar i en miljö behöver inte bli beskrivningen som följer dig överallt. En tystare sida är inte mindre uppriktig än en högljudd. Ingen av dem behöver rymma hela människan.

Och en prydligt organiserad etikett kan fortfarande bli ett fängelse om någon annan betraktar den som permanent eller universell. Frågorna kvarstår: vems beskrivning är detta, var hör den hemma, och vad händer när den inte längre passar?

Andra delar av ditt liv kan förbli dina egna. Varje detalj behöver inte exponeras. Varje skillnad behöver inte förklaras.

Utrymmet runt kanterna

En assistent skulle kunna hjälpa till med en vanlig uppgift utan att förvandla varje interaktion till en djup teori om dig. Att vara användbar ska inte betyda att man gör anspråk på att ha sista ordet om vem du är. Att bli förstådd ska inte betyda att man måste ge bort allt.

Zeredi utvecklas fortfarande. Visionerna tar form och appen är under utveckling. Detta är frågor som vägleder arbetet, inte påståenden om att varje tänkt upplevelse redan finns tillgänglig.

Vi har inte besvarat alla frågor som startade detta. Vissa har blivit designbeslut; andra förblir frågor som vi vill att designen ska fortsätta ställa.

Avsikten är inte att bygga en profil som slutligen rymmer en hel människa. Det är att skapa en beskrivning med utrymme runt kanterna.

Utrymme för ett annat sammanhang.

Utrymme för ett annat svar.

Tillräckligt med utrymme för att du ska kunna bli någon som profilen inte har mött än.

Läs "Du är inte en enda profil."

Dessa frågor kopplar också till uttryck i Zeredis filosofi: att ge plats åt det vi uttrycker utan att behandla det som hela människan.