Hvis du noen gang har spilt rollespill - enten det er på nettet eller i den gammeldagse bakgården - vet du hvor enkelt det er å bli knyttet til avataren din, det vil si å venne seg til rollen som "kosakkrøver". Du føler bokstavelig talt smerte når en karakter blir slått av et troll, stekt av en drage eller drept av en sjaman. Den amerikanske sosiologen (og ivrig spiller) William Sims Bainbridge tok dette forholdet enda lenger ved å lage virtuelle representasjoner av 17 avdøde familiemedlemmer. I et essay fra 2013 om online avatarer ser han for seg en tid der vi kan laste personligheten vår inn i en kunstig intelligent simulering av oss selv som kan opptre uavhengig av oss og til og med forbli etter at vi dør.
Hva slags ansvar kan vi legge på disse simulerte menneskene? Selv om vi er mistenksomme overfor voldelige dataspill, er det ingen som ser alvorlig på at drap undergraver en virtuell angriper. Imidlertid er det ikke lenger absurd å forestille seg at en gang modellerte mennesker vil eksistere og også ha en viss grad av autonomi og bevissthet. Mange filosofer mener at et sinn som vårt ikke trenger å bli lagret i nettverket av nevroner i hjernen vår, men kan eksistere i forskjellige slags materielle systemer. Hvis de stemmer, er det ingen grunn til å tro hvorfor kraftige nok datamaskiner ikke kunne lagre bevissthet i chipsene deres.
Vil du drepe en digital flue?
I dag prøver mange moralske filosofer å forstå etikken ved å endre den menneskelige befolkningen og stille spørsmål som disse: Hva koster menneskelivet? Hva slags liv skal vi strebe etter å forme? Hvor mye verdi skal vi investere i menneskelig mangfold? Men når det gjelder etikken i å håndtere modellerte enheter, er det ikke helt klart om vi skal stole på den samme logikken og intuisjonen som vi bruker i vår verden av kjøtt og blod. Innerst inne i sjelen vår føler vi oss feil med å drepe en hund eller til og med en flue. Men ville deaktivering av fluen - eller menneskets hjerne-modell - drept? Når "livet" tar nye digitale former, kan vår egen erfaring ikke lenger fungere som en pålitelig moralsk følgesvenn.
Adrian Kent, en teoretisk fysiker ved University of Cambridge, bestemte seg for å utforske dette gapet i moralsk resonnement. Anta at vi har lært å etterligne menneskelig bevissthet på en datamaskin billig og enkelt, skriver han i en av artiklene. Vi vil gjerne gi denne virtuelle skapningen et rikt og givende miljø for kommunikasjon - et liv verdt å leve. Kanskje vi kunne gjøre dette med virkelige mennesker ved å skanne hjernen deres i detalj og kopiere dem på en datamaskin. Man kan forestille seg hvordan en slik teknologi”redder” mennesker fra en dødelig sykdom; noen transhumanister ser dette som veien til udødelig bevissthet.
Selvfølgelig kan alt dette være en rørdrøm - men la oss anta det motsatte. La oss nå ta oss i hånden med et sett av utilitaristiske moralske prinsipper introdusert av Jeremy Bentham på slutten av 1700-tallet og deretter foredlet av John Stuart Mill. Alt tatt i betraktning, sa Bentham, bør vi strebe etter å bringe maksimal lykke (eller "nytteverdi") til så mange mennesker som mulig. Eller, i Mills ord, "handlinger er rettferdiggjort i forhold til hvor lykkelige de er, og ikke rettferdiggjort hvis de fører til mangel på lykke."
Prinsippene for god oppførsel har mange kritikere. Hvordan kan vi for eksempel måle eller sammenligne typer lykke - veie verdien av bestemors kjærlighet, for eksempel, på de samme skalaene med beundring for en virtuos konsertpianist? "Selv om du vil ta utilitarisme på alvor, vet du ikke hvilke egenskaper du legger i beregningene dine egentlig betyr noe," sier Ken. Imidlertid aksepterer de fleste trossystemer i dag som standard at et moralsk kompass som peker mot større lykke, tydeligvis er å foretrekke fremfor et som ser bort fra det.
Salgsfremmende video:
I følge Kents scenario, kan vi tenke at vi må gå fremover og multiplisere våre modellerte, eller simulerte skapninger - la oss kalle dem simmer - uten begrensninger hvis vi går ut fra utilitaristiske motiver. I den virkelige verden har slik ukontrollert formering åpenbare ulemper. Mennesker vil lide, følelsesmessig og økonomisk, med en stor familie; overbefolkning legger allerede press på globale ressurser, og så videre. Men i den virtuelle verden er det kanskje ikke slike grenser. Du kan lage en utopi med nesten ubegrensede ressurser. Hvorfor kan du da ikke skape så mange verdener som mulig og fylle dem med glade simmer?
Intuisjonen vår antyder svaret: men hvorfor? Kanskje en bevisst sim simpelthen ikke vil ha samme egenverdi som en person av kjøtt og blod? Dette poenget er uttrykt av Michael Medery, en sinnssyn og virtual reality-etiker ved Tulane University i New Orleans, og mener det bør tas på alvor.
Noen filosofer mener at vi selv kan være lignende simulerte vesener. Vi kan rett og slett ikke utelukke en slik mulighet, men likevel anser vi disse spørsmålene som betydningsfulle. Så man vil også anta at simmene har rett til å stille spørsmål.
Kent stiller igjen spørsmålet: hva ville være riktigere - å skape en populasjon av identiske skapninger eller helt annerledes? Det er klart det ville være mer effektivt å lage identiske skapninger - nok informasjon om en til å lage N av dem. Men instinktene våre forteller oss at mangfoldet har mening og verdi. Og hvorfor, jeg lurer på om det ikke er noen grunn til å tro at N forskjellige individer vil være lykkeligere enn N identiske.
Kent's tilnærming er at forskjellige liv er å foretrekke fremfor flere eksemplarer av det samme. "Jeg kan ikke kvitte meg med tanken om at et univers med en milliard uavhengige identiske emuleringer av Alice vil være mindre interessant og av mindre kvalitet enn et univers med en milliard forskjellige individer," sier han. Han kaller dette konseptet replikering mindreverdighet.
Hvis vi betrakter kosmos bebodd av milliarder av Alice, er det virkelig verdt å snakke om ett liv, multiplisert mange ganger, eller snakker vi om ett liv, spredt over mange verdener. Det kan følge av dette at mange Alice i et identisk miljø ikke vil ha verdier mer enn en. Han kaller dette scenariet ubrukelig for replikering. "Jeg er tilbøyelig til den oppfatningen," sier Kent, og innrømmer imidlertid at han ikke kan finne et ugjendrivelig argument i sitt forsvar.
Kent sitt tankeeksperiment berører flere gamle mysterier om moralsk filosofi som aldri har blitt løst. Den engelske filosofen Derek Parfit, som døde i fjor, tok for seg dem i sitt monumentale arbeid om personlighet og selvtillit, Reasons and Personalities (1984). Parfit funderte på spørsmål som hvor mange mennesker det i det hele tatt skal være, og om det alltid vil være moralsk bedre å legge et liv verdt å leve til livets mas og mas når vi får muligheten.
Selv om du aksepterer det utilitaristiske synspunktet, er det problemet med å finne den største lykke for størst antall: doble kriterier skaper tvetydighet. Tenk deg for eksempel at vi har kontroll over hvor mange mennesker som lever i en verden med endelige ressurser. Man skulle tro at det burde være et optimalt antall mennesker som (i prinsippet) vil utnytte ressursene best mulig for å sikre lykke og velstand for alle. Men ville det ikke være plass i en slik utopi for en annen person? Ville det ikke være akseptabelt å redusere alles lykke litt for å sikre et annet lykkelig liv?
Problemet er at denne prosessen ikke har noen slutt. Når tallene stiger, kan den ekstra lykke til nye liv oppveie kostnadene for de som allerede er i live. Til slutt, sier Parfit, kommer du til en "motbydelig konklusjon": et scenario der det beste resultatet ville være en oppblåst befolkning av mennesker som er håpløst ulykkelige, men bedre stilt enn det ikke var noe liv i det hele tatt. Sammensatt utgjør de magre utklippene av lykke mer enn summen av et lite antall virkelig lykkelige mennesker. "Det er vanskelig for meg å godta denne konklusjonen," skrev Parfit, men kan vi begrunne denne tilnærmingen? Kent vet ikke. "Jeg vet ikke om det kan være noen balansert beslutning om den motbydelige slutningen," sier han.
I roten til dette spørsmålet ligger det som Parfit kalte "problemet med ikke-identitet": hvordan kan vi resonnere rasjonelt om spørsmålene til bekymrede individer hvis deres eksistens avhenger av valgene vi tar (som å finne et sted for "et annet")? Å veie fordeler og ulemper som kan påvirke et individ, avhengig av beslutningene vi tar, er i prinsippet ikke så vanskelig. Men gitt muligheten for at denne karakteren aldri kan ha eksistert, vet vi ikke lenger hvordan vi beregner. Sammenlignet med null eller intet, vil noe være en gevinst, så selv de verste scenariene i tilværelsen kan være moralsk berettiget.
Det er et annet veldig rart scenario i dette utilitaristiske befolkningsspillet. Hva om det var mennesker med et så stort behov for lykke at de ville kreve mer av andre enn de hadde råd til å gi? Den amerikanske filosofen Robert Rozick kalte denne skapelsen et "utilitaristisk monster" og kritiserte den i sin bok Anarchy, State and Utopia (1974). I følge Nozick vil dette bildet "kreve at vi alle ofrer for monsterets skyld for å øke vår generelle nytteverdi." Mye av Parfits bok var et forsøk - til slutt mislykket - å unnslippe både den fæle konklusjonen og det utilitaristiske monsteret.
La oss gå tilbake til Korts virtuelle verdener fulle av simmer og hans prinsipp om ufullstendig replikering - når et visst antall forskjellige liv er verdt mer enn samme antall identiske. Kanskje dette vil tillate oss å unngå Parfits fæle konklusjon. Til tross for hva Leo Tolstoy sa om ulikheten i ulykkelige familier i begynnelsen av Anna Karenina (1878), ser det ut til at et stort antall ulykkelige liv vil være nesten det samme i deres dystre tristhet. Følgelig vil det ikke være mulig å plukke dem opp og øke den samlede lykke dråpe for dråpe.
Men på samme måte kondenserer mindretallets replikering det utilitaristiske monsteret - per definisjon må det være unikt, og derfor mer "verdig", sammenlignet med den uunngåelige likheten i livene som livnærer det. Denne avgjørelsen tilfredsstiller oss heller ikke. "Det ville være fint hvis folk på en eller annen måte tenkte mer på disse problemene," innrømmer Kent. "Jeg er litt forvirret av dem."
For den amerikanske libertariske økonomen Robin Hanson, professor i økonomi ved George Mason University i Virginia, er disse refleksjonene ikke så mye mentale eksperimenter som spådommer om fremtiden. Hans bok "The Age of Em" presenterer et samfunn der alle mennesker laster opp bevisstheten sin til en datamaskin for å leve livet i form av "emulasjoner" (ikke simmer, men emas). "Milliarder av slike nedlastinger kan bo og arbeide i en høyhus, og det ville være plass til alle," skriver han.
Hanson undersøkte detaljert hvordan en slik økonomi kan fungere. Ems kan være av hvilken som helst størrelse - noen av dem vil være veldig små - og tiden kan gå annerledes for dem sammenlignet med mennesker. Det vil være tett tilsyn og en liten lønn, men ems kan bli kvitt denne lidelsen ved å velge et liv uten arbeid. (Hanson tror vi allerede kan leve i en slik verden.)
Dette scenariet gir mulighet for duplisering av seg selv, siden sinnet allerede er overført til datamaskinen, så det er ganske enkelt å lage kopier. Hanson sier at identitetsproblemet i denne saken er uklart: duplikater er "den samme personen" i utgangspunktet, men gradvis avviker identiteten deres når de begynner å leve hver for seg.
Hanson antyder at duplisering av mennesker ikke bare vil være mulig, men ønskelig. I den kommende emusen vil mennesker med spesielt verdifulle mentale evner bli "lastet" mange ganger. Og generelt vil folk uansett lage flere kopier av seg selv som en forsikringsform. "De vil kanskje foretrekke overflødighet i sin egen implementering for å sikre at de kan overleve uventede katastrofer," sier Hanson.
Men han tror ikke de foretrekker Kents scenario med identiske liv. Ems “vil ikke legge noen spesiell verdi på å leve det samme livet til forskjellige tider og forskjellige steder. De vil investere verdi i flere eksemplarer fordi kopiene kan fungere eller kommunisere med andre. Men denne typen arbeid og forhold krever at hver kopi skal være uavhengig av årsak og at historiene deres flettes sammen basert på oppgaver eller som partnere.”
I alle fall vil dem måtte ta seg av moralske vansker som vi ennå ikke kan overvurdere. "Jeg tror ikke at moralen som mennesker har er generell nok eller robust nok til å gi trygge svar på situasjoner som dette, som er så langt fjernet fra" opplevelsen "av våre forfedre," sier Hanson. "Jeg spår at emus vil ha mange forskjellige motstridende meninger om slike ting."
Ems, sims og vår virtuelle fremtid
Nå kan alt dette høres veldig rart ut, som apokryfe middelaldersamtaler om engler som danser på tuppene. Vil vi noen gang kunne skape virtuelt liv som i det hele tatt vil være likt det virkelige livet? "Jeg tror ikke noen kan trygt si om dette er mulig eller ikke," sier Kent, delvis fordi "vi ikke har en god vitenskapelig bevissthetsforståelse."
Likevel går teknologien fremover, og disse spørsmålene forblir åpne. Den svenske filosofen Nick Bostrom fra Institute for the Future of Man, argumenterte for at datakraften som er tilgjengelig for den "posthuman" sivilisasjonen, ville gjøre det enkelt å simulere skapninger som lever i verden og føle den så ekte som vi er vår egen. (Bostrom tror også vi kunne leve i en slik simulering.) Men å spørre hvordan vi kan befolke slike verdener gir "et virkelig dilemma for fremtidens programmerere, forskere og lovgivere, om enn ikke så fjernt," sier Kent.
Kents scenario kan allerede ha virkninger fra den virkelige verden. Argumenter for maksimering av verktøy og problemet med ikke-identitet oppstår i diskusjoner om å fremme og forhindre menneskelig unnfangelse. Når skal du nekte å bli gravid i tilfelle risiko, for eksempel ved å utvikle unormalt hos et barn? Ingen av de nye metodene garanterer full sikkerhet og aldri garanteres, men IVF ville aldri blitt gjort hvis det var en forutsetning. En slik teknikk forventes å oppfylle en viss risikoterskel. Men den utilitaristiske tilnærmingen utfordrer denne ideen.
Hva om en ny assistert reproduksjonsmetode hadde en moderat risiko for å utvikle små feil ved fødselen, for eksempel fødselsmerker? (Dette er et reelt argument: Nathaniel Hawthornes historie fra 1843 forteller om en alkymist som med dødelige konsekvenser prøvde å fjerne merket fra sin kone, siterte US Bioethics Council fra 2002.) Det er vanskelig å si at personer som er merket med et slikt sted vil være verre enn andre, og derfor ikke bør tas med i betraktningen ved metoden. Men hvor er linjen som skal trekkes? Når er en fødselsskade bedre å ikke bli implementert i det hele tatt?
Noen har nevnt dette dilemmaet i deres forsvar for kloning av mennesker. Vil farer, som sosialt stigma eller forvrengte foreldremotiv og forventninger, oppveier fordelene ved å gi liv. Hvem skal vi ta valget for det klonede mennesket? Hvem vil vi være hvis vi tar dette valget før mennesket til og med eksisterer?
Denne typen resonnementer ser ut til å kreve at vi tar godaktige avgjørelser. Men en feministisk observatør kan tro at vi er offer for en versjon av Frankensteins fantasi. Er det med andre ord ikke en gjeng menn som drømmer om å endelig begynne å fremstille mennesker når kvinner har gjort dette i århundrer? Følelsen av nyhet som fører til alle disse kontroversene har en patriarkalsk smak.
Likevel reiser perspektivet på virtuell bevissthet noen veldig friske og fascinerende etiske spørsmål - som ifølge Kent fører til at vi utfordrer den intuitive verdien vi plasserer i livet og demografien. Det er ekstremt vanskelig å se et sterkt argument for at et visst antall forskjellige liv vil være moralsk bedre enn det samme antallet av det samme. Hvorfor tror vi det? Hvordan kan vi bli kvitt fordommer?
Man kan si at opplevd homogenitet i menneskelige befolkninger eroderer evnen til empati og etisk resonnement. Den “ansiktsløse” mengden, som blir motarbeidet av individet, er en kjent klisje som fremkaller en følelse av heltemot. Men dette er ikke nødvendigvis riktig.
Kanskje har vi en evolusjonær aversjon mot de samme individene, spesielt når du tenker på at det genetiske mangfoldet i en befolkning sikrer dens overlevelse? Bare tenk på filmer om identiske tvillinger eller kloner - det ser ikke alltid bra ut. Det ser til og med illevarslende ut. I 1919 assosierte Sigmund Freud denne følelsen med ideen om en ond dobbel (doppelganger). Og hvis dette fremdeles er forståelig når det gjelder identiske tvillinger, vil hundre “identiske” karakterer se forferdelig ut.
Det ser ikke ut som om vi kommer til å møte hær av duplikater når som helst snart, i den virkelige eller virtuelle verdenen. Men verdien av tankeeksperimenter er at de gir deg en ny måte å gi mening om verdens spørsmål. Ved å forestille oss etikken i vårt forhold til simmene, avdekker vi skjelven eller ikke-eksisterende logikk som vi instinktivt bruker for å veie den moralske verdien av våre egne liv.
Ilya Khel
