Den svenske filosofen Nick Bostrom, direktør for Oxford Institute for the Future of Humanity, er kjent for sitt arbeid med eksistensielle risikoer, det antropiske prinsippet, etikken for menneskelig forbedring og truslene fra kunstig intelligens. Han har skrevet "Proof of Simulation", der han antyder at vår virkelighet kan simuleres på en datamaskin skapt av en eller annen avansert sivilisasjon. I juni besøkte Nick Bostrom Russland for å delta i den internasjonale cybersecurity-kongressen organisert av Sberbank med støtte fra ANO Tsifrovaya Economy og Association of Russian Banks. Den spesielle korrespondenten til "Lenta.ru" snakket med Bostrom om oppstanden til maskinene, verdensregjeringen og transhumanismen, og fant også ut hvorfor det kan leve videre hvis "Matrix" er rundt.
Hva er meningen med futurologi? Hvis vi ser på spådommene til fortidens futurister, viste nesten ingen av deres prediksjoner seg som nøyaktige
Bostrom: Apropos denne disiplinen, jeg tror ikke den har noen verdi.
Nick Bostrom. Foto: Tom Pilston for The Washington Post / Getty Images.
Ja, men du prøver bare å forutsi visse globale hendelser i fremtiden
Jeg vil ikke beskrive som futurologi hva jeg eller en gruppe forskere under min ledelse gjør. Vi gjør visse ting. Først av alt utvikler vi konsepter for å gjøre det lettere å finne mønstre mellom hendelser i nåtiden og deres langsiktige konsekvenser, for å se hvor de kan lede oss og om noe kan endres fundamentalt.
Vi prøver også å finne ut hvilke endringer som vil føre til et positivt resultat, og hvilke til et negativt. For eksempel begrepet eksistensielle risikoer, som fører til at intelligent liv vil dø ut eller bli sittende fast i en slags radikal ikke-optimal tilstand. I dette eksemplet er konsekvensene av en eksistensiell katastrofe veldig lett å forutsi og ekstremt relevante med tanke på et visst verdiperspektiv, noe som innebærer at fremtiden er av stor betydning. Så alt dette vil bidra til å fokusere på konsekvensene av visse handlinger.
Salgsfremmende video:
Men noe av forskningen vi gjør er mye mer spesifikk. For eksempel har vi en gruppe spesialister som jobber med sikkerheten til kunstig intelligens (dette er et underavsnitt av informatikk), fordi vi tror at slik innsikt definitivt vil være nødvendig i fremtiden.
Bør vi virkelig være redd for ting som sterk kunstig intelligens, fall av en himmellegeme, invasjonen av fremmede sivilisasjoner? Tror du ikke at når myndigheter som deg, Elon Musk eller Stephen Hawking snakker om slike ting, de distraherer samfunnet fra mer presserende problemer?
Jeg tror ikke at vi bare skulle tenke på problemene vi har nå. Vi bør tenke på hvor vi skal. Du må bekymre deg for både nåtiden og fremtiden. Å ta på blinklys og ikke se stiene som fører til stupet, ville være en stor feil.
Tror du virkelig at kunstig intelligens kan utgjøre en trussel for menneskeheten?
Selvfølgelig er det en sterk kunstig intelligens som kan utgjøre en trussel - ikke den som eksisterer nå. Jeg kan tenke meg visse scenarier når dette er mulig. Imidlertid ser jeg dem heller som en portal som menneskeheten må passere på vei til en bedre fremtid, noe som innebærer den uunngåelige utviklingen av maskinens superintelligens. Så spørsmålet er ikke om dette trinnet skal tas eller ikke. Det er bare det at når vi gjør det, skal det være så nøye og ansvarlig som mulig. Vi må sørge for at vi kommer gjennom portalen og ikke krasjer mot veggen.
Men trenger menneskeheten å gå gjennom denne portalen hvis en sterk AI viser seg å være bedre, smartere, raskere enn et menneske? Generelt, hvorfor, i filosofisk forstand, er det behov for en person hvis en sterk AI vil representere et mer perfekt verktøy for selvkunnskap om universet?
Jeg tror vi bør bruke maskiner som en utvidelse av menneskets vilje, slik at de kan komme oss til gode. Og det er mulig. Men det er også risikoer som kan hindre oss i å nå dette målet.
Jeg prøver å spørre om det er noen mening i eksistensen av et ufullkommen organisk liv hvis maskinen er bedre? Hvorfor skulle menneskeheten selv eksistere etter å ha utviklet sterk AI?
Du vet, det avhenger av alternativene - hva resultatet blir menneskeheten og hva disse andre livsformene blir. Jeg tror ikke at hvis noe viser seg å være mer fornuftig, mer vellykket i evolusjonær forstand enn en person, så vil det fra et synspunkt om moral være bedre enn en person. Jeg ser for meg forskjellige utfall som fører til betydelig negative konsekvenser: for eksempel kan en ekstremt avansert teknologisk sivilisasjon miste universelle verdier. Men jeg tror absolutt ikke at mennesker i sin nåværende form er ideelle vesener med ingen andre steder å utvikle seg. Og her snakker jeg ikke bare om forbedring av biologiske livsformer - man kan forestille seg positive scenarier der menneskeheten vil bli en helt digital livsform.
Så du tror at bevisstheten kan overføres til en bil?
Ja, men med fremkomsten av moden teknologi, ikke i dag.
Og tror du derfor at bevissthet utelukkende er nummereringsprosessene?
Ja.
Hvordan føler du for verkene til filosofer som postulerer bevissthetens dualistiske natur - at bevissthet er et subjektivt fenomen som eksisterer utenfor den objektive verden? Som den australske filosofen David Chalmers for eksempel beskriver det
Jeg er en tilhenger av teorien om at bevissthet er et tall. Jeg tror selvfølgelig ikke at det som gjør oss bevisste vesener gir oss en subjektiv opplevelse, avhenger av at vi ganske enkelt er laget av karbonatomer. Men hjernen vår produserer bestemte nummereringsprosesser som i prinsippet kan lanseres i et annet miljø. Og dette er nøkkelpostulatet - det er ikke materialet som er viktig, men de funksjonelle egenskapene til nummereringsprosessen i seg selv.
Og det at jeg oppfatter verden gjennom min bevissthet, er bare et sett av nevrale impulser i hjernen min?
Nøyaktig. Jeg tror at hjernen din gir opphav til din bevissthet. Men spørsmålet er hva annet som kan generere din bevissthet. Og jeg tror at det i prinsippet ikke trenger å være en organisk struktur. Dette kan for eksempel være en datamaskin.
Men vil han være klar over seg selv, ha den veldig subjektiviteten?
Jeg tror det er mulig å lage selvbevisste datamaskiner. Igjen, dette er ikke mulig nå, men i fremtiden ser jeg ingen hindringer for dette.
Hvis han var selvbevisst, ville ikke menneskeheten måtte akseptere ham som en like intelligent livsform?
Det virker som om det kan være mange helt forskjellige digitale sinn, mye mer forskjellige enn menneskelige. Selv om vi tror at vi alle er veldig forskjellige - Mor Teresa, Hitler, den smarteste personen i verden og den dummeste - er vi alle veldig lik hverandre, men hjernen til hver enkelt av oss er ikke mye forskjellig fra noen annen menneskelig hjerne. Alt dette er omtrent halvannet kilo hundrevis av milliarder nevroner. Men digitale sinn kan være veldig, veldig forskjellige og "fremmede" for oss (noen kan selvfølgelig være like våre, og noen - ikke).
Samtidig tror jeg at noen digitale sinn (spesielt de som vil ha bevissthet, vil være i stand til å føle smerte, press og så videre) vil bli tildelt forskjellige graderinger av moralsk status. Når vi utvikler mer og mer sofistikert og sofistikert kunstig intelligens, det digitale sinnet, må vi møte et visst etisk spørsmål. Og ikke bare om hvordan AI vil påvirke oss eller hvordan en person kan bruke AI i forhold til en annen person, men også om hvordan vi vil forholde oss til dette digitale sinnet.
Anta at jeg bygde en liten varde med steiner og ødela den - jeg skadet ingen. Hvis du selvfølgelig bygger den, og jeg ødelegger den, kan det skade deg, men selve varden har ingen moralsk status. Og si, en hund har det, og derfor er det galt å sparke en hund. Det er det samme med et bevisst digitalt sinn, selv om bevisstheten først er på samme nivå som et dyrs. Dette reiser det etiske spørsmålet om hvordan vi skal behandle det. Og jeg tror at tiden snart kommer til å tenke på dette alvorlig, ikke bare innenfor rammen av filosofiske seminarer, men også i en bred offentlig diskusjon.
Ramme: filmen "Keepers".
Hvis vi snakker om globale trusler, kan økningen i antall autoritære regimer i verden regnes som en av dem?
Ja, jeg tror dette er et av de mulige scenariene for en dystopisk fremtid som kan tenkes hvis ulike sosiopolitiske trender utvikler seg i feil retning lenge nok. Noen avanserte teknologier kan gjøre det lettere å utvikle disse trendene: bedre borgerovervåking, mer avanserte droner …
Nå, for å styre et land, selv om du er en diktator, trenger du støtte fra militæret og elitene. Du kan forestille deg at ved hjelp av kunstig intelligenssteknologi og robotikk, vil antallet personer som kreves for dette stadig reduseres. Til slutt kan det vise seg at et titalls mennesker vil kunne styre befolkningen i et stort land, og dette gir rike muligheter for å opprettholde eksotiske regimer.
Så ja - dette er en av risikoene, men det er også muligheten for at disse sosiopolitiske trendene vil gå i en annen retning.
Man snakker og skriver ofte om singleton - en statlig forening der beslutninger tas av et enkelt verdensorgan …
Hvis du ser på historien til artene våre, var den første enheten for politisk integrasjon til å begynne med kollektiver av jeger-samlere, bestående av maksimalt femti mennesker. Over tid ble stammer dannet under ledelse av ledere, deretter bystater, deretter nasjonalstater. Nå har vi foreninger som EU, forskjellige internasjonale organisasjoner, og dette vil fortsette til singleton vises. Det vil si at det er en fortsettelse av mangeårige historiske trender.
Slik jeg forstår det, postulerte du at det kunne være to typer singleton: “dårlig” - autoritær og “god” - egalitær …
Jeg anser overhodet ikke en "dårlig" singleton som nødvendigvis autoritær, og en "god" - egalitær. Det er forskjellige omstendigheter der en singleton kan være "god" eller "dårlig."
Vennligst forklar
Jeg vet ikke en gang hvordan jeg skal oppsummere det hele … Men du kan selvfølgelig forestille deg en "dårlig" egalitær singleton. La oss si at han kan være inhabil eller ineffektiv av forskjellige grunner. Hvis alle for eksempel lever like dårlig, ville det være et fullstendig egalitært resultat, ikke sant? Men fortsatt dårlig.
Så det er en mulighet for at en "god" autoritær singleton dukker opp?
Vel, kanskje, sammenlignet med de forskjellige alternativene, i en situasjon der en velmenende diktator er ved roret … "God" og "dårlig" er relative begrep som brukes i lys av andre mulige situasjoner. Si at hvis alternativet er en global katastrofe, vil resultatet være relativt bra.
Men hva hvis du forestiller deg den perfekte egalitære singleton? Alt dette ser ut som en slags utopi der mennesker lever uten konflikter og kriger i fullstendig harmoni. Men konflikter er iboende i menneskets natur
Menneskelig natur støpes ikke i bronse. Hvis vi vurderer situasjonen der den teknologiske modenheten til sivilisasjonen ble oppnådd (her mener jeg både bioteknologiske og kulturelle virkemidler for å endre dens forskjellige aspekter), hvis målet om å oppnå fellesgode er satt, kan dette være en god grunn til å endre menneskets natur.
Og hvordan kan dette oppnås? Bli mindre aggressiv, mer imøtekommende og så videre? Tross alt pleier folk ikke å stole på fremmede, å gruppere seg i foreninger som er imot andre foreninger
Ja, og det er deres valg og kan endres. Men hvis en gruppe mennesker behandler en annen dårlig, kan de bestemme seg for ikke å endre på en slik måte at de finner felles grunn med en annen.
Det vil si at det er mest sannsynlig at menneskelig atferd ikke kan endres på global skala?
Nøyaktig. Her snakker vi om en endring i motivasjon, og før det snakket jeg om muligheten for en slik endring når teknologiske muligheter oppstår. Og da oppstår selvfølgelig spørsmålet om folk vil bestemme seg for å bruke dem for å oppnå dette målet.
Forresten, om teknologi. Vi er alltid redde for nye teknologier. For eksempel har jeg nylig lest en kolonne i en amerikansk publikasjon, der forfatteren aksjonerte mot å forlate kontanter papirpenger, fordi ikke-kontante betalinger angivelig gir for mange muligheter for banker til å kontrollere befolkningen. Er du enig i dette synspunktet? Er dette virkelig en trussel mot samfunnet?
Cash er en anonym sikkerhet. Du kan betale med sedler og ikke bli identifisert. Alt dette reduserer bankenes og statens mulighet til å kontrollere hverdagen til innbyggerne, som under visse omstendigheter kan være ganske nyttig - for eksempel i despotiske regimer. Men av de samme grunnene åpner det for alle slags negative transaksjoner. Kriminell aktivitet innebærer anonyme betalinger, overføring av regninger i konvolutter eller deres moderne motstykke - betalinger i cryptocurrencies. De er mye vanskeligere å gjennomføre, for eksempel, gjennom VISA-systemet, der dine personopplysninger er knyttet til hver transaksjon.
Så det er veldig vanskelig å bestemme seg for i hvilken retning du skal "flytte glidebryteren". Det er forskjellige scenarier der du kanskje vil ha mer sosial kontroll over transaksjoner for å gjøre livet vanskeligere for for eksempel kriminelle organisasjoner. Siden deres aktiviteter er skadelige for samfunnet, vil du sannsynligvis ønske å ha måter å begrense dem på, og en slik måte er å regulere økonomiske transaksjoner.
Dette er ett eksempel. Men hva med aktivister som ber om forbud mot Uber og lignende tjenester, siden de, sier de, krenker taxisjåførens rettigheter?
Jeg vet ikke hvilke rettigheter Uber krenker. Jeg tror de bare ikke vil ha konkurranse.
Tror du slike mennesker kan kalles neoluddites?
Du må se på argumentasjonen til spesifikke individer. I alle fall tror jeg ikke at merking av dem vil føre til forståelse av deres stilling. Du må lytte til argumentene deres og bestemme om de er gode fra ditt synspunkt eller ikke.
Ramme: filmen "Likevekt".
La oss snakke om transhumanisme. Det er en populær kritikk av transhumanisme, ifølge hvilken bioteknologi, kroppsmodifiseringer ikke vil være tilgjengelige for fattige mennesker og borgere med gjennomsnittlig inntekt. Bare de rike - den ene prosenten av befolkningen - kan få dem, og dette vil føre til en katastrofal økning av ulikheten i samfunnet. Dette er ikke sant? Eller synes du at alt er rettferdig: de rike og vellykkede skal ha det beste?
Dette må analyseres med spesifikke eksempler. Jeg tror ikke at all bioteknologi som brukes til å forbedre menneskekroppen, skal være dyr. Ta for eksempel moderne Modafinil, et medikament som brukes til å forbedre den kognitive ytelsen (la oss si at det hjelper noen mennesker). Jada, det koster penger, men ikke mer enn et glass Starbucks cappuccino de drikker hver dag. Og hvis han gjør jobben sin, er han pengene sine verdt.
Moderne farmakologiske midler som på en eller annen måte forbedrer visse egenskaper hos en person er generelt lite dyre. Snarere er problemet at du trenger å få resepter til dem. Det er lettere å få et slikt stoff for en person med god utdanning. Først av alt, han vil vite om eksistensen av dette middelet, det vil være lettere for ham å finne en lege han kjenner som kan skrive ham denne resepten … Alt dette vil være mye vanskeligere for en uutdannet arbeider eller bonde å gjøre enn for en intellektuell, en bankmann og så videre. Men hinderet ligger i dette, og ikke i mengden penger i seg selv.
Hvis vi snakker om fremtidens teknologier, kan de selvfølgelig være veldig dyre og diskriminerende i denne forstand. Og samfunnet må ta stilling til om de er nyttige nok til å subsidiere dem - i samme forstand at det nå gis tilskudd til helsehjelp.
Hvis vi snakker om subsidier, hva synes du om den garanterte inntekten, mengden penger som staten regelmessig betaler til hvert samfunnsmedlem, uansett om han jobber eller ikke? Bør det bli en vanlig menneskelig praksis?
Jeg tror at dette problemet bør benyttes fra samme synspunkt som kunstig intelligens: det skal komme hele menneskeheten til gode og overholde etiske idealer. Det ser ut til at alle mennesker som når en viss alder bør få sin del av visse fordeler. Hvordan jeg best gjør dette, vil det være en konstant strøm av inntekt eller en viss kapital som er betalt en gang, som en person deretter kan bruke etter eget skjønn på visse tjenester og varer, vet jeg ikke ennå. Å opprettholde en uavbrutt inntektsstrøm avhenger igjen av den økonomiske situasjonen. Og på lang sikt bør det forstås at vi mest sannsynlig vil måtte møte en eksponentiell vekst i verdens befolkning, som kan overstige veksten i verdensøkonomien - et noe malthusisk argument.
Tror du det nåværende europeiske velferdssystemet - Welfer - har feil?
Det virker ganske bra for meg. Selvfølgelig er det måter å forbedre det. Men i alle fall er det bra når det er et velferdssystem i rike økonomier som har råd.
Hva synes du om samtidens venstreorienterte politikk - politisk korrekthet, inkludering og så videre? Jobber hun virkelig til beste for alle?
På den ene siden fratar tilstedeværelsen av ting som ikke kan snakkes og tenkes på meg som filosof noen muligheter. Jeg tror at noen ganger er den bitre sannheten god, selv om den krenker noen, og du må betale en betydelig pris for å tabuere diskusjonen om hva som er en del av moderne virkelighet.
På den annen side, hvis dette bidrar til byggingen av et mer følsomt samfunn for samfunnets problemer, hvis representanter gjør sitt beste for ikke å skade hverandre, og dermed redusere nivået av aggresjon og vold … Alt dette kan være en ekstremt positiv ting, selv om det i nær fremtid representerer visse risikoer. Hvis du er ekstremt engstelig for å være politisk korrekt om små daglige spørsmål, reduseres sannsynligheten for at du har tenkt å gjennomføre en slags større og brutal etnisk rensing eller starte en krig betydelig. Generelt, hvis det gjør oss mer sensitive i små ting, vil det hjelpe i global forstand, og alle de små manglene ved slike programmer vil være helt berettigede.
Jeg leste i en av publikasjonene dine at moderne vestlig kultur "saboterer aktivt vår fruktbarhet på grunn av innføring av prevensjon." Et ganske konservativt argument. Kan du forklare det?
Dette mente jeg: hvis du ikke bruker prevensjon, vil du få flere babyer, noe som betyr at flere babyer vil overleve. Nå føder mennesker færre barn enn de kunne, noe som betyr at de ikke er i evolusjonær balanse med det moderne miljøet.
Bør vi gi den primære rollen til biologisk evolusjon fremfor sosial?
Jeg mener at først og fremst hovedrollen bør spilles av universelle menneskelige verdier, og ikke noen biologiske oppgaver.
Så hvorfor ikke bruke prevensjon?
Selvfølgelig kan du sabotere reproduksjonspotensialet ditt, men du må være klar over hva du gjør, og dette er veldig gunstig. Hvis du for eksempel vurderer langsiktige scenarier for utvikling av menneskelig sivilisasjon, må du ta hensyn til at mennesker som saboterer reproduksjonspotensialet på en eller annen måte vil forsvinne fra jordens overflate. Genene deres vil ikke være i planetarisk genbasseng med mindre denne policyen blir endret.
Nå, på kort sikt, trenger du ikke tenke på det, men du bør være klar over at her handler du mot forskjellige evolusjonsstendenser. Og det er viktig å erkjenne at dette vil ha en viss effekt på lang sikt.
Ramme: filmen "Lucy".
Fungerer biologisk utvikling fortsatt i det menneskelige samfunn?
Selvfølgelig. Det fungerer i den menneskelige befolkningen akkurat som i andre befolkninger. Selvfølgelig er det moderne miljøet vi lever veldig forskjellig fra miljøet med evolusjonær tilpasningsevne, men jeg tror at akkurat nå er det et veldig sterkt evolusjonsutvalg i den menneskelige befolkningen. På den økologiske tidsskalaen går det raskt, men si i forhold til tidsskalaen for teknologisk fremgang, tvert imot, veldig sakte. Selv når utvalget er veldig raskt, må mange generasjoner gå før et stort skifte inntreffer. Samtidig tror jeg at vi i løpet av et par generasjoner vil motta perfekte verktøy for å manipulere menneskets genom og andre muligheter for å endre en persons tilstand. Derfor er jeg ikke spesielt bekymret for de langsomme trender i biologisk utvikling, gitt utsiktene til slike teknologier i horisonten.
Bør vi velge veien for å forbedre genpoolen gjennom bioteknologi - velge de "dårlige" genene og beholde de "gode"? Vil dette ikke føre til sosial darwinisme?
Jeg tror ikke at genetisk medisin eller genetisk seleksjon forutsetter en sosial darwinistisk tilnærming. Du kan se hvordan dette skjer nå: når par bestemmer seg for å gjennomgå in vitro-befruktning, gjennomgår embryoene genetisk diagnostikk. I stedet for bare å sjekke celler for kromosomavvik, kan vi diagnostisere en lang rekke problemer, inkludert de som ikke er relatert til sykdom. For eksempel disposisjon for et langt sunt liv, intelligens, atletisk evne, personlighetstrekk … Du vil ha mer informasjon for å velge hvilke av 6-8-10 embryoer som skal implanteres under IVF-prosedyren. Og det virker for meg at akkurat denne konteksten mest sannsynlig er når det gjelder bruk av genetiske teknologier.
Du er forfatteren av "beviset på simulering" som vi kan leve i en virkelighet som er simulert på en slags datamaskin. Hvordan kan en vanlig person forestille seg dette? Det er vanskelig å fordøye med det første
Jeg forstår ikke helt hvilken oppgave du setter. Du trenger bare å akseptere at ingenting endrer seg, det er bare at grunnlaget for denne observerbare virkeligheten som vi eksisterer ikke er fysikkens grunnleggende lover, men et slags dataprogram innebygd i en datamaskin, skapt av noen avanserte intelligente vesener - muligens mer teknologisk avanserte sivilisasjonen (sannsynligvis superintelligent). Så alt vi ser er prosessene som kjører på denne datamaskinen, men for innbyggerne i denne simuleringen - oss - er det ingen stor forskjell i hva som er dens base.
Det er mer interessant å tenke på de praktiske grunnene for å lage en slik simulering. De kan være forskjellige, forfatterne kan kjøre andre simuleringer for å løse andre problemer. Det er mange alternativer for hvordan simuleringen kan ende - og så videre. Det betyr virkelig noe når man sammenligner med en situasjon der denne virkeligheten ville være grunnleggende.
Hvis vi snakker om en datamaskin som simulerer virkeligheten, hva med fysikkens lover? En slik datamaskin vil være gigantisk og vil forbruke en utenkelig mengde energi, ellers hvordan skal jeg beregne hver elementær partikkel?
Sikker. Derfor tror jeg ikke at denne sivilisasjonen vil etterligne alle detaljene i virkeligheten, ned til atomer. Jeg tror at det er mer rasjonelt å etterligne de delene av virkeligheten som vi observerer den gangen vi observerer dem (kanskje noen flere).
Ta for eksempel atomene på bordet du sitter ved. Du aner ikke hva som skjer med dem nå. Du trenger bare å vite dimensjonene på bordet, dens farge, dens vekt. Og i simuleringen vil det være nok å beregne bare disse attributtene. Hvis du tar et elektronmikroskop og legger et stykke bord under det, vil du se flere detaljer som vil bli beregnet spesielt for dette. Men de vil bare bli beregnet på en slik måte at du, en vanlig person, ikke vil merke noen avvik.
Så hvis du er superintelligensen som fullstendig kontrollerer virkeligheten - helt ned til alle aspekter av dens elementer, er det lurt å legge til detaljer når du tar hensyn til dem.
Det viser seg at virkeligheten simuleres for alle syv milliarder mennesker som lever på jorden? For dyr? For romvesener?
Det avhenger av hvilken type simulering. Hvis vi snakker om simulering for alle levende mennesker, kan man tenke seg at den dekker hele menneskehetens historie og ble lansert ganske nylig. Du kan også forestille deg en simulering som blir utført for en bestemt person eller en liten gruppe mennesker. Så oppstår selvfølgelig spørsmålet: hvordan er alle de andre menneskene vi ser i det her, mens de ikke er bevisste vesener? Kanskje blir de bare simulert med tanke på utseendet deres, som avatarene som finnes i videospill. Det gjenstår ett uløst spørsmål: hvordan imitere menneskers ytre oppførsel uten å produsere, som en bivirkning, bevissthet, som, som vi vanligvis antar, at enhver person besitter? Så, sannsynligvis, å skape en troverdig person når det gjelder oppførsel,må du simulere prosessene som foregår i hjernen hans med spesiell nøyaktighet, som på en eller annen måte skal føre til at et bevisst sinn oppstår. Selv om det selvfølgelig eksisterer muligheten for at du ganske enkelt kan falske den. Og så kan vi forestille oss eksistensen av en liten gruppe simuleringer-mennesker der bevisstheten har utviklet seg fullstendig, mens resten bare er statister.
I henhold til hypotesen din, kan det være mange simuleringer i en simulering - som hekkende dukker. Er eksistensen av et grunnleggende, ikke imitert univers obligatorisk i dette tilfellet? Hvordan så det ut og hva er det?
Argumentet mitt antar at det er et grunnleggende nivå av fysisk virkelighet der visse vesener utvikler seg, blir ekstremt teknologisk avanserte, bruker disse teknologiene for å oppnå superintelligens (eller superintelligent kunstig intelligens) og så har de mye ressurser og tid. De bruker det, inkludert å lage disse simuleringene av intelligente mennesker - kanskje som oss.
Kanskje lar de simuleringen fortsette å fungere etter at disse menneskene har laget sin simulering, som deretter blir en simulering på andre nivå. Men alt dette vil eksistere på en datamaskin skapt av en sivilisasjon som eksisterer på det grunnleggende nivået av fysisk virkelighet, og samtidig kan det være et helt hierarki av simuleringer i simulering. Men her vil det være en spesifikk grense for alt dette, siden til slutt blir imitasjonen utført på en datamaskin som eksisterer på det grunnleggende nivået av fysisk virkelighet. Det er grenser for den tilgjengelige energien for å opprettholde disse kapasitetene, og derfor en grense for antall nestede simuleringer. Selvfølgelig kan du ta en viss esoterisk tilnærming, prøve å finne smutthull for uendelig hekking, men jeg synes ikke det er verdt å gjøre.
Hva om de simulerer verdener der fysikkens lover er helt forskjellige fra vår?
Dette er også mulig, de kan lage en slags fantastiske simuleringer.
Vel, hvis vi lever i en simulering, hva er da poenget med å lage planer, forutsi globale risikoer … Eksistensielt spørsmål - hva er poenget med livet i en simulering, når skaperne bare kan slå av datamaskinens strøm og alt vil ende?
Generelt sett betyr "bevis på simulering" ikke at vi lever i en simulering, men snarere om grensene for hva vi kan tro på. Det forutsetter at ett av tre utsagn er sant. Den første er at vi lever i en simulering, men det er to alternativer. Det andre er at alle sivilisasjoner dør ut før de når teknologisk modenhet, og den tredje er at alle modne sivilisasjoner mister interessen for å lage slike simuleringer, de bestemmer seg ganske enkelt for ikke å gjøre dem.
Men innenfor rammen av vårt argument, hvis vi virkelig lever i en simulering, ser jeg ikke hvorfor meningen med hverdagen avhenger av at grunnlaget for vår virkelighet er imitasjon skapt av en viss avansert sivilisasjon, og ikke de grunnleggende lovene i fysikk. Uansett, hva som vil skje med deg, hva som vil skje med dine slektninger, venner og andre mennesker, avhenger av dine handlinger. Så det du gjør i simuleringen betyr noe, selv om det ikke gjør det utenfor.
I tillegg er det en mulighet for at det som skjer inne i simuleringen påvirker det som er utenfor den. Kanskje utviklet skaperne det for vitenskapelige formål, for å studere hva folk gjør, og dette påvirker hva de gjør, fordi det er viktig for dem å forstå menneskets natur ut fra valgene vi tar. Så det kan være et ekstra sett med konsekvenser utover det åpenbare.
Intervjuet av Mikhail Karpov
