Nesten alle som dykker til og med litt inn i temaet kunstig intelligens, kommer til den konklusjonen at det enten vil føre oss til en brennende apokalypse, eller til en magisk utopi. Det er praktisk talt ingen muligheter mellom. Selvfølgelig skyldes dette delvis at slagord som "Slutten er nær!" eller "Utopia kommer!" Men fortsatt…
En del av det koker ned til hvordan folk føler om endring, spesielt stort. Millennialisme har ingenting å gjøre med å være tusenårsrik, å være født på 90-tallet og huske TV-serien Buffy the Vampire Slayer. Det er en tenkestil om fremtiden som er forbundet med en dyptliggende skjebnesans. Millennialisme er "forventningen om at verden vil bli ødelagt og erstattet av en perfekt verden, og at en forløser vil komme som vil bringe ned ondskap og trøste de rettferdige."
Tusenårs-troen knytter følgelig nært tankene om ødeleggelse og skapelse. Blant dem er ideene om store, apokalyptiske, seismiske skift som vil ødelegge stoffet i den gamle verden og bygge noe helt nytt. Et lignende trossystem eksisterer i mange av verdens største religioner, og til og med i ikke-helt ateistiske og agnostiske religioner som tror på teknologi.
Se for eksempel hvordan futurister venter på en teknologisk singularitet. I følge Ray Kurzweil er singulariteten skapelsen av paradis. Alle vil bli udødelige takket være bioteknologi som vil helbrede sykdommene våre; hjernen vår kan lastes opp til skyen; ulikhet og lidelse vil forsvinne som fenomener. “Ødeleggelse av verden” blir erstattet av Silicon Valley favorittuttrykk: forstyrrelse eller radikale industriendringer. Og som med andre tusenårs tro, avhenger ditt endelige syn på om du venter på verdens ende eller fødselen av en utopi.
Det er mange gode grunner til å være skeptiske til denne typen tenkning. Kanskje den mest overbevisende av disse er at troen på tusenårene ganske enkelt gjenspeiler folks holdninger til endring; bare se på hvor mange varianter av denne troen har vokst opp i verden.
Disse troene er til stede i aspekter av kristen teologi, selv om de ble populære i sin moderne form på 1800- og 1900-tallet. Ideer som Evig trengsel - mange år med lidelse og vanskeligheter - og bortrykkelsen, når de rettferdige vil bli oppreist og det onde straffet. Etter denne ødeleggelsen vil verden bli skapt på nytt, ellers vil folk gå til paradis.
Til tross for dogmatisk ateisme var det mange lignende tro på marxismen. Det eneste spørsmålet er i forhold til historien. Akkurat som troende leter etter signaler som antyder at profetien blir oppfylt, leter marxister etter tegn på at vi er i kapitalismens sluttfaser. De tror at samfunnet uunngåelig vil degradere og degenerere helt til bunns - faktisk, slik de kristne tror.
I følge marxismen, når utnyttelse av arbeiderklassen av de rike blir uholdbar, samler arbeiderklassen og styrter undertrykkeren. "Sorg" erstattes av "revolusjon". Noen ganger hylles revolusjonerende personer som Lenin eller Marx selv som messiaser som bringer tusenårsriket nærmere; retorikken deres inneholder uunngåelig krav om ødeleggelse av det gamle systemet, på ruinene som "vi vil bygge vårt, vi vil bygge en ny verden." De rettferdige arbeiderne vil få sitt rettmessige, og det onde borgerskapet vil bli ødelagt.
Kampanjevideo:
Selv i norrøn mytologi er det et element av dette, slik James Hughes bemerker i sitt essay i Nick Bostroms bok, Global Catastrophic Risks. I Ragnarok blir både mennesker og guder beseiret i den siste apokalyptiske kampen, men siden dette alt er litt dystert, la skandinaverne til ideen om et nytt land som de overlevende vil leve i harmoni på.
Dommedag har også blitt en kultursti. Ta de gamle egypterne og deres tro på etterlivet; underverdenens herre, Osiris, veier hjertet til en dødelig sammen med en fjær. Hvis hjertet til den avdøde blir for tynget av overtredelser, vil demonen spise det og håpet om et etterliv vil forsvinne.
Kanskje noe slikt vil skje i løpet av singulariteten. Når vår teknologi forbedres, og derfor styrken vår, vil våre hjerter, menneskers hjerter, veies mot fjær. Hvis de viser seg å være for tunge - med dumhet, arroganse, fordommer, ondskap - vil vi mislykkes testen og bli ødelagt. Men hvis vi går gjennom og ut av singulariteten, venter himmelen oss. Som med andre trossystemer er det ikke rom for vantro; hele samfunnet vil endre seg radikalt, enten du liker det eller ikke. Teknologisk beundring.
Det ser ut til at enhver større utvikling fremkaller et slikt svar. Og atomvåpen også. Enten vil det være det siste strået, og vi vil ødelegge oss selv, eller kjernekraft kan brukes til å skape en bedre verden. I de tidlige dagene av kjernefysisk tid snakket folk om elektrisitet "for billig til å telle." Forskere som jobbet med bomben, trodde ofte at med en slik destruktiv kraft i menneskets hender, måtte vi rett og slett komme sammen og jobbe sammen som en art.
Når vi ser det samme svaret, om og om igjen, under forskjellige omstendigheter, som oppstår på forskjellige felt, det være seg vitenskap, religion eller politikk, må vi vurdere menneskelig skjevhet. Vi elsker troen på tusenårsriket, så når ideen om kunstig intelligens som overgår menneskelig intelligens kommer opp, pålegger vi umiddelbart et kjent mønster.
Vi liker ikke fakta. Vi liker ikke informasjonen. Vi er ikke så rasjonelle som vi tror vi er. Vi lager fortellinger. Fysikere observerer verden, og vi fletter våre egne observasjoner inn i fortellingsteorier, historier om bittesmå biljardkuler som flyr hit og dit og kolliderer med hverandre, eller om rom og tid som bøyer, bøyer og utvides. Historikere prøver å gi mening til en endeløs strøm av hendelser. Vi elsker historier: historier som er lagt opp vår fortid, vår nåtid, og de forbereder oss også på fremtiden.
Tusenårsfortellingen er vakker og overbevisende. Han gir deg sosial endring. Han kan rettferdiggjøre din daglige lidelse hvis du sørger. Han gir deg håp om at livet ditt er viktig og meningsfylt. Det gir deg en følelse av at ting utvikler seg i en bestemt retning, i henhold til reglene, og ikke bare i kaos. Han lover at de rettferdige vil bli frelst og kjetterne straffet, selv om det er lidelse på vei. Endelig lover tusenårsfortellingen himmelen ved enden av tunnelen.
Vi bør være forsiktige med tusenårsfortellingen når vi tenker på teknologisk utvikling, singularitet og eksistensielle risikoer. Vi ropte”ulver!” Mange ganger da de ikke var der. Kanskje selv nå er verden ikke på randen av en katastrofe. Selvfølgelig er denne historien ikke så attraktiv. Selvfølgelig vil alle ha en fortryllende slutt.
Men grave dypere, og du vil finne at tusenårs tro ikke alltid er den mest lovende, fordi de tar den menneskelige agenten ut av ligningen. Vi blir nødt til å tro på gråtoner og forlate den uhyggelige apokalypsen med den røde øyne og den fantastiske utopien med den allmektige AI som elsker mennesker.
Ilya Khel
