Nesten alle som har dykket til og med litt inn i temaet kunstig intelligens, må komme til den konklusjonen at kunstig intelligens enten vil føre oss til en forferdelig apokalypse, eller direkte til en fabelaktig utopi. Og det er praktisk talt ingen mellomalternativer. Selvfølgelig er dette delvis diktert av det faktum at høye slagord som "Slutten er nær!" eller for eksempel "Utopia kommer!" Men fortsatt…
Det koker delvis ned på hvordan folk føler om endring, spesielt stor forandring. Millennialisme har ingenting å gjøre med å bli født på 90-tallet, være en "millennial" og huske serien om vampyrvinneren Buffy. Det er en tenkestil om fremtiden som er forbundet med en dyptliggende skjebnesans. Millennialisme er "forventningen om at vår verden vil bli ødelagt og erstattet av en perfekt verden, og at det vil dukke opp en forløser som vil kaste ned alt ondt og kunne trøste de rettferdige."
Følgelig knytter troen til tusenårene ideene om skapelse og ødeleggelse tett. Blant dem er ideene om apokalyptiske, enorme, seismiske skift som kan ødelegge stoffet i den gamle verden og bygge noe helt nytt. Et lignende trossystem eksisterer i mange store verdensreligioner, og til og med i de ikke så agnostiske og ateistiske religionene, som tror på teknologi snarere enn på guddommelige essenser.
Tenk for eksempel på hvordan futurister forventer en teknologisk egenart. I følge Ray Kurzweil er singulariteten beslektet med skapelsen av paradis. Alle vil være udødelige fordi det vil dukke opp bioteknologi som kan helbrede sykdommene våre; og hjernen vår kan lastes opp til skyen; lidelse og ulikhet vil forsvinne som fenomener. “Destruction of the world” erstattes av Silicon Valley favorittuttrykk: disruption, som er en radikal endring i bransjen. Og som det er tilfellet med andre tusenårs tro, er ditt endelige syn avhengig av hva du forventer: fødselen av en utopi eller verdens ende.
Det er mange veldig gode grunner til å være skeptiske til denne typen tenkning. Kanskje den mest overbevisende av disse årsakene er at all tro på tusenårene rett og slett gjenspeiler folks holdninger til endring; bare se på hvor mange varianter av denne troen har vokst i verden.
Disse troene finnes i aspekter av kristen teologi, selv om de ble populære i sin moderne form i det nittende og tjuende århundre. Ideer som Evig sorg, mange års motgang og lidelse og bortrykkelsen, når de rettferdige blir oppreist og ondskapen blir straffet. Etter all denne ødeleggelsen vil verden bli gjenopprettet, eller folk vil gå til himmelen.
Til tross for dogmatisk ateisme var det også mange lignende tro på marxismen. Det eneste spørsmålet er i forhold til historien. Akkurat som troende leter etter signaler som kan antyde at alle profetiene blir oppfylt, leter marxister etter tegn på at vi er i kapitalismens sluttfaser. De mener at samfunnet er nedverdigende og uunngåelig vil degenerere helt til bunns - faktisk, som kristne også tror.
Som marxismen hevder, når utnyttelse av arbeiderklassen av de rike ikke er bærekraftig, samler og styrter arbeiderklassen undertrykkeren. "Sorg" erstattes av "revolusjon". Noen ganger blir revolusjonerende personer som Lenin eller Marx selv utropt som messiaser som bringer tusenårsriket nærmere; retorikken deres inneholder alltid kall for ødeleggelse av det gamle systemet, på ruinene som "vi vil bygge vårt, vi vil bygge en ny verden." De rettferdige arbeiderne vil få det de fortjener, og det onde borgerskapet vil bli ødelagt.
Kampanjevideo:
Selv i norrøn mytologi er det et element av dette, som bemerket av James Hughes i essayet hans i Nick Bostroms bok, Global Catastrophic Risks. I Ragnarok blir både mennesker og guder beseiret i den siste apokalyptiske kampen, men siden dette alt er litt dystert, la skandinaverne til ideen om et nytt land som de overlevende vil leve i harmoni på.
Dommedag har også blitt en kultursti. Ta de gamle egypterne og deres tro på etterlivet; underverdenens herre, Osiris, veier hjertet til en dødelig sammen med en fjær. Hvis hjertet til den avdøde blir for tynget av overtredelser, vil demonen spise det og håpet om et etterliv vil forsvinne.
Sannsynligvis vil noe lignende skje i løpet av singulariteten. Når vår teknologi forbedres, og derfor styrken vår, vil våre hjerter, menneskers hjerter, veies mot fjær. Hvis de viser seg å være for tunge - med dumhet, arroganse, fordommer, ondskap - vil vi mislykkes testen og bli ødelagt. Men hvis vi går gjennom og ut av singulariteten, venter himmelen oss. Som med andre trossystemer er det ikke rom for vantro; hele samfunnet vil endre seg radikalt, enten du liker det eller ikke. Teknologisk beundring.
Hver større utvikling ser ut til å provosere et lignende svar. Og atomvåpen også. Enten vil det være det siste strået, og vi vil ødelegge oss selv, eller kjernekraft kan brukes til å skape en bedre verden. I de tidlige dagene av kjernefysisk tid snakket folk om elektrisitet "for billig til å telle." Forskere som jobber med bomben trodde ofte at med en slik destruktiv kraft i menneskers hender, ville vi ganske enkelt måtte komme sammen og jobbe sammen som en art.
Når vi ser det samme svaret, om og om igjen, under forskjellige omstendigheter, dukker opp på forskjellige felt, det være seg vitenskap, politikk eller religion, må vi vurdere menneskelig skjevhet. Vi elsker troen på tusenårsriket, så når ideen om kunstig intelligens som overgår menneskelig intelligens kommer opp, pålegger vi umiddelbart et kjent mønster.
Vi liker ikke fakta. Vi liker ikke informasjonen. Vi er ikke så rasjonelle som vi tror vi er. Vi lager fortellinger. Fysikere observerer verden, og vi fletter våre egne observasjoner inn i fortellingsteorier, historier om bittesmå biljardkuler som flyr hit og dit og kolliderer med hverandre, eller om rom og tid som bøyer, bøyer og utvides. Historikere prøver å gi mening til en endeløs strøm av hendelser. Vi elsker historier: historier som er lagt opp vår fortid, vår nåtid, og de forbereder oss også på fremtiden.
Tusenårsfortellingen er veldig vakker og overbevisende. Han gir deg sosial endring. Han kan rettferdiggjøre din daglige lidelse hvis du sørger. Han gir deg håp om at livet ditt er viktig og meningsfylt. Det gir deg en følelse av at ting utvikler seg i en bestemt retning, i henhold til reglene, og ikke bare i kaos. Han lover at de rettferdige vil bli frelst og kjetterne straffet, selv om det er lidelse på vei. Endelig lover tusenårsfortellingen himmelen ved enden av tunnelen.
Vi må være forsiktige med tusenårsfortellingen når vi tenker på teknologisk utvikling, singularitet og eksistensielle risikoer. Vi ropte”ulver!” Mange ganger da de ikke var der. Kanskje selv nå er verden ikke på randen av en katastrofe. Selvfølgelig er denne historien ikke så attraktiv. Selvfølgelig vil alle ha en fortryllende slutt.
Men grav dypere, og du vil finne at tusenårs tro ikke alltid er den mest lovende, fordi de tar den menneskelige agenten ut av ligningen. Vi må tro på gråtoner og forlate den uhyggelige apokalypsen med den røde øyne og den fantastiske utopien med den allmektige AI som elsker mennesker.
