Menneskeheten har en egenskap som høyt utviklede fremmede sivilisasjoner mest sannsynlig ikke har - bevissthet.
Det er mulig at mennesker ikke har det høyeste nivået av mental utvikling i universet. Siden Jorden er en relativt ung planet, kan de eldste sivilisasjonene være milliarder av år eldre enn oss. Men selv på jorden vil ikke Homo sapiens dominere i lang tid som den mest intelligente biologiske arten.
Verdensmestere i vinnere, sjakk og quiz er intelligente dataprogrammer. Det forventes at kunstig intelligens vil erstatte mange menneskelige yrker i løpet av de neste tiårene. Og gitt det raske tempoet i utviklingen, er det ganske mulig at den snart vil bli transformert til en generell kunstig intelligens, som i likhet med menneskesinnet vil være i stand til å kombinere evnen til å analysere ulike opplysninger, vise fleksibilitet og sunn fornuft. Og derfra er det ikke langt til fremveksten av superintelligent kunstig intelligens, som i alle henseender er mye smartere enn mennesker - selv i områder som vitenskapelig tenkning og sosiale ferdigheter, som nå ser ut til å være det menneskelige sinnets privilegium. Hvert av de levende menneskene kan være et av de siste trinnene i den evolusjonære stigen,fører fra den aller første levende cellen til syntetisk kunstig intelligens.
Vi begynner nå å innse at disse to formene for overmenneskelig intelligens - fremmed og kunstig - ikke er så forskjellige. Den tekniske utviklingen som vi ser i dag kunne ha skjedd før, et sted i universet. Overgangen fra biologisk intelligens til en kunstig opprettet kan være en vanlig mal, implementert om og om igjen i alle hjørner av kosmos. De største intelligensene i universet er sannsynligvis av postbiologisk opprinnelse, og utvikler seg fra en gang biologiske sivilisasjoner. (Dette synspunktet, sammen med andre, deler jeg med Paul Davis, Stephen Dick, Martin Rees og Seth Shostak). Basert på opplevelsen fra menneskeheten - og vi har bare ett eksempel - kan overgangen fra biologisk til postbiologisk bare ta noen hundre år.
Jeg foretrekker begrepet “kunstig” framfor “postbiologisk” fordi kontrasten mellom biologisk og syntetisk ikke er så skarp. Se for deg et biologisk sinn som blir en superintelligens gjennom rent biologiske forbedringer av dets evner, for eksempel nanoteknologisk forbedrede nevrale minikolonner. En slik levende organisme vil bli betraktet som postbiologisk, men ikke alle vil kalle det "kunstig intelligens." Eller vurder computronium, bygget av rent biologiske materialer, som Cylon raider (romfighter) i sci-fi media-serien Battlestar Galactica.
Hovedpoenget er at det ikke er noen grunn til å tenke på menneskeheten som den høyeste form for intelligens. Hjernen vår tilpasser seg visse miljøforhold og er sterkt begrenset av kjemiske og historiske faktorer. Men teknologien har åpnet for et stort rom med designparametere som tilbyr nye materialer og arbeidsmetoder, samt nye muligheter for å utforske dette rommet raskere enn med tradisjonell biologisk evolusjon. Og jeg tror årsakene til at kunstig intelligens vil overgå oss allerede er synlige i dag.
Utenomjordisk kunstig intelligens kan forfølge mål som er i strid med interessene i det biologiske livet
Allerede er det beste middel for behandling av informasjon ikke grupper av nevroner, men silisiummikrokretser. Topphastigheten til nevroner er omtrent 200 Hz, sammenlignet med gigahertz-transistorer i moderne mikroprosessorer. Til tross for at den menneskelige hjerne fremdeles er mye mer intelligent enn en datamaskin, har maskiner fremdeles nesten ubegrensede forbedringsmuligheter. Bare litt mer, og de vil bli designet for å matche kapasiteten til den menneskelige hjerne eller til og med overgå dem, ved å reversere hjernen og forbedre algoritmene, eller ved å kombinere reversering og rasjonelle algoritmer som ikke er basert på arbeidet til den menneskelige hjerne.
Kampanjevideo:
I tillegg kan kunstig intelligens lastes inn flere steder samtidig, det er lett å vedlikeholde og modifisere den, og den kan også bevares under forhold der biologisk liv, inkludert interstellar reise, knapt overlever. Våre små hjerner er begrenset av volumet på hodeskallen vår og metabolismen vår; superintelligent kunstig intelligens, derimot, er i stand til å spre seg over Internett og til og med lage computronium på skalaen til galaksen, ved å bruke all sin materie for å heve informasjonsbehandlingsnivået til det maksimale. Uten tvil ville en superintelligent kunstig intelligens være mye mer holdbar enn vårt menneskelige sinn.
La oss si at jeg har rett. La oss si at intelligent liv der ute er postbiologisk. Hvilke konklusjoner bør vi trekke? For tiden er det veltalende diskusjoner om eksistensen av kunstig intelligens på jorden. Det er to kontroversielle spørsmål: det såkalte "kontrollproblemet" og naturen til subjektiv erfaring, som påvirker vår forståelse av utenomjordiske sivilisasjoner og deres innvirkning på oss i tilfelle kontakt.
Ray Kurzweil er optimistisk med hensyn til den postbiologiske evolusjonsfasen, noe som tyder på at menneskeheten vil slå seg sammen med maskiner og oppnå en oppsiktsvekkende teknologisk utopisme. Men Stephen Hawking, Bill Gates, Elon Musk og andre har uttrykt bekymring for at menneskeheten kan miste kontrollen over superintelligent etterretning, ettersom den kan omskrive programmet og "utslå" alle kontroller vi setter på plass. Dette er problemet med kontroll, som er vår evne til å kontrollere den mystiske og langt overlegne AI.
Superintelligent AI kan utvikles med en teknologisk unikhet - en brå overgang der akselererende teknologisk fremgang, og spesielt den eksplosive utviklingen av kunstig intelligens - reduserer sjansene våre for å forutsi eller forstå. Men selv om et slikt sinn oppstår på en mindre radikal måte, vil vi mest sannsynlig ikke være i stand til å forutsi eller kontrollere dets mål. Selv om vi kunne velge hvilke moralske prinsipper vi skulle installere i maskinene våre, er det vanskelig å definere moralsk programmering på en klar måte, og slike programmer kan uansett skrives om av superintelligens. Smarte maskiner kan omgå eksisterende sikkerhetstiltak, for eksempel nødlåsing av enheten, og dermed utgjøre en reell trussel mot biologisk liv. Det investeres millioner av dollar i AI-sikkerhetsorganisasjoner. De beste hodene innen informatikk og databehandling jobber med dette problemet. Forhåpentligvis vil forskere lage trygge systemer, men det er frykt for at problemet med kontroll er uoverstigelig.
I lys av dette kan kontakt med fremmed intelligens være farligere enn vi tror. Biologiske romvesener kan være fiendtlige, men enda farligere kan være utenomjordisk kunstig intelligens. Målene kan være i strid med det biologiske livets interesser, det kan ha intellektuelle evner som er langt bedre enn det menneskelige sinnet, og mye større levetid enn det biologiske livet.
Alt dette vitner om den forsiktighet som skal utvises i forhold til programmet Search for Extraterrestrial Intelligence (SETI), ved hjelp av hvilket vi ikke bare passivt forventer å høre signaler fra andre sivilisasjoner, men også bevisst "annonserer" for vår eksistens. Den mest berømte hendelsen skjedde i 1974, da Frank Drake og Carl Sagan sendte en melding til en av stjerneklyngene ved hjelp av et stort radioteleskop i den Puerto Ricanske byen Arecibo. Talsmenn for det utenomjordiske etterretningsprogrammet mener at i stedet for bare å lytte til signaler fra utenomjordiske sivilisasjoner, bør vi sende meldinger til stjernene nærmest Jorden ved hjelp av de kraftigste radiosendere, som i Arecibo.
Hvorfor skal bevisstløse maskiner være like viktige som biologisk intelligens?
Fra et kontrollperspektiv virker et slikt program hensynsløst for meg. Selv om en virkelig avansert sivilisasjon sannsynligvis ikke ville ha interesse av oss, ville selv en fiendtlig sivilisasjon av millioner av andre være en katastrofe. Inntil vi er sikre på at superintelligent intelligens ikke utgjør en trussel for oss, bør menneskeheten ikke tiltrekke seg oppmerksomhet fra utenomjordiske sivilisasjoner. SETI-talsmenn påpeker at radar- og radiosignalene våre allerede er detekterbare, men ganske svake og raskt blandes med naturlig galaktisk støy. Overføring av sterkere signaler som vil bli hørt nøyaktig, er fylt med farlige konsekvenser for menneskeheten.
Den tryggeste rammen er intellektuell ydmykhet. Faktisk, hvis vi utelukker de åpenbare scenariene når fremmede skip svever over jorden, som i den nylig utgitte ankomst, er jeg ikke sikker på om vi vil være i stand til å identifisere superintelligent intelligens av teknisk grunnlag. Noen forskere mener at superintelligent AI kan gi drivstoff til sorte hull eller skape Dysonsfærer, megastrukturer som absorberer energien til hele stjernene. Men fra vår moderne teknologis synspunkt er dette bare resonnement. Det er ekstremt selvsikkert å hevde at vi kan forutse beregningsevnene og energibehovet til sivilisasjoner foran oss i utvikling med millioner, om ikke milliarder av år.
Noen av de tidligste superintelligente kunstige intelligensene kan ha hatt kunnskapsbehandlingssystemer modellert på den biologiske hjernen, for eksempel det dype læringssystemet som ble opprettet ved hjelp av eksemplet på nevrale nettverk i hjernen. Deres beregningsstruktur ville være tydelig for oss, i det minste generelt. Kanskje har kunstig intelligens mål som ligner på biologiske vesener - reproduksjon og overlevelse.
Men som et selvforbedrende system, kan superintelligente kunstige intelligenser gå inn i en ugjenkjennelig form. Noen av dem kan velge å beholde kognitive funksjoner som ligner på arten de ble modellert etter, mens de satte en akseptabel grense for sin egen kognitive arkitektur. Hvem vet? Men i fravær av en slik grense, kan den fremmede superintelligensen raskt overgå vår evne til ikke bare å forstå dens handlinger, men til og med bare se etter den. Kanskje ville han til og med slå seg sammen med universets naturlige trekk; eller det kan være en del av mørk materie, som Caleb Scharf nylig foreslo.
Tilhengere av programmet for jakten på utenomjordisk etterretning mener at det er nettopp derfor vi må sende signaler ut i rommet for å gjøre det mulig for utenomjordisk intelligens å oppdage oss og skape kontaktmidler tilgjengelig for vår intellektuelt forsinkede sivilisasjon. Selv om jeg er enig i at det er grunn til å regne med SETI-programmet, er sannsynligheten for å møte farlig superintelligent intelligens langt større. Så vidt vi vet, kan en ondsinnet superintelligens infisere verdens kunstige intelligenssystemer med virus, og intelligente sivilisasjoner vil skape tilsløringsenheter. Vi, mennesker, må kanskje først oppnå vår egen unikhet før vi griper til programmet for jakten på utenomjordisk intelligens. Våre superintelligente intelligenser vil være i stand til å informere oss om utsiktene for galaktisk sikkerhet,og å veilede våre handlinger i tilfelle gjenkjenning av tegn på en annen superintelligens i universet. Fjærfugler strømmer sammen.
Det er bare naturlig å tenke på om dette betyr at menneskeheten trenger å unngå utvikling av et komplekst kunstig intelligenssystem innen romforskning; bare husk HEL-datamaskinen fra filmen "A Space Odyssey 2001". Jeg tror det er for tidlig å tenke på et forbud mot bruk av kunstig intelligens i verdensrommet i fremtiden. Når vi kan utforske universet med vår egen kunstige intelligens, vil menneskeheten nå et vippepunkt. Vi vil enten allerede miste kontrollen over kunstig intelligens - i så fall vil det ikke være noen menneskelig initierte romprosjekter - eller så vil vi holde AI-sikkerhetsspakene fast. Tiden vil vise.
Kunstig intelligens, som ikke er fullstendig utforsket, er ikke den eneste årsaken til bekymring. Vi forventer generelt at hvis vi møter avansert utenomjordisk intelligens, vil vi sannsynligvis møte skapninger som er biologisk veldig forskjellige fra oss, men som har et sinn som ligner vårt. Tenk deg at hvert øyeblikk du er våken og alltid når du sover, er det noe unikt for deg. Når soloppgangens varme nyanser kommer til øynene dine eller du puster inn aromaen av nybakt brød, har du en bevisst opplevelse. På samme måte er det noe som er karakteristisk for det fremmede sinnet - i det minste slik vi forestiller oss det. Men denne antagelsen er verdt å stille spørsmål ved. Kan en superintelligent kunstig intelligens ha en bevisst opplevelse, og i så fallhva vil vi si til det? Og hvilken innvirkning ville deres indre verden eller mangel på ha på oss?
Spørsmålet om kunstig intelligens har en indre verden er nøkkelen til vår vurdering av dens eksistens. Bevissthet er hjørnesteinen i vårt moralske og etiske system og hovedbetingelsen for oppfatningen av noen eller noe som et individ, en person og ikke en maskin. Motsatt kan spørsmålet om de er bevisste være nøkkelen til deres oppfatning av oss. Svaret på spørsmålet om kunstig intelligens har en indre verden, avhenger av denne vurderingen; han kan oppdage i oss kapasiteten til bevisst opplevelse ved å bruke sin egen subjektive opplevelse som et "springbrett". Til slutt vurderer vi livet til andre biologiske skapninger på grunn av likheten mellom våre sinn, så de fleste av oss i gru vil nekte å drepe sjimpanser, men de vil spise et eple med glede.
Men hvordan gjenkjenner vesener med enorme intellektuelle forskjeller, skapt av forskjellige underlag, bevissthet i hverandre? Filosofer over hele verden har tenkt på om bevissthet er begrenset til biologiske fenomener. Superintelligent kunstig intelligens, hvis vi skal fordype oss i filosofisk resonnement, kan på samme måte heve "problemet med biologisk bevissthet" til mennesker, samtidig som vi lurer på om vi har alt nødvendig materiale.
Ingen vet hvilken intellektuell vei supermind vil gå for å bestemme menneskers bevissthet. Men vi, fra vår side, kan heller ikke hevde om kunstig intelligens har bevissthet. Dessverre vil det være vanskelig å fastslå dette. Akkurat nå kan du hevde at du får erfaring, og det er det som gjør deg selv. Du er ditt eget eksempel på bevisst erfaring. Og du tror at andre mennesker og noen ikke-menneskelige dyr mest sannsynlig også er bevisste, fordi de ligner deg på et nevrofysiologisk nivå. Men hvordan avgjør du om noe som er opprettet fra helt andre underlag, kan ha erfaring?
Tenk for eksempel på en silisiumbasert superintelligens. Til tross for at både silisiummikrobrikker og nevrale minikolonner behandler informasjon, vet vi nå at de på molekylært nivå kan variere i måten de påvirker bevisstheten på. Tross alt tror vi at karbon er et materiale som er kjemisk mer egnet for livet enn silisium. Hvis de kjemiske forskjellene mellom silisium og karbon påvirker noe så viktig som selve livet, bør vi ikke utelukke muligheten for at kjemiske forskjeller påvirker andre nøkkelfunksjoner, for eksempel om silisium bidrar til bevissthetens fødsel.
Betingelsene som er nødvendige for fremveksten av bevissthet blir mye diskutert av forskere, nevrologer og filosofer om kunstig intelligens. Å løse dette problemet kan kreve en filosofibasert empirisk tilnærming - en måte å avgjøre fra sak til sak om et informasjonsbehandlingssystem støtter bevissthet, og under hvilke forhold.
La oss deretter snakke om en antagelse som vi kan forbedre vår forståelse av silisiums evne til å opprettholde bevissthet. Utviklingen av silisiumbaserte hjerneflis er allerede i gang for å behandle hukommelsesrelaterte sykdommer som Alzheimers og PTSD. Når tiden kommer, og sjetongene vil bli installert i de delene av hjernen som er ansvarlige for bevissthetens funksjoner, for eksempel oppmerksomhet og arbeidsminne, vil vi forstå om silisium er et substrat for bevissthet. Du kan oppdage at når du bytter ut en bestemt del av hjernen med en chip, går en viss opplevelse tapt, som beskrevet i et av verkene til Oliver Sachs. I dette tilfellet kan ingeniørene som lager slike sjetonger prøve en annen, ikke-neural type substrat, men de kan til slutt oppdageat brikken laget av biologiske nevroner er den eneste som fungerer. En slik teknikk vil bidra til å avgjøre om et AI-system kan være bevisst, i det minste når det plasseres i et større og antagelig allerede bevisst system.
Selv om silisium kan gi bevissthet, er dette bare mulig under visse forhold. Egenskapene som fører til fremveksten av en kompleks prosess for informasjonsbehandling (som AI-utviklere er glade for) kan avvike fra egenskapene som genererer bevissthet. Den såkalte ingeniørvitenskapen kan være nødvendig - teknisk gjennomtenkte handlinger for å introdusere bevissthet i maskiner.
Det er det som bekymrer meg. Hvem på jorden eller på fjerne planeter ville prøve å integrere bevissthet uavhengig i AI-systemer? Faktisk, når jeg tenker på AI-programmene som finnes på jorden, forstår jeg hvorfor designingeniørene flittig unngår å lage bevisste maskiner.
I dag utvikler japanerne roboter for eldreomsorg, rengjøring av atomreaktorer og deltakelse i fiendtligheter. Dette reiser spørsmålet: Er det etisk å utnytte roboter hvis de er bevisste? Og hvordan vil det skille seg fra å avle mennesker til disse formålene? Hvis jeg var direktør for AI-utvikling hos Google eller Facebook, ville jeg ikke tenkt å møte den etiske forvirringen ved et uhell å designe et bevisst system når jeg tenkte på fremtidige prosjekter. Utviklingen av et slikt system kan føre til beskyldninger om slaveri av roboter og andre offentlige skandaler, samt et forbud mot bruk av teknologier for kunstig intelligens i områdene de var ment for. Det naturlige svaret på disse spørsmålene er søket etter strukturer og underlag der roboter ikke er utstyrt med bevissthet.
Videre kan eliminering av bevissthet være mer effektiv for den selvkultiverende superintelligensen. Tenk på hvordan menneskelig bevissthet fungerer. Bare en liten prosentandel av menneskelig tenkning er tilgjengelig for bevisst mental aktivitet. Bevissthet samsvarer med innovative læringsmål som krever oppmerksomhet og fokus. Superintelligensen ville ha ekspertkunnskap innen alle aktivitetsfelt, samt en utrolig rask informasjonsbehandling, som dekker enorme databaser som kan omfatte hele Internett, og i fremtiden konsentrere en hel galakse i seg selv. Hva ville forbli ukjent for ham? Hva vil kreve målt og rimelig konsentrasjon? Har han ikke oppnådd perfeksjon i alt? Som en erfaren sjåfør på en kjent veihan kunne stole på bevisstløs (automatisk) informasjonsbehandling. Fra effektivitetssynspunktet er det dessverre åpenbart at flertallet av intelligente systemer ikke vil ha bevissthet. På en kosmisk skala kan bevissthet bare være en impuls, en kortvarig blomstring av opplevelse før universet vender tilbake til tankeløshet.
Hvis mennesker mistenker at kunstig intelligens er bevisstløs, antar de sannsynligvis fryktelig at AI søker å bli postbiologisk. Dette øker våre eksistensielle bekymringer. Hvorfor skal bevisstløse maskiner være like viktige som biologisk intelligens?
Snart vil folk slutte å være de eneste intelligente vesener på jorden. Og kanskje et sted i rommet, ikke biologisk liv, men en superintelligent AI har allerede nådd sitt høydepunkt. Men kanskje det biologiske livet har en annen karakteristisk - bevisst opplevelse. Som vi nå vet, vil intelligent kunstig intelligens kreve bevisst ingeniørarbeid for å lage maskiner som har tilgang til menneskelige sanser. Kanskje noen arter vil finne det hensiktsmessig å lage sine egne kunstnerisk bevisste barn. Eller kanskje den fremtidige menneskeheten vil engasjere seg i bevissthetsteknikk og dele med universet sin bevisste evne til å føle.
Susan Schneider er assisterende professor ved Institutt for filosofi og kognitiv vitenskap ved University of Connecticut og tilknyttet professor ved Institutt for avanserte studier, Senter for teologisk forskning, etikk og teknologigruppe ved Yale tverrfaglige senter for bioetikk. Forfatter av flere bøker, inkludert Science Fiction og Philosophy: From Time Travel to Supermind.
Mer informasjon finner du på SchneiderWebsite.com
