Som AI-forsker blir jeg ofte konfrontert med den oppfatningen at mange mennesker er redde for AI og hva det kan bli. Faktisk er det ikke overraskende hvis du ser fra perspektivet på menneskets historie, mens du tar hensyn til hva underholdningsindustrien mater oss, at folk kan være redd for et kybernetisk oppstand som vil tvinge oss til å leve i isolerte territorier, og gjøre andre til en "matrise-lignende" type menneskelige batterier …
Og likevel, for meg, når jeg ser på alle disse evolusjonære datamaskinmodellene som jeg bruker i AI-utvikling, er det vanskelig å tenke på at mine ufarlige, rene som babyens tårer, skapninger på dataskjermen min en dag kan bli til monstre av en futuristisk dystopi. Kan jeg virkelig bli kalt en "verdens ødelegger", som Oppenheimer en gang angret og sa om seg selv etter at han ledet programmet for å lage en atombombe?
Kanskje jeg vil godta en slik berømmelse, eller kanskje er kritikerne av arbeidet mitt tross alt riktig? Kanskje jeg virkelig burde slutte å unngå spørsmål om hvilken frykt jeg har for AI som AI-ekspert?
Frykt for uforutsigbarhet
HAL 9000, drømmen om science fiction-forfatter Arthur Charles Clarke og brakt til liv av filmskaper Stanley Kubrick i 2001 A Space Odyssey, er et utmerket eksempel på et system som krasjet på grunn av uforutsette omstendigheter.
I mange komplekse systemer - Titanic, NASA-romfergen og kjernekraftverket i Tsjernobyl - måtte ingeniører kombinere mange komponenter. Kanskje var arkitektene for disse systemene godt klar over hvordan hvert av elementene arbeidet individuelt, men de forsto ikke godt nok hvordan alle disse komponentene ville fungere sammen.
Salgsfremmende video:
Resultatet var systemer som aldri ble forstått fullt ut av sine egne skapere, noe som førte til velkjente konsekvenser. I begge tilfeller sank skipet, to skyttelbusser eksploderte, og nesten hele Europa og deler av Asia sto overfor problemet med radioaktiv forurensning - et sett med relativt små problemer som skjedde samtidig, noe som skapte en katastrofal effekt.
Jeg kan perfekt forestille meg hvordan vi, skaperne av AI, kan oppnå lignende resultater. Vi tar den siste utviklingen og forskningen innen kognitiv vitenskap (the thinking of science - ed.), Oversetter dem til datamaskinalgoritmer og legger alt dette til eksisterende systemer. Vi prøver å utvikle AI uten å forstå vår egen intelligens og bevissthet.
Systemer som IBM's Watson eller Googles Alpha er kunstige nevrale nettverk med imponerende regnekraft og evnen til å takle virkelig komplekse oppgaver. Men foreløpig er det eneste som en feil i arbeidet deres fører til, et resultat av tap i det intellektuelle spillet "Jeopardy!" eller en glipp av muligheten til å beseire enda et verdens beste logiske brettspill Go.
Disse konsekvensene er ikke globale. Faktisk er det verste som kan skje med folk i dette tilfellet at noen taper litt penger på innsatsene.
Imidlertid blir AI-arkitektur mer kompleks og datamaskinprosesser blir raskere. AI-kapasitetene vil bare øke over tid. Og allerede nå vil dette føre oss til at vi begynner å tildele mer og mer ansvar til AI, selv til tross for økende risiko for uforutsette omstendigheter.
Vi er klar over at "feil er en del av menneskets natur", derfor vil det ganske enkelt være fysisk umulig for oss å skape et virkelig trygt system i alt.
Frykt for misbruk
Jeg er egentlig ikke bekymret for uforutsigbarheten av konsekvensene i arbeidet med AI, som jeg utvikler ved å bruke den såkalte neuroevolution-tilnærmingen. Jeg skaper virtuelle miljøer og fyller dem med digitale skapninger, og gir hjernen deres kommandoer for å løse problemer med økende kompleksitet.
Over tid øker og utvikler effektiviteten til å løse problemer fra disse skapningene. De som gjør den beste jobben er valgt for reproduksjon, og skaper en ny generasjon på basis av det. Gjennom generasjonene utvikler disse digitale skapningene kognitive evner.
For eksempel, akkurat nå tar vi de første trinnene i å utvikle maskiner til nivået med å utføre enkle navigasjonsoppgaver, ta enkle beslutninger eller memorere et par informasjonsbiter. Men snart ser vi utviklingen av maskiner som kan utføre mer komplekse oppgaver og har et mye mer effektivt overordnet intelligensnivå. Vårt endelige mål er å skape intelligens på menneskelig nivå.
I løpet av denne utviklingen vil vi prøve å finne og fikse alle feil og problemer. Med hver nye generasjon vil maskinene være flinkere til å takle feil enn de forrige. Dette vil øke sjansene for at vi kan identifisere alle uforutsigbare konsekvenser i simuleringer og eliminere dem allerede før de kan realiseres i den virkelige verden.
En annen mulighet som den evolusjonære utviklingsmetoden gir er å gi kunstig intelligens etikk. Det er sannsynlig at slike etiske og moralske egenskaper ved en person som pålitelighet og altruisme er et resultat av vår evolusjon og en faktor i dets fortsettelse.
Vi kan skape et bygd miljø og styrke maskiner for å demonstrere vennlighet, ærlighet og empati. Dette kan være en måte å sikre at vi utvikler mer lydige tjenere enn hensynsløse mordereoboter. Selv om nevroutvikling kan redusere nivået av utilsiktede konsekvenser i AI-atferd, kan det imidlertid ikke forhindre misbruk av kunstig intelligens.
Som forsker må jeg leve opp til mitt engasjement for sannhet og rapportere hva jeg oppdaget gjennom eksperimentene mine, enten jeg liker resultatene eller ikke. Jobben min er ikke å bestemme hva jeg liker og hva jeg ikke gjør. Det eneste viktige er at jeg kan offentliggjøre arbeidet mitt.
Frykt for gale sosiale prioriteringer
Å være vitenskapsmann betyr ikke å miste menneskeheten din. Jeg må koble meg igjen med håp og frykt på et eller annet nivå. Som et moralsk og politisk motivert individ, må jeg vurdere de potensielle konsekvensene av arbeidet mitt og dets mulige effekt på samfunnet.
Som forskere og som representanter for samfunnet har vi fremdeles ikke kommet til en klar ide om hva vi ønsker å få fra AI og hva det til slutt skal bli. Dette skyldes selvfølgelig delvis at vi fortsatt ikke helt forstår potensialet. Men likevel må vi tydelig forstå og bestemme hva vi ønsker å få fra virkelig avansert kunstig intelligens.
Et av de største områdene som folk tar hensyn til når de snakker om AI er sysselsetting. Roboter gjør allerede komplekst fysisk arbeid for oss, for eksempel å montere og sveise bildeler på bildeler. Men en dag kommer dagen der roboter skal få i oppgave å utføre kognitive oppgaver, det vil si at de får i oppgave det som tidligere ble ansett som en utelukkende unik evne til personen selv. Selvkjørende biler kan erstatte drosjesjåfører; selvkjørende fly trenger ikke piloter.
I stedet for å få medisinsk behandling i akuttmottak fylt med alltid trøtt personell og leger, vil pasienter kunne foreta undersøkelser og lære diagnoser ved hjelp av ekspertsystemer med øyeblikkelig tilgang til all medisinsk kunnskap. Kirurgiske operasjoner vil bli utført av roboter som ikke er utsatt for utmattelse, med en perfekt "trent hånd".
Juridisk rådgivning vil være tilgjengelig fra et omfattende juridisk rammeverk. For investeringsrådgivning vil vi henvende oss til ekspertmarkedsvarselsystemer. Kanskje en dag vil alt menneskelig arbeid bli utført med maskiner. Selv arbeidet mitt kan utføres raskere ved å bruke et stort antall maskiner nådeløst for å undersøke hvordan man kan gjøre maskiner enda smartere.
I realitetene i vårt nåværende samfunn tvinger automatisering allerede folk til å forlate jobbene sine, og gjør de rike eierne av slike automatiserte maskiner enda rikere, og resten enda fattigere. Men dette er ikke et vitenskapelig problem. Dette er et politisk og sosioøkonomisk problem som samfunnet selv må løse.
Forskningen min vil ikke endre det, men mine politiske fundamenter sammen med menneskeheten kan føre til omstendigheter der AI kan bli en ekstremt nyttig funksjon, i stedet for å utvide gapet mellom en prosent av verdens elite og resten av oss.
Frykt for et katastrofalt scenario
Vi har kommet til den endelige frykten som blir påført oss av den sinnssyke HAL 9000, Terminatoren og all annen skurk superintelligens. Hvis AI fortsetter å utvikle seg til det overgår menneskelig intelligens, ville et kunstig superintelligent system (eller en samling av slike systemer) betraktet mennesker som et ubrukelig materiale? Hvordan kan vi rettferdiggjøre vår eksistens i møte med en superintelligens som er i stand til å gjøre og skape det ingen andre mennesker kan? Vil vi være i stand til å unngå skjebnen til å bli tørket av jordens overflate av maskinene som vi hjalp til med å skape?
Derfor vil det viktigste spørsmålet under slike omstendigheter høres slik ut: hvorfor trenger kunstig superintelligens oss?
Hvis en slik situasjon hadde skjedd, vil jeg nok si at jeg er en god person som til og med har bidratt til etableringen av denne superintelligensen, som jeg står overfor nå. Jeg vil appellere til hans medfølelse og empati, slik at superintelligensen vil forlate meg, så medfølende og empatisk, levende. Jeg vil også legge til at artsmangfoldet i seg selv har verdi og universet er så stort at eksistensen av den menneskelige arten i den faktisk er ganske ubetydelig.
Men jeg kan ikke snakke for hele menneskeheten, så det vil være vanskelig for meg å finne et gyldig argument for oss alle. Det er bare det at når jeg ser på oss alle, ser jeg virkelig at vi har gjort mye og gjør mye galt. Hat mot hverandre hersker i verden. Vi går i krig mot hverandre. Vi fordeler mat, kunnskap og helsehjelp urettferdig. Vi forurenser planeten. I denne verden er det selvfølgelig mange gode ting, men hvis du ser på alle de dårlige tingene vi har skapt og fortsetter å skape, vil det være veldig vanskelig å finne et argument for å støtte vår fortsatte eksistens.
Heldigvis trenger vi ikke å rettferdiggjøre vår eksistens ennå. Vi har fortsatt tid. Fra 50 til 250 år, avhengig av hvor raskt kunstig intelligens utvikler seg. Vi som art har evnen til å komme sammen og finne et godt svar på spørsmålet om hvorfor superintelligens ikke skal tørke oss av planetens ansikt.
Det vil være veldig vanskelig å løse dette problemet. Å si at vi støtter mangfold og etnokulturelle forskjeller, og å gjøre det, er jo helt andre ting. How to say at vi ønsker å redde planeten og klare den.
Alle av oss, det være seg hvert enkelt individ eller samfunnet som helhet, må forberede oss på et katastrofalt scenario, og bruke den tiden til å være klar til å vise og bevise hvorfor skapningene våre skal tillate oss å fortsette å eksistere. Eller vi kan ganske enkelt fortsette å blindt tro at en slik utvikling av hendelser er umulig, og ganske enkelt slutte å snakke om dette emnet.
Uansett hvilken fysisk fare superintelligens kan utgjøre for oss, skal vi ikke glemme at det også utgjør en politisk og økonomisk fare. Hvis vi ikke finner en måte å forbedre vår levestandard på, vil vi ende opp med å drive kapitalismen med en kunstig intelligensarbeider som bare vil tjene noen få utvalgte som har alle produksjonsmidler.
Denne artikkelen ble opprinnelig publisert på theconversation.com av Arend Hintze, førsteamanuensis ved Institutt for integrativ biologi, informatikk og teknologi, University of Michigan
Nikolay Khizhnyak
