Frykten for kunstig intelligens har lenge vært inngrodd i populærkulturen. De fineste sinnene til menneskeheten, fra Stephen Hawking til Elon Musk, har snakket om den eksistensielle trusselen fra det digitale sinnet til menneskeheten.
Professor ved University of California ved Berkeley Stuart Russell snakker også om det, men i sin fremtidsvisjon er det ingen onde roboter som gjør opprør mot menneskelig dominans.
Ifølge Russell, på et tidspunkt vil maskinene ganske enkelt bli så effektive at de vil ødelegge oss og utføre oppgavene som vi ga dem.
Russell er maskinlæringsekspert og forfatter av Human Compatible: AI and the Problem of Control.
"Den tradisjonelle Hollywood-historien er at maskiner spontant blir bevisste og deretter bestemmer at de hater mennesker og vil drepe alle," bemerker professor Russell.
Men dette er, etter hans mening, en feil visjon av robotapokalypsen, fordi maskiner ikke har menneskelige følelser.
"Vi trenger å bekymre oss ikke om selvbevisstheten til onde maskiner, men om kompetansen til maskinene som utfører oppgavene vi har satt," er forskeren overbevist.
Salgsfremmende video:
For kompetent
I et intervju med BBC Today beskrev professor Russell en hypotetisk situasjon der menneskets eksistens kunne bli truet av kunstig intelligens.
Se for deg at det er en superkraftig kunstig intelligens som kan kontrollere klimaet på planeten. Han har til oppgave å bringe karbondioksidnivåer i atmosfæren tilbake til førindustrielle nivåer.
Systemet vil vurdere at den mest effektive måten å gjøre dette på er å ødelegge mennesker. De produserer karbondioksid, sier professoren.
“Dette kan omgås, for eksempel ved å gjøre henne til en betingelse for ikke å bli kvitt mennesker. Hva vil systemet gjøre da? Hun vil sørge for at færre og færre barn blir født til folk forsvinner helt."
Dette er et eksempel på hva kunstig intelligens kan føre til under dårlig forestilte menneskelige instruksjoner.
Superintelligence
AI-systemer som eksisterer i dag har smalt målrettede applikasjoner. De er designet for å løse klart definerte problemer på ett område, sier forskere ved Center for the Study of Existential Risks ved Cambridge University.
Det seirende øyeblikket for denne AI-filosofien var seieren til Deep Blue-datamaskinen over den regjerende verdenssjakkmesteren Garry Kasparov i 1997.
* Deep Blue seier over Kasparov i 1997 var en AI-triumf.
Men Deep Blue ble opprettet eksklusivt for sjakkspillet. I brikker ville han ha tapt for en femteklassing.
Nyere fremskritt innen kunstig intelligens har brakt oss veldig forskjellige programmer.
For eksempel lærte AlphaGo Zero-programmet å spille Go på egenhånd, uten å bruke data om tidligere spill spilt av mennesker, og på bare tre dager med å spille med seg selv nådde det et nivå uoppnåelig for en vanlig person.
Dype læringsalgoritmer ble brukt til å lage AlphaGo Zero. Dette betyr at relativt lite menneskelig arbeid var nødvendig for å utvikle programmet.
Samtidig vet AlphaGo Zero hvordan man spiller bra både sjakk og shogi.
Husk at programmet er fullstendig selvlæring. Dette kan forårsake bekymring for noen.
"Etter hvert som AI blir kraftigere og mer allsidig, risikerer det at den blir superintelligent, det vil si at den vil overgå mennesker på mange eller alle områder," sier Center for Study of Existential Risks.
Vi vet ikke hva vi vil
Professor Russell mener at det å gi AI veldig spesifikke oppgaver ikke er en utvei, fordi mennesker selv ikke er i stand til å formulere dem godt nok.
"Vi skjønner ikke at vi ikke liker noe før det skjer," sier han.
"Vi må endre den helt grunnleggende tilnærmingen til å lage AI-systemer," legger professoren til. Han mener at det å gi roboter en oppgave, som de deretter utfører, er grunnleggende galt.
”Systemet må forstå at målet ikke er klart for det. han sier. - Når slike systemer lages, er de virkelig avhengig av personen. De begynner å spørre om tillatelse før de gjør noe fordi de ikke er sikre på om du vil."
Det viktigste, sier professoren, vil de ikke motstå hvis du bestemmer deg for å slå dem av, fordi de er designet for ikke å gjøre det du ikke liker.
Aladdins lampe
AI i dag er skapt som om det var genie fra en lampe, sier professor Russell. Du gnir lampen og sier: "Jeg vil at dette og det skal skje."
I Stanley Kubricks 2001 * A Space Odyssey * opprør en superintelligent datamaskin mot mennesker som bestemmer seg for å slå den av.
Og hvis kunstig intelligens er kraftig nok, vil den gjøre akkurat det du spør.
"Problemet med gin er at det tredje ønsket alltid er å avlyse de to første, fordi personen har formulert dem feil."
"En maskin som forfølger feil mål blir de facto menneskehetens fiende, og denne fienden er mye sterkere enn oss," avslutter forskeren.
