To milliardærer som har tjent formuen på nettet, Tesla og Space X-eier Elon Musk og Facebook-grunnlegger Mark Zuckerberg, har kommet i en fraværende tvist om farene ved kunstig intelligens.
Begge gründerne er sikre på at opprettelsen av fullverdig kunstig intelligens (AI) er et spørsmål om den nærmeste fremtiden. Men Musk mener at det er på tide at menneskeheten tenker på å regulere utviklingen på dette området, og Zuckerberg er trygg på at kunstig intelligens vil forbedre menneskers liv betydelig.
I midten av juli snakket Elon Musk med guvernørene i de amerikanske statene og oppfordret myndighetene til å tenke på å innføre lovgivningsbegrensninger for utvikling innen AI-området.
Zuckerberg svarte på spørsmålet om farene ved AI når han chatte med Facebook-brukere. Han ble spurt spurt om han trodde Musks frykt var gyldig. Facebook-skaperen sa at han ikke forsto hvordan Musk seriøst kunne etterlyse en langsommere pågang.
Han svarte med å twitre “Jeg snakket om dette med Mark. Han har en begrenset forståelse av dette problemet :
Present Tense offentliggjør fullt ut talene til de to milliardærene.
"Inntil vi ser roboter gå i gatene og drepe mennesker, vet vi ikke hvordan vi skal reagere." Elon Musks frykt
Salgsfremmende video:
Jeg har tilgang til det aller siste innen AI. Og jeg tror folk virkelig burde være opptatt av dette problemet. Jeg vet hvordan det høres ut, men inntil folk ser roboter gå i gatene og drepe mennesker, vil de ikke vite hvordan de skal reagere.
Det virker urealistisk. Jeg tror vi virkelig trenger å bekymre oss for AI. Og jeg tror at dette er en sjelden sak når vi i lovgivningsrestriksjonene må være foran kurven, og ikke ta beslutninger senere, når det er for sent.
Vanligvis fungerer restriksjoner slik: Til å begynne med skjer det mye dårlige ting, samfunnet protesterer, og etter mange år er det regulerende organer for denne bransjen. Selskaper som ikke liker kontroll utenforfra motstår, og det tar veldig lang tid. I det siste har dette allerede ført til dårlige konsekvenser, men utgjorde ikke en grunnleggende trussel mot menneskehetens eksistens.
AI er en grunnleggende risiko for menneskets eksistens. Og dette er den typen risiko som verken bilulykker, flyulykker, narkotika eller dårlig mat noen gang har hatt. De var ikke en trussel. Kanskje var de for bestemte mennesker, men de var ikke en risiko for hele samfunnet.
AI er en grunnleggende eksistensiell trussel mot sivilisasjonen, og jeg tror ikke mennesker er klar over dette. Ja, det er ikke morsomt å være begrenset. Men i bilindustrien blir vi kontrollert av Transportdepartementet og mange andre. Og hvert land har regulerende organer. I romfartsindustrien blir vi kontrollert av Federal Aviation Administration. Men hvis du spør en vanlig person: "Hei, du vil kvitte deg med sivil luftfartsstyring, og bare håper at produsentene ikke sparer på flyet, fordi overskuddet har sunket dette kvartalet," vil personen svare: "Selvfølgelig ikke." Høres ujevne ut.
Jeg tror at selv veldig liberalistiske mennesker fortsatt vil si: "La oss fortsette å passe på flyprodusentene, vi må sørge for at de lager gode fly." Hyggelige biler, sånne ting. Så regulatorene har en rolle å spille. Jeg er selvfølgelig imot streng kontroll. Men jeg tror vi bør skynde oss å skynde oss AI.
Selvfølgelig vil denne [oppfinnelsen av AI] føre til jobbtap, fordi roboter kan gjøre alt bedre enn oss. Det vil si bedre enn oss alle. Ja. Jeg vet ikke hva jeg skal gjøre med det. Dette er det verste problemet for meg. Ja, jeg er faktisk sikker på at vi vil trenge statskontroll, fordi vi på den måten kan sikre offentlig sikkerhet.
Bedrifter har det travelt, de må ha tid til å lage AI, ellers blir de konkurransedyktige. Hvis konkurrenten din har det travelt med å lage AI, og det er du ikke, vil han ødelegge deg. Og selskaper sier: "Vi vil ikke dø, det ser ut som vi også trenger å lage AI."
Og det er her kontrollene skal komme inn: "Gutter, dere trenger alle å bremse og sørge for at det er trygt." Hvis anmelderne er overbevist om at det er trygt, kan du fortsette å jobbe. Ellers sakte. Men revisorene må gjøre dette for alle som gjør det, ellers vil aksjonærene si: “Hei, hvorfor utvikler du ikke AI raskere enn konkurrentene? Det ville være nødvendig!"
Jeg tror at dette er den største risikoen vi tar som en sivilisasjon. Jeg tror statens rolle er å ta vare på samfunnet og ta hensyn til det som truer det. Derav begrensningene. Først må du lære så mye som mulig om dette for å forstå problemets natur, for å observere fremgangen og utrolige prestasjoner innen AI-feltet.
I fjor, i et spill som er vanskelig nok til å vinne, og hvor folk trodde datamaskinen aldri ville slå den beste menneskelige spilleren, eller at det ville skje 20 år fra nå, i fjor AlphaGo, opprettet av DeepMind, selskapet kjøpt av Google slo verdens beste go-spiller. Og nå kan hun spille med 150 spillere på samme tid og beseire dem alle.
Dette er en imponerende fremgangstakt, og den vil dukke opp mer og mer. Robotikk, for eksempel. Det er roboter som lærer å gå fra bunnen av i løpet av timer. Raskere enn noen art. Men det farligste - og dette er det vanskeligste å forstå - fordi det ikke er noe fysisk, det er intelligens.
Det ser ut til, hva kan kraftig [kunstig] intelligens gjøre på nettet? Vel, for eksempel starte en krig. For eksempel ved å lage falske nyheter, falske pressemeldinger og e-postadresser, og ganske enkelt manipulere informasjon. Pennen er mektigere enn sverdet.
Som et eksempel - jeg vil understreke, jeg tror ikke at dette virkelig skjedde, jeg sier dette rent hypotetisk - husker du at det malaysiske flyet som ble skutt ned over grensen mellom Russland og Ukraina? Dette har økt friksjonen mellom Russland og EU kraftig.
Tenk om du hadde kunstig intelligens og målet var å maksimere verdien av en aksjeportefølje, en måte ville være å kjøpe forsvarsaksjer, korte forbrukeraksjer og starte en krig.
Hvordan kunne han gjøre det? Hack Malaysian Airlines, flyrute-servere, ruter over en krigssone, og send deretter en anonym melding om at "et fiendefly flyr over deg."
"Alle teknologier kan brukes til skade og for godt." Mark Zuckerbergs optimisme
Jeg har ganske sterk tro på dette. Jeg er veldig optimistisk. Jeg er en optimistisk person generelt. Jeg tror vi kan skape ting som gjør verden til et bedre sted, og jeg er spesielt optimistisk når det gjelder AI. Jeg tror at jeg bare ikke forstår mennesker som alltid er skeptiske og stadig skremmer med disse scenariene for den forestående enden av verden. Jeg synes dette er veldig ille og uforsvarlig, for AI vil i løpet av de neste fem til ti årene kunne forbedre og forbedre livskvaliteten.
Hvis du er bekymret for sikkerheten og helsen til folk, hjelper AI allerede med å diagnostisere sykdommer bedre, og til å velge medisiner for mennesker avhengig av hva de er syke med og hvordan de kan helbredes bedre. Mange mennesker vil få bedre helsehjelp enn noen gang før.
Når det gjelder selvkjørende biler, vil de være tryggere enn biler som blir kjørt av mennesker. Det er bare et spørsmål om tid. Bilulykker er fortsatt en av de viktigste dødsårsakene. Og hvis de kunne bli eliminert ved hjelp av AI, ville det forbedre folks liv i stor grad.
Når jeg hører resonnementet, "Å, du vet, AI kommer til å skade mennesker i fremtiden", tror jeg at all teknologi kan brukes til både skade og til gode. Og du må være forsiktig når du lager noe, du må være forsiktig og tenke på hvordan det blir brukt.
Men når folk insisterer på å bremse AI-prosessen, synes jeg det er veldig kontroversielt. Det er veldig vanskelig for meg å forstå dette, for hvis du er mot AI, så er du imot tryggere maskiner som ikke vil komme i ulykker, mot muligheten for å bedre diagnostisere sykdommer. Og jeg forstår bare ikke hvordan noen mennesker kan gjøre det uten å lure. Så jeg er generelt mye mer optimistisk med hensyn til denne [AI-skapelsen] enn kanskje mange mennesker er.
