Greg Corrado, ledende programmerer av Google Brain-prosjektet (som lager maskinlæringssystemer og kunstige intelligenssystemer og deres integrasjon i Google-tjenester) fortalte RIA Novosti hva kunstig intelligens er, hvorfor oppstanden til selvforbedrende maskiner ikke truer oss, og delte tankene hans om hvordan menneskeheten vil tilpasse seg livet i en tid med "intelligente maskiner".
De siste årene har Corrado og kollegene utviklet nye maskinoversettelsessystemer, lært Google Images bildesøkemotor å gjenkjenne katter, hunder og andre objekter, og opprettet et nevralt nettverk som forbedrer fotoløsningen. De jobber for tiden med en taleassistent for Android-telefoner.
Greg, bedømt etter publikasjonene dine, begynte din vitenskapelige karriere innen nevrofysiologi, ikke i utviklingen av kunstig intelligens. Hvordan skjedde det at AI-systemer ble viktige for deg personlig og for Google generelt?
- Til å begynne med var jeg interessert i helt andre ting - først studerte jeg fysikk, og deretter byttet jeg til hjernevitenskapens felt. Da virket det for meg at hjernen er det mest interessante fysiske systemet, og jeg ønsket å forstå hvordan utviklingen av hjernen vår førte til fremveksten av intelligente og selvbevisste vesener.
Etter å ha jobbet en stund på denne måten, innså jeg at det ikke var mindre interessant for meg å studere alle former for intelligens, ikke bare i dets biologiske, men også i kunstige manifestasjoner. I tillegg virket det på det tidspunktet for meg at vi innen kunstig intelligens ville være i stand til å avansere mye raskere enn i studien av den menneskelige hjernen.
Med Google er situasjonen en annen - selskapet har faktisk vært engasjert i kunstig intelligens siden oppstarten. Selve implementeringen av søkemotoren, slik den ble tenkt av grunnleggerne av selskapet, Sergey Brin og Larry Page, krever minst en form for kunstig intelligens.
For oss er hovedoppgaven ikke å lage AI som et slags produkt som vi kunne pakke i en boks og selge, men å bruke slike systemer for å organisere og behandle informasjon. Mengden av informasjon vokser stadig, og jo mer data vi mottar, desto verre ser vi det og mister ideen om hva som er viktig og hva som ikke er det.
Den veldig matematiske ideen som beskriver dype nevrale nettverk og ikke-lineære læringsmetoder dukket opp for mer enn ti år siden, men de har blitt populære bare de siste to-tre årene. Hva er grunnen til dette?
Salgsfremmende video:
- Jeg kan si mer - selve prinsippene for organisering av disse nettverkene dukket opp enda tidligere, på 60-tallet av forrige århundre, og de ble til slutt formalisert i en matematisk form på 1980- og 1990-tallet. Siden den gang har de faktisk ikke endret seg. Den eneste grunnen til at renessansen deres skjer akkurat nå er fordi datamaskiner har blitt merkbart raskere de siste årene, og vi har muligheten til billig å øke kraften.
På nittitallet og begynnelsen av 2000-tallet forsto vi ikke dette, og derfor ble nevrale nettverk på den tiden betraktet som et interessant, men ubrukelig leketøy. Men i virkeligheten hadde de rett og slett ikke nok dataressurser til å gjøre noe nyttig. Når datamengdene og beregningsressursene var små, brukte enkle matematiske tilnærminger dem mer effektivt enn nevrale nettverk.
Visste vi først at dype nettverk og maskinlæring kan være nyttige? rundt 2010 eller 2011, og det tok oss omtrent fem år å teste denne ideen og bevise at den var det. Nå forstår hver person i bransjen at dette er slik og streber i denne retningen.
Hvert år produserer vår sivilisasjon mer og mer data, hvis behandling snart vil være umulig uten bruk av kunstig intelligens. Vil menneskeheten kunne utvikle seg videre, slik som motstanderne av AI tror, uten å bruke slike systemer?
- Jeg tror ikke at kunstig intelligens eller maskinlæring kan være noe som helst godt eller dårlig - det er bare en samling av nye teknologier, bruksmåten som bare vil avhenge av oss selv. Som samfunn må vi bestemme for hva og hvordan de skal brukes - for eksempel kan vi helt forlate dem av en eller annen etisk eller politisk grunn.
Jeg tror personlig at en slik løsning ville være ekstremt ineffektiv og lik den hvis vi forbød automatiske symaskiner og tvang alle fabrikker til å sy klær for hånd. I stedet må vi forstå hvor bruken av dem vil gi reelle fordeler og samsvare med våre verdier.
Og det ser ut til at det er utallige områder der bruk av både AI og maskinlæring vil gi enorme fordeler for samfunnet, hvor mange vi fremdeles ikke kan forestille oss.
Google bruker i dag nevrale nettverk i arbeidet med Google Translate, Google Image Search og mange andre produkter. Hvor vil hovedgjennombruddet i søknaden deres bli gjort i løpet av en nær fremtid?
- Når folk snakker om utviklingen av kunstig intelligens, forestiller de seg ofte noe veldig imponerende, som det egentlig ikke er. Du må forstå at vi ganske enkelt prøver å gjøre maskiner mindre dumme enn de er i dag og få dem til å samhandle med mennesker på den mest naturlige måten.
I tillegg lar kunstig intelligens oss korrigere feilene på maskiner og få dem til å lære av disse feilene. Det er en slags dialog mellom menneske og maskin.
Jeg håper at vi i løpet av de neste ti årene vil ha et system, eventuelt jobbe med telefoner og andre mobile enheter, som dynamisk vil samhandle med eieren og ta hensyn til hans personlighetsegenskaper og eventuelle spesifikke ønsker.
For eksempel ber du en slik assistent om å hjelpe deg med å nå et punkt på kartet. Når han tilbyr deg en rute, kan du be ham legge den nærmere parken eller oppfylle andre ønsker, og systemet vil forstå deg og oppfylle dine ønsker. Vi ønsker at kommunikasjon med slike systemer skal gå så naturlig som mulig for en person.
De siste årene har forskere i økende grad snakket om opprettelsen av selvforbedrende kunstige intelligenssystemer, som mange seriøse forskere, for eksempel Stephen Hawking, anser som veldig farlige for mennesker. Er det virkelig?
- Faktisk er ikke selvforbedrende kunstig intelligens blitt skapt ennå. Fra et teknisk synspunkt er det mulig at slike systemer en dag vil vises, men de eksisterer ikke ennå, og det er usannsynlig at de vil vises i overskuelig fremtid.
For eksempel er det i dag roboter som jobber med samlebånd og monterer maskiner og andre komplekse tekniske enheter. Disse robotene ble satt sammen på samme linje med deltakelse av de samme robotene, men dette betyr ikke at robotene har forbedret seg selv. Det samme gjelder maskinlæringsteknologier - vi bruker dem til å analysere data, inkludert andre systemer for kunstig intelligens, men de kan fremdeles ikke forbedre seg selv uten menneskelig kreativitet.
AlphaGo-systemet er for eksempel i stand til en veldig begrenset form for selvlæring, men det kan ikke endre arkitekturen radikalt og gjøre seg radikalt annerledes, for eksempel tilpasset for å løse andre problemer. Det som eksisterer i dag er bare en liten del av det som må gjøres for å lage selvlæringssystemer, og resten av veien er ennå ikke dekket.
Derfor tror jeg personlig at etableringen av kunstig intelligens i dag mer og mer ligner kunst enn ingeniørvitenskap eller vitenskap, og ledere i vår bransje ofte overrasker seg selv og kollegene med sine uventede funn og funn. Generelt kan vi si at etableringen av AI i dag er menneskets eksklusive privilegium.
Kan slike systemer brukes til å løse de mest uvanlige oppgavene - for eksempel som en "hjerne" for rovere eller sonder som uavhengig ville studere fjerne planeter og verdener?
- I prinsippet er dette ganske mulig, og det ser ut for meg at kunstig intelligens i fremtiden vil bli brukt til å drive forskning i verdensrommet eller på havbunnen, hvor direkte kontroll av teknologi er umulig av en eller annen grunn. AI-systemer vil hjelpe slike rovers eller roboter med å løse noen rutineoppgaver og unngå farer, men reell vitenskapelig forskning vil fremdeles bli utført av mennesker.
Bare en person kan stille bestemte vitenskapelige oppgaver og bestemme hvordan de skal løses. Vi kan fortelle roboten - "kom nærmere dette krateret og prøv å finne hvite bergarter i det", men roboten selv kan i prinsippet ikke forstå hvorfor disse bergartene er av interesse for oss. Mennesket setter oppgaver veldig bra og ser etter måter å løse dem på, og maskiner har ennå ikke en slik mulighet. I dette tilfellet kan roboter bare være assistenter, men ikke forskere.
Dette spørsmålet er direkte relatert til det faktum at mange mennesker ikke forstår hva kunstig intelligens er, og tror at forskere skaper en komplett analog av en person med sinnet, følelsene og andre funksjoner. Hvorfor skjer dette?
- Det ser ut til at dette er en konsekvens av at folk ikke forstår hvorfor kunstig intelligens i det hele tatt eksisterer. De tror at vi lager maskiner som mennesker. Jeg avviser helt dette og sier at vi skaper det for ikke å erstatte en person, men for å supplere hans evner.
For eksempel bruker jeg en datamaskin hver dag, og det er ting jeg og den kan gjøre på egenhånd - legge til eller multiplisere tall. Datamaskinen gjør det raskere, og jeg setter pris på det av denne grunn også. Følgelig kan jeg utføre "arbeidsdelingen" ved å overlevere beregningene til datamaskinen og gjøre mer enn jeg kunne ha gjort uten hans hjelp. Og dette, synes jeg, er essensen av kunstig intelligens.
Ideen om å lage en komplett analog til en person, synes jeg, er forankret i enten science fiction eller filosofi. Filosofer har lenge tenkt på om vi kan lage maskiner som ser ut som mennesker, men dette spørsmålet har ingenting å gjøre med om slike "kunstige mennesker" vil være nyttige for oss, og om det i det hele tatt er mulig.
Derfor, fra perspektivet om praksis, er det bedre å lage intelligens som vil utfylle vårt eget sinn og utvide dens evner, og ikke kopiere det.
Allerede i dag er det systemer som ligner maskiner med en autopilot, der menneskeliv avhenger av handlingene til kunstig intelligens. Må vi lage grunnleggende nye juridiske normer for å definere ansvar og hvem som vil være ansvarlig for handlingene til AI?
- Dette er et veldig viktig spørsmål. La meg med en gang understreke at jeg ikke er advokat, men det virker som om det allerede har vært eksempler på lignende problemer i det siste. For eksempel har det i mange århundrer vært lover som bestemmer hvem som er ansvarlig for at noens hest sparket en fremmed, en hund angrep en fremmed, en maskin brøt sammen og skadet en arbeider eller en annen hendelse skjedde.
Vi synes det som om jeg trenger å bruke denne erfaringen når vi bestemmer ansvaret for atferden til kunstig intelligenssystem. Følgelig gjenstår det bare å diskutere hvordan vi kan tilpasse disse prinsippene for å bestemme hvordan vi skal samhandle med autonome maskiner og andre enheter av denne typen.
Denne diskusjonen, jeg er mer enn sikker, vil være veldig varm og lang, men det ser ut til at den ikke vil kreve innføring av noen helt nye juridiske normer og prinsipper. Selvfølgelig antyder noen å vurdere AI-systemer som "personligheter" og så videre, men for meg personlig er dette noe veldig rart og uforståelig.
Futurologer og noen av kollegene dine spår at den videre utviklingen av AI vil forlate mange mennesker engasjert i dyktig, men rutinemessig arbeid - regnskapsførere, sjåfører, tjenestemenn - uten arbeid. Eksisterer dette problemet, og hvordan kan det løses?
- Selvfølgelig eksisterer dette problemet. Foreldrene mine og besteforeldrene mine var regnskapsførere, og bestemoren begynte med penn og papir og avsluttet med kalkulatorer, og moren min byttet fra kalkulatorer til regneark på en datamaskin. Alle disse endringene har radikalt endret måten regnskapsførere jobber på, men selve kjernen i yrket har ikke endret seg fra dette - regnskapsførere har ikke forsvunnet, men samtidig begynte de å jobbe bedre, raskere og bedre.
Det virker som om noe lignende vil skje med kunstig intelligens. Innholdet i mange yrker vil endre seg, men essensen av dem vil forbli den samme, noen av dem kan til og med forsvinne, men en slik skjebne vil bare ramme en liten del av dem.
I tillegg kunne noe lignende skje, som skjedde med nettdesignfeltet på slutten av 1990-tallet - før advent og spredning av Internett, var det ingen som kunne forestille seg at noen kunne gjøre slike ting. På den annen side er det tåpelig og galt å nærme seg denne saken lett og tenke at ingenting vil endre seg. Du må forstå at disse teknologiene vil forandre verden, at du må tilpasse seg dem og hjelpe andre til å tilpasse seg dem.
