En kveld i august 2010 inntok en 34 år gammel Londoner ved navn Demis Hassabis scenen i et konferanserom i San Francisco Bay Area. Han klatret opp til pallen med en skrått gang fra en mann som prøvde å kontrollere nervene, presset leppene inn i et kort smil og snakket: "Vel, i dag vil jeg snakke om forskjellige tilnærminger til skapelsen …". Han stoppet, som om han innså hvor høyt han erklærte ambisjonene. Og han sa det: "AGI".
AGI står for General Artificial Intelligence, et hypotetisk dataprogram som kan utføre intellektuelle oppgaver så vel som et menneske, eller enda bedre. AGI vil kunne utføre spesifikke oppgaver, for eksempel å gjenkjenne personer på bilder eller oversette språk, som for tiden er i stand til å utføre mange separate kunstige intelligenser på våre telefoner og datamaskiner. De vil kunne føre en samtale, spille sjakk og snakke fransk samtidig. De vil kunne forstå fysikkbøker, skrive romaner, utvikle investeringsstrategier og opprettholde tilfeldig samtale med fremmede. De vil overvåke kjernefysiske reaksjoner, administrere kraftnett og trafikk, og lykkes uten problemer i alt annet. AGI vil få den mest avanserte AI i dag til å se ut som lommeregner.
Det eneste intellektet som for øyeblikket er i stand til å utføre alle disse oppgavene, hører til mennesker. Men det menneskelige sinn er begrenset av størrelsen på skallen som huser hjernen. Kraften er begrenset av den lille mengden energi som kroppen kan gi. Siden AGI vil kjøre på datamaskiner, vil den ikke lide av disse begrensningene. Hans intelligens vil bare være begrenset av antall tilgjengelige prosessorer. AGI kan starte med å overvåke kjernefysiske reaksjoner. Men snart nok vil han oppdage nye energikilder, fordøye mer fysikkarbeid per sekund enn en person kan på tusen år. Menneskelig nivå intelligens, støttet av datamaskinens hastighet og skalerbarhet, vil redde oss problemer. Hassabis sa til den britiske avisen Observer at han forventer at AGI blant annet vil takle problemer som "kreft,klimaendringer, energi, genomikk, makroøkonomi og finansielle systemer."
Konferansen Hassabis holdt tale med ble kalt Singularity Summit. Singularitet - den første delen av navnet - viser til den mest sannsynlige konsekvensen av fremveksten av AGI, ifølge futurologer. Siden AGI vil behandle informasjon i høy hastighet, vil den bli veldig intelligent veldig raskt. Raske selvforbedringssykluser vil føre til en eksplosjon av maskinell intelligens, slik at folk kan snuse silisiumstøvet. Siden denne fremtiden utelukkende er basert på ubekreftede forutsetninger, antas det nærmest religiøst at Singulariteten vil vise seg å være enten utopi eller helvete.
Deltakende etter titlene på talene trodde konferansedeltakerne mer på det første resultatet: "Sinn og hvordan man bygger det", "AI mot aldring", "Erstatter kroppene våre", "Endring av grensen mellom liv og død". Hassabis tale virket derimot kjedelig: "En systemisk nevrovitenskapelig tilnærming til å skape AGI."
Hassabis satte fart mellom pallen og skjermen og snakket i et mønster. Han hadde på seg en burgunder-genser og en hvit knoppskjorte som en skolegutt. Hans lille status syntes bare å understreke hans intelligens. Til nå, forklarte Hassabis, har forskere henvendt seg til AGI fra to sider. En tilnærming, kjent som symbolsk AI, prøvde å beskrive og programmere alle reglene som trengs for et system som kunne tenke som et menneske. Denne tilnærmingen var populær på 1980- og 1990-tallet, men ga ikke de ønskede resultatene. Hassabis mente at hjernens mentale arkitektur var for subtil til å kunne beskrives på denne måten.
En annen tilnærming har samlet forskere som prøver å gjenskape de fysiske nettverkene i hjernen digitalt. Det ga en viss mening. Tross alt er hjernen bedet av menneskelig intelligens. Men de forskerne var også på feil vei, sa Hassabis. Oppgaven deres var beslektet med å lage et kart over alle stjernene i universet. Dypere fokuserte de på feil nivå av hjernefunksjon. Det var som å prøve å finne ut hvordan Microsoft Excel fungerer ved å hacke inn en datamaskin og lære hvordan transistorer samhandler.
I stedet tilbød Hassabis en midtbane: AGI skulle hente inspirasjon fra de brede måtene hjernen behandler informasjon på, heller enn fra fysiske systemer eller spesifikke regler som den gjelder i spesifikke situasjoner. Med andre ord, han burde fokusere på å forstå hjernens programvare, ikke maskinvaren. Nye teknikker, som funksjonell magnetisk resonansavbildning (fMRI), som tillot innsikt i hjernen mens den virket, antydet at en slik forståelse var mulig. Nyere studier, sa Hassabis, viser at hjernen lærer ved å spille om sine opplevelser under søvn for å avsløre generelle prinsipper. AI-forskere må etterligne et slikt system.
Salgsfremmende video:
I det nedre høyre hjørnet av åpningsglidet flaunter logoen i form av en rund blå virvel. De to ordene ved siden av er trykt nedenfor: DeepMind. Dette var første gang selskapet ble omtalt offentlig. Hassabis brukte over et år på å prøve å få en invitasjon til Singularity Summit. Foredraget var hans cover. Han trengte faktisk ett minutt med Peter Thiel, Silicon Valley-milliardæren som finansierte konferansen. Hassabis ønsket Thiels investering.
Hassabis snakket aldri om hvorfor han trengte Thiels støtte. Men Thiel trodde på AGI enda mer enn Hassabis. Thiel snakket på Singularity Summit i 2009, og sa at hans største frykt for fremtiden ikke var et robotopprør. Han var mer bekymret for at Singularity ikke kom snart. Verden trengte nye teknologier for å avverge en økonomisk nedgang.
DeepMind endte med å skaffe to millioner pund, hvorav Thiel var 1,4 millioner. Da Google kjøpte selskapet i januar 2014 for $ 600 millioner, ga Thiel og andre tidlige investorer en avkastning på 5000% av investeringen.
For mange grunnleggere ville dette være en lykkelig slutt. Man kunne hvile, ta et skritt tilbake, tilbringe tid alene med penger. For Hassabis var Google-oppkjøpet bare enda et skritt i hans søken etter AGI. Han brukte mesteparten av 2013 på å forhandle om vilkårene for avtalen. DeepMind måtte operere separat fra eieren. Hun trengte å få fordelene ved å eie Google, som tilgang til kontantstrøm og datakraft, uten å miste kontrollen.
Hassabis trodde DeepMind kunne være en hybrid, med en startmotor, hjernen til de største universitetene og dype lommer til et av verdens mest verdifulle selskaper. Hver ingrediens var på plass for å fremskynde AGIs ankomst og eliminere årsakene til menneskelig lidelse.
Hu fra Mr. Hassabis
Demis Hassabis ble født i Nord-London i 1976 til en gresk kypriotisk og singaporisk-født kinesisk familie. Han var den eldste av tre søsken. Moren hans jobbet i det britiske varehuset John Lewis, og faren drev en leketøysbutikk. Hassabis selv tok opp sjakk i en alder av fire år og så på faren og onkelen spille. Om noen uker slo han allerede voksne. Som 13-åring ble han verdens nest beste sjakkspiller på sin alder. I en alder av åtte lærte han å programmere på en enkel datamaskin.
Hassabis fikk sin høyere utdanning i 1992, to år foran planen. Fikk jobb som videospillprogrammerer hos Bullfrog Productions. Hassabis skrev Theme Park, der spillerne oppretter og administrerer en virtuell fornøyelsespark. Spillet var en stor suksess og solgte 15 millioner eksemplarer, og skapte en hel sjanger av simuleringsspill der målet ikke var å beseire fienden, men å optimalisere funksjonen til et enormt komplekst system, for eksempel en bedrift eller en by.
I tillegg til å lage spill, spilte Demis dem bra. Som tenåring løp han mellom etasjene i brettspillkonkurranser, mens han konkurrerte i dueller av sjakk, scrabble, poker og backgammon. I 1995, mens han studerte informatikk ved University of Cambridge, konkurrerte Hassabis i studentturneringen. Go er et gammelt strategisk brettspill som er betydelig vanskeligere enn sjakk. Mestring må kreve intuisjon ervervet over mange års erfaring. Ingen visste om Hassabis noen gang hadde spilt Go før.
Først vant Hassabis nybegynnturneringen. Deretter beseiret han vinneren av de erfarne spillerne, om enn med et handikap. Charles Matthews, Cambridge go-mesteren som var vertskap for turneringen, minner om sjokket av å bli ødelagt av en 19 år gammel rookie. Matthews tok Hassabis under vingen.
Hassabis 'intelligens og ambisjon har alltid vært tydelig i spill. Spill på sin side gjenfunnet hans lidenskap for intelligens. Da han så på utviklingen sin i sjakk, lurte han på om datamaskiner kunne programmeres til å lære på samme måte som han gjorde ved å få erfaring. Spill tilbød et læringsmiljø som ikke ble matchet av den virkelige verden. De var strenge og lukkede. Siden spill er atskilt fra den virkelige verden, kan de øves uten forstyrrelser og læres effektivt. Spill fremskynder tiden: spillere oppretter et kriminalsyndikat om noen dager og kjemper på Somme i noen minutter.
Sommeren 1997 reiste Hassabis til Japan. I mai samme år slo IBMs Deep Blue-datamaskin Garry Kasparov, verdenssjakkmesteren. For første gang slo en datamaskin en stormester. Kampen vakte oppmerksomhet over hele verden og vakte bekymring for datamaskinens voksende kraft og potensielle trussel. Da Hassabis møtte Masahiko Futszuvera, en japansk brettspillmester, snakket han om planer som ville kombinere interessene hans i strategispill og kunstig intelligens: en dag skulle han utvikle et dataprogram for å beseire den største spilleren.
Hassabis nærmet seg karrieren metodisk. "I en alder av 20 år trodde Hassabis at visse ting måtte være på plass før kunstig intelligens kunne komme til det nivået den trengte," sier Matthews. "Han hadde en plan."
I 1998 grunnla han sitt eget spillstudio kalt Elixir. Hassabis fokuserte på ett enormt ambisiøst spill, Republic: The Revolution, en kompleks politisk simulering. Noen år tidligere, mens han fortsatt var på skolen, hadde Hassabis fortalt vennen Mustafa Suleiman at verden trengte grandios simuleringer for å kunne modellere dens komplekse dynamikk og løse de mest komplekse sosiale problemer. Nå prøvde han å gjøre det i spillet.
Det var vanskeligere å kode hans ambisjoner enn forventet. Elixir endte med å gi ut en nedstrippet versjon av spillet for å få varme anmeldelser. Andre spill har mislyktes. I april 2005 la Hassabis ned Elixir. Matthews mener at Hassabis grunnla selskapet bare for å få ledererfaring. Hassabis manglet nå bare ett viktig kompetanseområde før han kunne begynne sin søken etter å finne AGI. Han måtte forstå den menneskelige hjernen.
I 2005 mottok Hassabis sin doktorgrad i nevrovitenskap fra University College London. Han publiserte en svært innflytelsesrik studie av minne og fantasi. En studie, som siden er blitt sitert over 1000 ganger, viste at personer med hukommelsestap også har vanskelig for å forestille seg nye opplevelser, noe som tyder på en sammenheng mellom memorering og mental avbildning. Hassabis bygde forståelsen av hjernen som trengs for å mestre AGI. Mye av arbeidet hans kokte ned til ett spørsmål: Hvordan mottar og beholder den menneskelige hjernen begreper og kunnskap?
Hassabis etablerte formelt DeepMind 15. november 2010. Selskapets oppdrag var den samme som den er nå: "løse etterretningen" og bruk den deretter til å løse alt annet. Som Hassabis fortalte Singularity Summit, betyr dette å oversette vår forståelse av hvordan hjernen utfører oppgaver til programvare som kan bruke de samme metodene for å undervise.
Hassabis hevder på ingen måte at vitenskapen har forstått det menneskelige sinn fullt ut. Planen for implementering av AGI var umulig å lære av hundrevis av nevrovitenskapelige studier. Men han mener helt klart at det er fullt mulig å begynne å jobbe med AGI på den måten som appellerer til ham. Det er imidlertid også mulig at tilliten hans trumfer virkeligheten. Vi vet fortsatt veldig lite for sikkert om hvordan hjernen faktisk fungerer. I 2018 stilte et team av australske forskere spørsmålstegn ved Hassabis ’egne funn. Dette er selvfølgelig bare ett dokument, men det viser at vitenskapen bak DeepMinds arbeid langt fra er bevist.
Suleiman og Shane Legg, en AGI-besatt New Zealander som Hassabis også møtte på universitetet, ble med som grunnlegger. Selskapets omdømme vokste raskt. Hassabis blomstret. "Det tiltrekker seg som en magnet," sier Ben Faulkner, tidligere Deep Mind-sjef. Mange rekrutter kommer fra Europa. Kanskje DeepMinds største prestasjon var aktivt å rekruttere dyktige mennesker tidlig og beholde de lyseste og beste av dem.
En av maskinlæringsteknikkene selskapet har fokusert på, vokste ut av Hassabis 'dobbelte lidenskap for spill og nevrovitenskap: forsterkningslæring. Et slikt program er designet for å samle informasjon om miljøet og deretter lære av det, gjengi opplevelsen hans om og om igjen - akkurat som Hassabis beskrev hjerneaktivitet under søvn i foredraget sitt på Singularity Summit.
Forsterkningslæring starter med en ren skifer. Programmet blir vist et virtuelt miljø som det ikke vet annet enn reglene, for eksempel en sjakksimulator eller et videospill. Programmet inneholder minst en komponent kjent som et nevralt nettverk. Den består av lag med beregningsstrukturer som siler gjennom informasjon for å identifisere spesifikke funksjoner eller strategier. Hvert lag utforsker miljøet på sitt eget abstraksjonsnivå. Til å begynne med har disse nettverkene minimal suksess, men deres feil - og dette er viktig - er også kodet i dem. Etter hvert blir de smartere og smartere, eksperimenterer med forskjellige strategier og får belønning hvis de lykkes. Hvis programmet flytter sjakkbrikken og som et resultat taper spillet, vil det ikke gjøre en slik feil igjen. Mye av magien med kunstig intelligens ligger i hastigheten som den gjentar disse oppgavene.
DeepMinds arbeid nådde sin topp i 2016 da teamet utviklet et kunstig intelligensprogram som brukte forsterkningslæring sammen med andre metoder for å spille. Programmet, kalt AlphaGo, løftet øyenbrynene etter å ha slått verdensmesteren i en femkampkamp i Seoul i 2016. Seieren til maskinen, som ble sett på av 280 millioner mennesker, skjedde ti år tidligere enn maskinene spådde. Året etter beseiret en forbedret versjon av AlphaGo den kinesiske Go-mesteren.
I likhet med Deep Blue i 1997, endret AlphaGo oppfatningen av menneskelig prestasjon. De menneskelige mesterne, de strålende sinnene på planeten, sto ikke lenger på toppen av den intellektuelle pyramiden. Nesten 20 år etter at Hassabis kunngjorde ambisjonene sine for Fuzuvere, oppfylte han dem. Hassabis sa at denne kampen vekket ham til tårer. Han var takknemlig overfor Matthews.
DeepBlue vant takket være brute force og beregningshastighet, men AlphaGos stil føltes kunstnerisk, nesten menneskelig. Elegansen og raffinementen, beregningskraftens overlegenhet, så ut til å vise at DeepMind var foran konkurransen når det gjaldt å lage et program som kunne helbrede sykdommer og styre byer.
DeepMind og kunstig intelligens
Hassabis har alltid sagt at DeepMind vil forandre verden til det bedre. Men det er ingen sikkerhet om AGI. Hvis han noen gang dukker opp, vet vi ikke om det vil være til bedre eller verre, om han vil underkaste seg menneskelig kontroll. Hvem vil i så fall holde tømmene?
Fra begynnelsen prøvde Hassabis å forsvare DeepMinds uavhengighet. Han insisterte alltid på at DeepMind skulle bli i London. Da Google kjøpte selskapet i 2014, ble kontrollspørsmålet mer presserende. Hassabis trengte ikke å selge DeepMind til Google. Med nok penger i hånden, tegnet han en forretningsmodell der selskapet ville utvikle spill for å finansiere forskning. De lovet mye penger hos Google, men han ønsket ikke å overføre selskapet han oppdro. Som en del av avtalen opprettet DeepMind en avtale som skulle hindre Google i å ensidig ta kontroll over selskapets immaterielle rettigheter. I året frem til oppkjøpet sier kilder at begge sider har signert en avtale - etikk- og sikkerhetsavtalen. Denne avtalen ble utarbeidet av senior advokater i London.
Avtalen overfører kontroll over AGI DeepMind-teknologien, om noen, til etikkstyret. Ifølge samme kilde er etikkrådet på ingen måte en kosmetisk konsesjon fra Google, men gir DeepMind solid juridisk støtte for å opprettholde kontrollen over sin mest verdifulle og potensielt farligste teknologi. Navnene på kommisjonærene er ikke utgitt, men en annen kilde nær både DeepMind og Google sa at alle tre av grunnleggerne av DeepMind sitter i styret. Selskapet oppgir ikke noe.
Hassabis kan bestemme skjebnen til DeepMind på andre måter. En av dem er hengivenhet. Ansatte, tidligere og nåværende, sier at Hassabis forskningsprogram er en av DeepMinds største styrker. Programmet hans, som tilbyr spennende og viktig arbeid uten press fra akademia, har tiltrukket seg hundrevis av verdens mest talentfulle eksperter. DeepMind har datterselskaper i Paris og Albert. Mange ansatte føler seg mer knyttet til Hassabis og dets oppdrag enn med selskapets foreldre, som bare vil ha inntekt. Så lenge Hassabis opprettholder personlig lojalitet, har han betydelig makt over sin eneste aksjonær. Bedre å la talentet fungere for DeepMind eksternt enn å havne på Facebook eller Apple.
DeepMind har en annen kilde til innflytelse, selv om det krever konstant påfyll: lykkebringende glorie. Selskapet har lyktes med dette. AlphaGo var en flott reklame. Siden oppkjøpet av Google har selskapet gjentatte ganger produsert mirakler som har vakt oppmerksomhet over hele verden. Et eksempel på programvare kan oppdage øyeskanningsmønstre som er indikatorer på makuladegenerasjon. Et annet program lærte å spille sjakk fra bunnen av ved å bruke en arkitektur som ligner AlphaGo, og ble den største spilleren gjennom tidene etter bare ni timers spill med seg selv. I desember 2018 viste AlphaFold seg å være mer nøyaktig enn konkurrenter når det gjaldt å forutsi den tredimensjonale strukturen til proteiner fra en liste over forbindelser som potensielt kan behandle sykdommer som Parkinson og Alzheimers.
DeepMind er spesielt stolt av algoritmene den har utviklet som beregner de mest effektive kjøleløsningene for Googles datasentre, som inneholder omtrent 2,5 millioner dataserver. I 2016 sa DeepMind at det hadde kuttet Googles strømregning med 40%. Men noen innsidere sier at denne skryten er overdrevet. Google har brukt algoritmer for å optimalisere datasentrene lenge før DeepMind fulgte med. Det antas at DeepMind overdriver sine fordeler for å få verdi i alfabetets øyne. Googles morselskap Alphabet betaler DeepMind for lignende tjenester. I 2017 utstedte sistnevnte en faktura til Alphabet for 54 millioner pund. Disse tallene bleker i forhold til DeepMinds overhead. Samme år brukte hun 200 millioner pund på ansatte. Som regel,i 2017 mistet DeepMind 282 millioner pund.
Det er en krone for en velstående kjempe. Men andre Alfabet-datterselskaper fikk oppmerksomheten til Ruth Porat, Alfabets gjerrige finansdirektør. Google Fiber, et forsøk på å bygge en internettleverandør, ble satt på vent etter at det ble klart at investeringene ville ta flere tiår å lønne seg. AI-forskere lurer også på om DeepMind vil bli skrudd opp.
Den gradvise avsløringen av DeepMinds fremskritt i AI er del av en strategi som gradvis bygger selskapets omdømme. Dette er spesielt verdifullt i en tid hvor Google blir beskyldt for å ha krenket brukernes personvern og spredt falske nyheter. DeepMind har også vært så heldig å ha en støttespiller på høyeste nivå: Larry Page, en av de to grunnleggerne av Google, nå administrerende direktør i Alphabet. Paige ligger veldig nær Hassabis. Sidens far, Karl, studerte nevrale nettverk på 1960-tallet. Tidlig i karrieren sa Page at han opprettet Google utelukkende for å opprette et AI-selskap.
DeepMinds nærkontroll av pressen er ikke i tråd med den akademiske ånden som gjennomsyrer selskapet. Noen lærde klager over at det er vanskelig for dem å publisere arbeidet sitt: De må overvinne lag med intern godkjenning før de selv kan sende inn et papir til en konferanse eller et tidsskrift. DeepMind mener det er nødvendig å gå videre med forsiktighet for ikke å skremme publikum med utsiktene til AGI. Men altfor harde beskyldninger kan ødelegge den faglige atmosfæren og svekke ansattes lojalitet.
Fem år etter Google-oppkjøpet blir spørsmålet om hvem som styrer DeepMind kritisk. Gründerne og de tidlige ansatte i selskapet nærmer seg terskelen når de kan gå bort med den økonomiske kompensasjonen de fikk fra kjøpet av selskapet (Hassabis-aksjer er sannsynligvis verdt rundt 100 millioner pund). Men en kilde nær selskapet antyder at Alphabet har presset tilbake utbetalinger til gründerne i flere år. Gitt sitt nådeløse fokus er det lite sannsynlig at Hassabis hopper av skipet. Han er interessert i penger bare i den grad det hjelper ham å nærme seg målet for hele livet. Men noen av kollegene mine dro. Tre AI-ingeniører har forlatt selskapet siden begynnelsen av 2019. Ben Laurie, en av verdens mest fremtredende sikkerhetsingeniører, er tilbake hos Google. Dette er absolutt ikke myeMen DeepMind tilbyr et så utrolig oppdrag og anstendig lønn at ingen skal forlate.
Så langt har Google ikke plaget DeepMind. Men en nyere utvikling har vakt bekymring for hvor lenge selskapet vil være i stand til å opprettholde sin uavhengighet.
DeepMind, medisin og kunstig intelligens
DeepMind har alltid planlagt å bruke AI for å forbedre helsevesenet. I februar 2016 ble en ny divisjon av DeepMind Health opprettet, ledet av Mustafa Suleiman, en av selskapets medstiftere. Suleiman, hvis mor var sykepleier, håpet å lage et program som heter Streams som ville varsle leger når pasientens helse ble dårligere. DeepMind vil bli belønnet basert på beregninger. Fordi dette arbeidet krevde tilgang til konfidensiell pasientinformasjon, opprettet Suleiman et Independent Review Panel (IRP) som rekrutterte gode engelske helse- og teknologifagfolk. DeepMind var klok nok til å være forsiktig. Deretter oppdaget den britiske informasjonskommissæren at en av sykehuspartnerne hadde brutt loven i behandlingen av pasientdata. Mot slutten av 2017 hadde imidlertid Suleiman signert avtaler med fire store sykehus.
8. november 2018 kunngjorde Google etableringen av en egen helse-divisjon - Google Helse. Fem dager senere ble det kunngjort at DeepMind Health skulle være med i morselskapets innsats. DeepMind har ikke blitt advart. I følge informasjon hentet fra FOI-forespørsler, varslet hun bare partnersykehus om endringen tre dager i forveien. DeepMind nektet å avsløre da diskusjoner om fusjonen begynte, men sa at den korte tiden mellom varsel og offentlig kunngjøring var i interesse for åpenhet. I 2016 skrev Suleiman at "pasientdata vil aldri bli tilknyttet Google-kontoer, produkter eller tjenester." Løftet hans så ut til å ha blitt brutt.
Googles annektering gjorde DeepMind Health-ansatte vred. Flere ansatte planlegger å forlate selskapet etter at overtakelsesprosessen er fullført, ifølge folk i nærheten av helseteamet.
Denne episoden viser at perifere deler av DeepMinds arbeid er sårbare for Google. DeepMind uttalte at "vi var alle enige om at det er fornuftig å kombinere denne innsatsen i en samarbeidsinnsats med økte ressurser." Dette stiller spørsmålet om Google vil bruke den samme logikken på DeepMinds arbeid med AGI.
I stor skala har DeepMind gjort store fremskritt. Hun har allerede laget programvare som kan lære å utføre oppgaver på et overmenneskelig nivå. Hassabis refererer ofte til Breakout, et videospill for Atari-konsollen. Spilleren kontrollerer et flaggermus, som kan bevege seg horisontalt og med sin hjelp spretter ballene og lede dem inn i blokker over, som blir ødelagt ved kollisjon. Spilleren vinner når alle blokkene blir ødelagt. Mister hvis ballen faller forbi plattformen. Uten menneskelig instruksjon lærte DeepMind ikke bare å spille spillet, men også å kaste baller i verdensrommet bak blokker for å dra nytte av sprett. Dette demonstrerer kraften til forsterkningslæring og de overnaturlige kreftene fra DeepMinds dataprogrammer.
Demonstrasjonen er absolutt imponerende. Men Hassabis er taus om noe. Hvis den virtuelle plattformen heves enda litt høyere, vil programmet gjøre en feil. Dyktigheten som DeepMind har tilegnet seg er så begrenset at den ikke kan svare på selv små endringer i miljøet som et menneske lett kan overvinne. Men det er mange finesser i verden. For diagnostisk intelligens er ingen to kroppsorganer like. For mekanisk intelligens vil to lignende motorer aldri være de samme når det gjelder innstilling. Derfor er det vanskelig å slippe programmer ut i naturen.
En annen ting som DeepMind sjelden snakker om, er at suksess i virtuelle miljøer avhenger av å ha en belønningsfunksjon: et signal som lar programvare måle fremdriften. Programmet lærer at å sprette bakveggen øker poengsummen. Mye av DeepMinds arbeid med AlphaGo har vært å lage en belønningsfunksjon som er kompatibel med et så komplekst spill. Dessverre tilbyr den virkelige verden ikke enkle belønninger. Fremgang måles sjelden i individuelle poeng. Den menneskelige hjerne mottar et signal om suksessen til oppgaven rett i prosessen med å implementeres, og ikke etter.
DeepMind har funnet ut en måte å komme seg rundt på ved å bruke enorme mengder prosessorkraft. AlphaGo har spilt spill i tusenvis av år med menneskelig tid for å lære noe. Mange AI-filosofer mistenker at denne løsningen er uakseptabel for oppgaver som gir svakere belønning. DeepMind erkjenner slike uklarheter. Hun tok nylig opp StarCraft 2, et datastrategi-spill. Avgjørelser som ble tatt i begynnelsen av spillet får konsekvenser som dukker opp senere, noe som er ganske karakteristisk for den kronglete og forsinkede tilbakemeldingen om reelle problemer. I januar slo DeepMinds programvare noen av de beste spillerne i verden, og den var ganske imponerende til tross for stramme restriksjoner. Programmene har også begynt å utforske belønningsfunksjoner ved å følge folks tilbakemeldinger. Men å inkludere menneskelige instruksjoner i en løkke skaper risikoen for å miste skala og hastighet.
Både nåværende og tidligere forskere ved DeepMind og Google har, på betingelse av anonymitet, uttrykt skepsis om at DeepMind vil kunne oppnå AGI ved bruk av slike metoder. For dem gjør ønsket om å oppnå høy ytelse i simulerte miljøer det vanskelig å løse problemet med belønningsfunksjonen. Likevel er akkurat denne tilnærmingen kjernen i DeepMind. Det er intern konkurranse i et selskap der programmer fra konkurrerende lag konkurrerer om overherredømme.
Hassabis har alltid sett livet som et spill. Mye av karrieren har vært viet til å lage dem, mesteparten av fritiden hans ble brukt på å spille dem. Hos DeepMind bruker han dem til å utvikle kraftig kunstig intelligens. I likhet med programvaren lærer Hassabis av sin egen erfaring. Jakten på AGI kan til syvende og sist føre til en blindvei, oppfinne nyttig medisinsk teknologi underveis og overmann de beste spillerne i deres ferdigheter. Men det kan også skape AGI rett under Googles nese, men utenfor kontrollen. Og hvis han greier å gjøre det, vil Demis Hassabis vinne det vanskeligste spillet av alle.
Ilya Khel
