Politikere og kapitalister har en fredag ettermiddagstradisjon med å dumpe mye nyheter for å skjule den dårlige nyheten blant dem. Så det var litt rart at Elon Musk, grunnlegger av Tesla, en elektrisk kjøretøyprodusent, og Sam Altman, president for den anerkjente teknisk inkubatoren Y Combinator, avduket deres nye AI-tema selskap helt på slutten av en ukes lang AI-konferanse i Montreal i desember i fjor.
Det var en grunn til at OpenAI ble introdusert på en så sen time. Ikke fordi ingen så på. Fordi alle så på. Da noen av de mektigste selskapene i Silicon Valley fornemmet at vinden blåste, begynte de å tilby enorme summer for det nylig hevede OpenAI AI-talentet for å beholde disse geniene hjemme. I siste øyeblikk vokste forslagene - noen frem på selve konferansen - så store at Musk og Altman måtte utsette kunngjøringen om den nye oppstarten. "Sumene har nådd kanten av sinnssykdom," sier Wojciech Zaremba, en vitenskapsmann som begynte i OpenAI etter praksisplasser på Google og Facebook og var blant dem som fikk store tilbud klokka 23.00.
Hvor mange dollar er galskapens grense? For to år siden, da markedet for de nyeste maskinlæringsteknologiene begynte å varme opp, sa Microsoft Research VP Peter Lee at kostnadene for topp AI-forskere har oversteg kostnadene for en topp quarterback i National Football League - og det er under normale omstendigheter, ikke når de største gründerne Silicon Valley prøver å tappe det beste talentet. Zaremba forteller at da OpenAI kom sammen, ble det tilbudt to til tre ganger markedsverdien.
OpenAI oppfylte ikke disse forslagene. Men han tilbød noe annet: muligheten til å forske fokusert utelukkende på fremtiden, snarere enn på produkter og kvartalsvis fortjeneste, og til slutt dele mest - om ikke alt - av forskningen blant de som ønsket. Det stemmer: Musk, Altman og selskap tok sikte på å gi bort det som kan være den mest transformative teknologien i det 21. århundre og gi det bort gratis.
Zaremba sier at forslag på randen av sinnssykdom faktisk setter ham av - til tross for den enorme respekten for selskaper som Google og Facebook. Han følte at pengene ble kanalisert for å forhindre opprettelsen av OpenAI, noe som ytterligere forsterket hans engasjement for en sjenerøs oppstart. "Jeg skjønte," sier Zaremba, "at OpenAI er det beste stedet for meg."
Føler du ironien i hjertet av denne historien? Mens verdens største teknologiselskaper prøver å beholde forskerne så hardt som NFL-team prøver å beholde stjernekvartbackene sine, vil forskerne bare dele sin innsikt. I den sofistikerte verdenen av AI-forskning blir de lyseste sinnene ikke bare drevet av neste produktsyklus eller fortjeneste, eller ikke i det hele tatt besatt av dem. De vil gjøre AI bedre, og det er umulig å gjøre AI bedre når du holder den siste utviklingen for deg selv.
OpenAI ga nylig ut den første bunten med AI-programvare, et verktøysett for å bygge kunstig intelligenssystemer basert på teknologi som kalles forsterkningslæring, en av de viktigste teknologiene som førte til etableringen av AlphaGo, Googles AI som overrasket verden med sine evner. gå spill. Med dette settet med verktøy kan du bygge systemer som vil åpne for en ny generasjon roboter, spille Atari-spill og ja, slå verdensmesterne på Go.
Salgsfremmende video:
Men leker er bare begynnelsen. OpenAI er et oppdrag på milliarder dollar for å presse AI så langt som mulig. På den måten selskapet kom sammen og hva planene er, kan du se den neste nye bølgen av innovasjon. Vi vet ennå ikke om OpenAI vil være hoveddriveren for disse endringene. Men kreftene bak etableringen av denne ganske uvanlige oppstarten viser at neste generasjon AI ikke bare vil endre teknologien, men også måten den fungerer på.
Kunstig intelligens er overalt
Silicon Valley har en lidenskap for overdrivelse. Fet klingende uttalelser bør alltid møtes med et saltkorn. Men innen kunstig intelligens skjer endringer. Inne i selskaper som Google og Facebook hjelper dypt læringsteknologier allerede internettjenester med å identifisere ansikter i bilder, gjenkjenne stemmekommandoer på smarttelefoner og svare på Internett-søk. Og den samme teknologien kan løse mange andre problemer i fremtiden. Det kan hjelpe maskiner å lære å forstå naturlig språk - som vi mennesker er vant til å snakke og skrive. Det kan bidra til å utvikle en ny rase av roboter, tillate automat ikke bare å utføre oppgavene sine, men også å lære mens du er på farten. Og noen tror at dette til slutt vil gi maskiner noe som sunn fornuft - evnen til å tenke virkelig som en person.
Og sammen med slike løfter fødes dyp angst. Musk og Altman er opptatt av at hvis mennesker kan lage AI-er som gjør store ting, kan de bygge AI-er som gjør forferdelige ting. De er ikke alene i frykten. Selv om dette kan virke motsatt, mener Musk og Altman også at den beste måten å bekjempe ondsinnet AI ikke er å begrense tilgangen til kunstig intelligens, men å utvide den. Det er denne ambisjonen som fører til et team med unge og intelligente idealister.
OpenAI dukket opp en kveld i fjor sommer i et privat rom på Rosewood Hotel i Silicon Valley, et eksklusivt byhotell som bokstavelig talt sitter i sentrum av risikokapitalistens verden. Elon Musk spiste lunsj med Ilya Sutskever, som da var hos Google Brain, et selskap som utviklet dype nevrale nettverk - kunstige intelligenssystemer som kan lære å utføre oppgaver ved å analysere enorme mengder digital data, inkludert å gjenkjenne bilder og skrive e-post, lære av korrespondanse. Suckever var en av hovedutviklerne for prosjektet.
Ilya Sutskever
Sam Altman, hvis Y Combinator hjalp til med å forme selskaper som Airbnb, Dropbox og Coinbase, meglet møtet, og samlet flere AI-forskere og unge, men veteranbedriftsbygger Greg Brockman, tidligere teknologisjef i oppstarten Stripe, et annet selskap Y Combinator. Det var en eklektisk gruppe. Men alle hadde et mål: å lage en ny type AI-laboratorium som kunne fungere utenfor kontrollen av ikke bare Google, men alle andre. "Det beste jeg kunne tenke meg som en utfordring," sier Brockman, "er å bevege menneskeheten mot å skape ekte AI langs en trygg vei."
Musk var der på grunn av sitt lange vennskap med Altman - og fordi AI er avgjørende for fremtiden for sine forskjellige virksomheter, og for fremtiden som helhet. Tesla trenger AI hvis den vil bygge selvkjørende biler. SpaceX, et annet av Musks selskaper, trenger AI for å ta mennesker ut i verdensrommet og holde dem trygge og sunne der. Men Musk er også en av de første (og høyest mulig) som advarer om at menneskeheten en dag kan miste kontrollen over systemer som er kraftige nok til å lære på egen hånd.
Det var et problem: mange mennesker som var dyktige nok til å løse alle disse problemene som allerede arbeidet hos Google (så vel som Microsoft, Facebook, Baidu og Twitter). Og ingen på den middagen var helt sikre på at disse forskerne kunne lokkes til en ny oppstart, selv om Musk og Altman sto bak. Og minst en nøkkelspiller var klar til å forlate skipet. "Jeg forsto risikoen," sier Suckever, "men jeg visste også at det ville være interessant å prøve."
Bryt sirkelen
Oppmuntret av samtaler med Musk, Altman og andre på Rosewood, bestemte Brockman seg snart for å bygge laboratoriet som de alle hadde i tankene. Med et sterkt engasjement for prosjektet hentet han inn Yoshua Bengio, en forsker fra University of Montreal og en av grunnleggerne til den dype læringsbevegelsen. To andre bransjepionerer - Jeff Hinton og Jan Lecun - jobber på henholdsvis Google og Facebook, men Bengio håpet på livet i den akademiske verden, et sted utenfor rekkevidden til industrielle tentakler. Han skisserte en liste over de beste forskerne på feltet, og i løpet av de neste ukene kontaktet Brockman alle han kunne, inkludert flere andre.
Mange av disse forskerne ønsket ideen velkommen, men var på vakt mot muligheten for et slikt sprang. I et forsøk på å bryte sirkelen valgte Brockman ut de ti oppdagelsesreisende han ønsket å se mest og inviterte dem til å tilbringe lørdagen med vin, snacks og samtale i en vinkjeller i Napa Valley. For Brockman var til og med en tur til Napa katalysatoren for prosjektet. "Dette er en undervurdert måte å samle folk på, spesielt i tider hvor du ikke har noe sted å skynde deg for å nå målet ditt," sier han. "Du må dra dit, men du må også snakke." Og da de kom til vinen, forble den atmosfæren. Som Suckever sier, "vinen var sekundær i samtalen."
Greg Brockman
På slutten av dagen inviterte Brockman alle ti forskere til å bli med på laboratoriet og ga dem tre uker til å tenke på. På slutten av termin var ni i kommando. Og de ble værende i det, til tross for de store tilbudene fra gigantene i Silicon Valley. "Jeg fikk et veldig attraktivt tilbud om å bli, så beslutningen var ikke lett," sier Suckever fra Google, hans tidligere arbeidsgiver. "Til slutt bestemte jeg meg for å gå til OpenAI, delvis på grunn av den veldig sterke gruppen mennesker, og selvfølgelig mest på grunn av deres oppdrag."
Den dype læringsbevegelsen startet i akademia. Det er først nylig at selskaper som Google, Microsoft og Facebook har bestemt seg for å takle dette området, ettersom fremskritt innen brute datakraft har gjort disse dype nevrale nettverk til virkelighet, ikke bare en teoretisk mulighet. Folk som Hinton og LeCune har forlatt akademia på Google og Facebook på grunn av de enorme ressursene til disse selskapene. Men forble tett koblet i samarbeid med andre teoretikere i feltet. Likevel, som LeCun forklarer, krever dyp læringsforskning fri flyt av ideer. "Når du forsker i det skjulte," sier han, "faller du tilbake."
Som et resultat har store selskaper nå mye av deres AI-forskning til disposisjon. Dette er et stort trumfkort, spesielt for Google, som lenge har holdt teknologien til sitt online imperium hemmelig. For ikke så lenge siden åpnet Google kildekoden for programvaremotoren som kjører nevrale nettverk. Men mye gjenstår i lås og nøkkel i dette løpet for fremtiden. Brockman, Altman og Musk prøver å presse tanken om åpenhet enda lenger ved å si at de ikke vil at ett eller to store selskaper skal kontrollere fremtiden for kunstig intelligens.
Grenser for åpenhet
Det hele høres bra ut. Men for all OpenAIs idealisme, kan forskere finne seg i de samme forholdene som tvang dem til å jobbe på gamle jobber. Åpenhet har sine grenser. Og den langsiktige visjonen om AI er ikke den eneste interessen i dette spillet. OpenAI utfører ikke veldedighetsarbeid. Musks selskaper vil ha stor fordel av oppstartarbeidet, og det samme vil Altmans Y Combinator. "Det er absolutt noen konkurrerende poeng," sier Lecun. - Det er en ideell organisasjon, men den har et nært forhold til Y Combinator. Og folk vil få betalt for å jobbe i denne bransjen."
Laboratoriet betaler ikke de samme astronomiske lønningene som Google og Facebook ga AI-forskere, sa Brockman. Men han sier også at laboratoriet "ønsker å betale dem godt," og tilbyr kompensasjon i form av aksjeopsjoner, først hos Y Combinator og senere muligens hos SpaceX (som i motsetning til Tesla er et privat selskap).
Ikke desto mindre insisterer Brockman på at OpenAI ikke sørger for spesialbehandling av relaterte selskaper. OpenAI er et forskningsinitiativ, ikke et konsulentfirma. Likevel har OpenAIs idealisme sine begrensninger. Det er ikke sikkert at selskapet åpner koden for alt det produserer, selv om det endelige målet fortsatt er å distribuere det meste, enten det er vitenskapelige artikler eller Internett-tjenester. “Åpning er ikke nødvendigvis det beste alternativet. Du må gi næring til ideen, se hvor den fører, og deretter publisere, sier Brockman. - Vi produserer mye åpen kildekode. Men vi vil også ha mange ting som ikke er klare for utgivelse ennå."
Suzkever legger også til at OpenAI kan gå så langt som å patentere noe av arbeidet sitt. "Vi vil ikke patentere noe snart," sier Brockman. "Men vi er klare til å endre taktikk på lang sikt, hvis vi tror det vil være bedre for verden." For eksempel kan OpenAI gjøre proaktiv patentering for å fraråde andre å skaffe seg patenter.
Noen vil kanskje se patenter som et motiv for profitt. Men det er hele poenget med patenter.
Superintelligens-problemet
Da Musk og Altman presenterte OpenAI, skisserte de også prosjektet som en måte å nøytralisere trusselen om ondsinnet superintelligens. Selvfølgelig kan en slik superintelligens være et resultat av OpenAIs arbeid, men de insisterer på at enhver trussel vil bli dempet ved å gjøre teknologien tilgjengelig for alle. "Vi tror det er mye mer sannsynlig at en rekke AI-er kan stoppe tilfeldige dårlige skuespillere," sier Altman.
Men ikke alle på dette området tror på et slikt utfall. Nick Bostrom, en Oxford-filosof som i likhet med Musk advarte om farene ved AI, påpeker at hvis du deler forskningen din uten begrensning, kan "dårlige skuespillere" fange dem før alle er sikre på at de er trygge. "Hvis du har en knapp som gjør verdens shitty," sier Bostrom, "vil du sannsynligvis ikke gi alle tilgang til den." Hvis OpenAI derimot bestemmer seg for å holde tilbake forskning for å forhindre at gutta får tilgang til den, spør Bostrom: hvordan vil dette skille seg fra Google eller Facebook?
Han sier ja, OpenAIs non-profit status kan eller ikke endre ting. Prosjektets virkelige styrke, sier han, er at det kan bekreftes av Google og Facebook.”Det vil være i stand til å redusere sannsynligheten for at superintelligens blir monopolisert. Det vil være i stand til å fjerne en av de mulige årsakene til at noen enkeltpersoner eller grupper vil ha tilgang til bedre AI enn alle andre."
I et nylig arbeid forklarer filosofen at hovedeffekten av et initiativ som OpenAI - et initiativ til fritt å dele det som gjøres - er å fremskynde fremdriften for kunstig intelligens, i det minste på kort sikt. Og det kan fremskynde fremgangen på sikt, forutsatt at et høyere nivå av åpenhet opprettholdes enn det som er kommersielt optimalt.
"Det kan hende at en filantropisk motivert FoU-investor seriøst kunne akselerere fremgangen ved å føre åpen vitenskapspolitikk," sier han.
Hvordan Xerox PARC
I begynnelsen av januar samlet ni av Brockmans forskere seg i leiligheten hans i San Francisco. Prosjektet var så nytt at de ikke en gang hadde tavler. (Se for deg.) De kjøpte noen få samme dag og kom på jobb.
Brockman sier OpenAI vil starte med å utforske forsterkningslæring, en maskinbasert måte å lære problemer ved å gjenta dem om og om igjen, og spore hvilke metoder som gir de beste resultatene. En annen stor utfordring er den såkalte "unsupervised learning" - å lage maskiner som virkelig kan lære seg selv uten menneskelig hjelp. I dag er dyp læring avhengig av nøye merkede data. Hvis du vil lære et nevralt nettverk å gjenkjenne bilder av katter, må du mate det et visst antall eksempler - og disse eksemplene bør merkes som bilder med katter. Slik trening gjennomføres ved hjelp av mennesker. Men som mange andre forskere, planlegger OpenAI å bygge nevrale nettverk som kan lære uten nøye utvalg av data.
"Hvis du har en veldig god undervisningsmetodikk uten lærer, kan maskiner lære av all kunnskapen på Internett - som et menneske, bare se deg rundt - eller ved å lese bøker," sier Brockman.
Han ser OpenAI som den moderne inkarnasjonen av Xerox PARC, et forskningslaboratorium for teknologi som eksisterte på 1970-tallet. Akkurat som PARCs åpne og gratis forskning har gitt opphav til alt fra grafiske brukergrensesnitt og laserutskrift til objektorientert programmering, ønsker Brockman og teamet hans å dykke ned i det som tidligere var science fiction. PARC var eid av Xerox, men matet av hendene til mange andre selskaper, inkludert Apple, fordi folk som Steve Jobs ønsket forskningen velkommen. Brockman ønsker at alle ønsker OpenAI-forskning velkommen.
I håp om å skyve denne dynamikken, rekrutterte Brockman og selskapet flere andre bemerkelsesverdige forskere, inkludert Ian Goodfellow, en annen eldre stipendiat i Google Brain-teamet. Brockman sier at PARC i utgangspunktet fikk en gjeng smarte mennesker sammen og bestemte seg for å se hva som skjedde. "Du trenger en delt visjon uten sentral kontroll."
Mangel på kontroll er essensielt for idealet. Hvis du bringer nok folk inn i det kollektive målet, vil sluttresultatet vinne over hva du i all hemmelighet kokte opp. Men hvis AI blir så kraftig som lovet, vil ligningen endre seg. Vi trenger forsikring om at den nyfundne AI vil overholde de samme egalitære idealene som førte til at den ble opprettet i utgangspunktet. Musk, Altman og Brockman tror på mennesker, i mengden. Og hvis de viser seg å stemme, vil en gruppe ikke en dag være helt menneskelige.
ILYA KHEL
