Smarte maskiner har lært seg å bløffe, overspille fagfolk innen sjakk eller Go, oversette og gjenkjenne den menneskelige stemmen. Hver uke lærer vi om mer og mer utnyttelse av dataprogrammer som allerede vet hvordan man kan stille medisinske diagnoser, tegne så vel som Rembrandt, synge eller generere tekst. Bør en person være redd for kunstig intelligens?
Kunstig intelligens (AI) har blitt et veldig hett tema de siste årene. Forskere forbinder dette med den raske utviklingen av nevrale nettverk (et av forskningsområdene innen kunstig intelligens), som igjen ble mulig med fremveksten av kraftige datamaskiner.
"Siden begynnelsen av 2010-tallet, påvirket av den imponerende suksessen som ble oppnådd ved bruk av multilayer nevrale nettverk (primært konvolusjonelle og tilbakevendende), har dette området tiltrukket alvorlig oppmerksomhet fra både forskere og ingeniører og fra investorer," kommenterer forfatteren. et av de russiske sjakkprogrammene, maskinlæringsspesialisten Sergey Markov.
Det vitenskapelige samfunnet kan krangle om tidspunktet for fremveksten av smarte maskiner, men de er enige om en ting: utvikling av teknologi vil ha en ubetinget innvirkning på samfunnet, økonomien og forholdet mellom mennesker i fremtiden. Allerede er det krav om å reflektere over de etiske prinsippene for å utvikle kunstig intelligens, og sørge for at kunstig intelligens utvikler seg i en retning som er trygg for mennesker.
Økonomisk effekt og innvirkning på arbeidsmarkedet
Science fiction og Hollywood har formet begrepet "kunstig intelligens" som den neste livsformen på planeten for å slavebinde menneskeheten i Matrisen eller organisere en kjernefysisk dommedag for den. De overlevende blir avsluttet av Terminator.
Faktisk, til tross for nylige fremskritt innen kunstig intelligens, er intelligente maskinvesener fortsatt langt unna, innrømmer forskere og spesialister. Både de og andre anbefaler imidlertid å ta hensyn til noen aspekter akkurat nå.
Kampanjevideo:
I følge forskningsorganisasjonen McKinsey Global Institute vil nye teknologier radikalt endre arbeidsmarkedet på planeten de neste ti årene, noe som vil spare rundt 500 billioner dollar.
Endringene vil påvirke hundrevis av millioner jobber. Flere og flere mennesker vil flytte noen av jobboppgavene sine og mange rutinemessige oppgaver til maskinen, noe som gjør at de kan fokusere på kreativt arbeid.
"Fra et visst synspunkt har menneskeheten som helhet en viktig og interessant oppgave - å utvikle seg for hvert enkelt individ raskere enn menneskeheten utvikler kunstige intelligenssystemer," sa Grigory Bakunov, ekspert, direktør for teknologidistribusjon i Yandex.
Men sammen med automatisering vil mindre kvalifisert personell uunngåelig lide, og nå er det nødvendig å tenke på hvordan du kan beskytte dem, omskole og forberede dem på et nytt liv.
Praksis viser at ikke bare blå krager, men også kunnskapsarbeidere kan lide. For noen dager siden erstattet Goldman Sachs et team på 600 handelsmenn med to personer og automatiserte algoritmiske handelsprogrammer, som 200 programmerere ble ansatt for å betjene.
Kunstig intelligens i seg selv er ikke identisk med automatisering av prosesser, men utviklingen av AI vil føre til at flere og flere oppgaver vil være i kraft av et dataprogram.
Blant alternativene for å løse problemet med menneskelig forskyvning av maskinen på arbeidsmarkedet, som påpekt av Allison Dutman, programkoordinator for Foresight Institute, en ideell organisasjon basert i Silicon Valley for å fremme ny teknologi, er introduksjonen av konseptet "universal basisinntekt", som vil bli mottatt av alle innbyggere, uavhengig av inntekt og sysselsettingsnivå. Slike inntekter vil bli finansiert av den såkalte innovative landverdiavgiften, hvor innføringen nå blir aktivt diskutert i Silicon Valley.
Er kunstig intelligens en person?
Er et robotsystem en person? Kan en smart datamaskin stemme? Hvilket kjønn er han? MEPs diskuterer allerede forholdet mellom mennesket og en smart maskin, og lurer på om fremtidige roboter skal gis status som en "elektronisk personlighet."
Som Dutmann påpeker, er folk motvillige til å dele sine rettigheter med de de ikke forstår, noe som betyr at de vil motstå “humaniseringen” av AI.
Når vi tar i betraktning hvor lenge menneskeheten har gått for å gi like rettigheter til alle mennesker, uavhengig av hudfarge, rase eller kjønn, kan vi allerede anta at de ikke umiddelbart anerkjenner maskiner som likeverdige.
Sammen med etiske, vises juridiske finesser: hvem vil ta ansvar i tilfelle en ulykke med et ubemannet kjøretøy eller sammenbrudd i et smart medisinsk utstyr - og moralske spørsmål: er det verdt å utvikle et ubemannet våpen som er i stand til å handle uten viten om en person?
Den tredje etiske gåten diskuteres oftere enn andre og bekymrer menneskeheten mye mer: hva teoretisk kan en superintelligens, en virkelig smart maskin, gjøre med menneskeheten?
Lær AI-etikk
AI-spesialister innrømmer: selv om ikke i løpet av de neste 20-30 årene, vil menneskeheten fremdeles leve for å se fremveksten av ekte kunstig intelligens, som vil være smartere enn skaperen.
"Den siste bastionen vil bli tatt når den såkalte" sterke AI "(Strong AI, Artificial General Intelligence) blir opprettet, det vil si en AI som vil være i stand til å løse et uendelig bredt spekter av intellektuelle oppgaver," sier Sergey Markov.
Og viktigst av alt, en slik AI vil kunne tenke selvstendig.
Mange institusjoner, inkludert Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI og andre, er engasjert i å undersøke truslene fra AI, samt de etiske problemene knyttet til ny teknologi.
Avgjørelsen til Allison Dutman fra Foresight Institute er å la datamaskinen lese all vitenskapelig litteratur, vitenskapelige artikler som tar opp etisk spørsmål, og gjøre denne informasjonen til grunnlaget for fremtidige beslutninger.
Hva er nevrale nettverk og hva er deres fremtid?
De fleste eksperter forbinder fremgang i utviklingen av AI med utviklingen av nevrale nettverk.
Nevrale nettverk er en av forskningslinjene innen kunstig intelligens, basert på modellering av biologiske prosesser som forekommer i den menneskelige hjerne.
Det er for dem at vi skylder utseendet til imponerende resultater innen tale- og bildegjenkjenning, medisinske diagnoser, tekstoversettelse og bildeskaping, talegenerering og musikalsk komposisjon.
I dag, som eksperter innrømmer, er nevrale nettverk anerkjent som en av de beste maskinlæringsalgoritmene, og løsninger basert på dem viser de mest fremragende resultatene for øyeblikket.
Dette til tross for at moderne nevrale nettverk er halvannet tusen ganger enklere enn rottehjernen.
”Så langt er nevrale nettverk vi lager relativt små sammenlignet med for eksempel det neurale nettverket til den menneskelige hjernen, og i tillegg er de en veldig forenklet analog av naturlige nevrale nettverk. Derfor, for nå, ved hjelp av nevrale nettverk, løser vi hovedsakelig rent anvendte problemer,”sier Sergey Markov.
Nå blir det opprettet spesialiserte prosessorer for opplæring av slike nettverk (de såkalte nevromorfe prosessorer), som vil øke hastigheten på beregninger med flere størrelsesordener.
Utviklerne er ikke bare opptatt nå med å øke antall nevroner i nettverket, men også med å endre utformingen av nettverkene. "Komplekse systemer for nettverkskonfigurasjon er de som det største antallet eksperimenter blir utført med," sier Grigory Bakunov.
Og det faktum at slike systemer har blitt relativt tilgjengelige for et stort antall vanlige utviklere, har ført til fremveksten av oppstart som eksperimenterer med nevrale nettverk, som Prisma (applikasjonen lar deg behandle bilder, gjør dem til stiliseringer av malerier av kjente kunstnere) og Mubert (online komponist av elektronisk musikk) …
Det som venter oss i nær fremtid
Nick Lane, professor ved University College London og rektor Scientist Nokia Bell Labs, spår at enda mer "smarte ting" vil omgi en person. De vil bli mindre og mer effektive.
Professoren gir et eksempel: hvis sensoren som var innebygd i veggen tidligere bare kunne innse at noen gikk forbi, vil han i fremtiden ikke bare vite hvem som passerte akkurat, men også hvordan personen oppfører seg, ikke trenger noe, representerer ikke om han er en trussel mot seg selv eller andre.
En sensor i knappestørrelse kan varsle en person i tilfelle fare.
Grigory Bakunov fra Yandex er også enig med professoren: "I nær fremtid vil vi se en boom i utviklingen av smale kunstige intelligenser som hjelper til med å løse et ganske enkelt problem, men som de vil løse enda bedre enn et menneske."
Stemmegjenkjenning gjenkjenner for eksempel allerede noen stemmekommandoer og adresser bedre enn mennesker.
“Den mest sannsynlige veien for utviklingen av sivilisasjonen vår er synteseveien til menneske og maskin: en pinne, klær, bil, mobiltelefon, pacemaker eller cochleaimplantat - ettersom vi utvikler instrumentene våre mer og mer ligner en utvidelse av kroppen vår. I morgen vil maskiner kunne motta mentale kommandoer fra en person, oppfatter mentalt dannede visuelle bilder, overføre informasjon direkte til hjernen - slike prosjekter eksisterer allerede utenfor veggene til de mest avanserte teknologiske laboratoriene,”oppsummerer Sergey Markov.
Trenger du fortsatt journalister?
Financial Times kjørte et ganske risikabelt eksperiment i fjor, og utfordret samtidig å skrive en tekst til sin profilkorrespondent og et smart program som het Emma. Redaktøren av Financial Times måtte da lese begge artiklene og gjette hvilken av de to notatene journalisten sto bak og hvilken datamaskin.
Før denne særegne "kollisjonstesten" innrømmet korrespondenten til Financial Times: "Jeg tror programmet definitivt vil takle oppgaven raskere enn meg. Men jeg håper jeg kan gjøre det bedre."
Og så skjedde det: Emma viste seg å være raskere - programmet genererte en tekst basert på statistikk om arbeidsledigheten i Storbritannia på 12 minutter. Det tok journalisten 35 minutter. Og som hun selv senere innrømmet, overgikk Emma forventningene hennes. Programmet håndterte ikke bare fakta dyktig, men satte også nyhetene i sammenheng, og antydet hvordan en mulig "Brexit" (det var i mai 2016, før folkeavstemningen om Storbritannias utgang fra EU) kunne endre situasjonen.
Men Emma gjorde noe verre enn en journalist. “Emmas artikkel ble skrevet på et litt mer klønete språk. Men viktigst, det hadde mange tall, innrømmet FT-redaktøren. "Og kanskje det viktigste vi prøver å gjøre her er å velge bare virkelig viktige tall."
Emma er et produkt av en oppstart kalt Stealth. Selskapet sier at Emma har et team av levende hjelpere, men de hevder at alt hun skriver eller gjør er et produkt av "hjernen" hennes.
Og likevel - skal vi være redd for AI?
Mange, om ikke alle, menneskene som er involvert i utviklingen av kunstig intelligenssystemer i dag, innrømmer lett at AI ikke snart vil gjøre mennesker unødvendige. Nettopp fordi kunstig intelligens ennå ikke er så smart. Det viktigste han mangler i dag er den autonome evnen til å tenke.
“Nå skal du ikke være redd for AI i noen form. Du kan vente 30-40 år på at noen radikale endringer skal finne sted,”sa Bakunov.
Men det skjer allerede noe: linjen sakte sakte ut mellom arbeidet eller oppgaven utført av en person og oppgaven utført av en maskin. Som eksperter forklarer, selv nå er det noen ganger vanskelig å forstå hvem som sitter inne i systemet - en person eller en maskin.
"Det er ingen kriterier når vi vil være i stand til å forstå at bevisstheten har oppstått inne i maskinen," spør Bakunov.
Mennesket blir en binders?
En kjent tilhenger av det alarmistiske synspunktet, der skrekkene som er beskrevet i Terminator kan bli virkelighet, filosof Nick Bostrom, er av den oppfatning at AI som har nådd det intellektuelle nivået til en person, vil kunne ødelegge menneskeheten.
Bostrom forklarer med binders: du utfordrer kunstig intelligens til å gjøre binders så store og bedre som mulig. AI skjønner på et tidspunkt at en person er en trussel, fordi den kan slå av datamaskinen, noe som ville være i strid med oppgaven med å lage så mange binders som mulig. I tilfelle personen ikke er en trussel, bestemmer AI at menneskekroppene består av atomer som kan brukes til å lage flotte binders. Resultatet er at datamaskinen vil føre menneskeheten til binders.
Dette scenariet virker som en overdrivelse for mange. I følge Sergei Markov er for eksempel "den høye effektiviteten ved å oppnå et absurd mål er uforenlig med absurditeten i dette målet - grovt sett vil en AI som er i stand til å forvandle hele verden til binders uunngåelig være smart nok til å forlate et slikt mål."
Kunstig intelligens er som en gullfisk
Margaret Boden, en britisk spesialist i kunstig intelligens og professor i kognitiv vitenskap ved University of Sussex, er skeptisk til den forestående fremkomsten av smarte maskiner.
Professoren gir eksemplet med en "gullfisk", når en fisker i bytte mot frihet gir tre ønsker. En av ønskene er å returnere sønnen fra krigen, den andre er 50 tusen dollar og den tredje er muligheten til å gi et nytt ønske neste morgen.
Samme kveld banket det på fiskerhuset. Sønnen ble returnert fra krigen - i en kiste. Fiskeren mottok forsikring for 50 tusen dollar.
"Erstatt fisken med AI i denne lignelsen, så blir alt klart," forklarer Boden. "Å ja, neste dag utnyttet fiskeren det tredje ønsket og - avlyste de to foregående."
Er det mulig å overføre bevissthet til en bil?
Sergey Markov:
“Hvis vi snakker om muligheten for fullstendig overføring av bevissthet, så er de moderne forgjengerne av en slik fremtidig teknologi prosjekter som Blue Brain, som tar sikte på å skape funksjonelle elektroniske analoger av hjernen, samt prosjekter rettet mot å skape hjerne-maskingrensesnitt (BCI) - enheter for proteser med tapt syn, hørsel, erstatning av tapte lemmer, til og med deler av hjernen.
Optogenetics er et veldig interessant og lovende område (i prinsippet, for å grense hjernen og maskinen, kan man ikke bare endre maskiner, men også selve nervevevet, skape kunstige fotoreseptorer i det).
Når et bredt spekter av tekniske problemer blir løst innenfor rammen av slike private prosjekter, tror jeg at oppgaven med å overføre bevissthet vil bli ganske løselig. Allerede foreslår drømmere hypotetiske ordninger for å gjennomføre et slikt prosjekt.
For eksempel mener Jan Korchmaryuk, som på en gang foreslo navnet "Setleretics" for forskningsretning knyttet til overføring av bevissthet, at det mest lovende opplegget er bruken av spesialiserte nanoroboter implantert i nevronene i den menneskelige hjerne. For en vellykket implementering av en slik ordning er det imidlertid nødvendig å løse en rekke komplekse tekniske problemer."
Ksenia Gogitidze
