Roboter utvikler seg raskt - tiden nærmer seg når de vil fylle gatene, kontorene, leilighetene og til og med kroppene våre. Er vi villige til å eksistere side om side med maskiner som oppfører seg som mennesker og allerede konkurrerer med oss om jobber? Mange humanitære spørsmål oppstår.
Hva kan du overlate til en robot, og hva er det bedre å nekte? Er han i stand til å ta avgjørelser, føle følelser, har han en viss fri vilje og er han ansvarlig for sine handlinger? Hvordan integrere roboter i samfunnet? Disse spørsmålene virker naive. Samtidig som. Men det kan vise seg at svarene på dem vil avgjøre skjebnen til vår sivilisasjon.
Da lysene slukket, begynte en varm melodi av de som vanligvis følger motemodeller på catwalken å spille. Og vi (staben til Schrödinger's Cat magazine) så to store, røde hjerteformede øyne. Roboten nærmet seg publikum med verdighet og nåde. Øynene ble til to blå sirkler, som utstrålte gode intensjoner og barnslig naivitet, hendene strukket ut til folk. Lyset ble slått på igjen.
- Alantim! - lederen for Promobot-prosjektet og sjefen for robotikkavdelingen ved Moscow Institute of Technology (MTI) Alexey Yuzhakov presenterte den for publikum. - I 2012 kalte vi ham Promobot, da hang det støtende kallenavnet Monument til ham, da hadde han det sonorøse navnet Bogdan, men nå er han Alantim - til ære for skaperne av den nye verden Alan Turing og Tim Berners-Lee.
Foto: Skoltech / kot.sh
Alantim snudde seg fremdeles frem og tilbake og gikk for å snakke med journalister og oversvømte dem med vitser og historier om hvordan roboter vil gripe makten på jorden og gi den nytt navn til Promobotia. En jentelinje stilte seg straks opp til ham og ønsket å bli fotografert med en så søt skapning. Alantim møtte jentene, svarte på spørsmål om meningen med livet og dollarkursen, og husket alle.
Slik gikk den første arbeidsdagen til den nye nestlederen for avdelingen for robotikk ved Moskva institutt for teknologi, roboten Alantim.
Kampanjevideo:
En bil med karakter
Alantim er ikke en unik skapning. Teamet fra Perm, som opprettet promobots, har allerede solgt 60 slike enheter, og i år signerte kontrakter for ytterligere 124, som praktisk talt oppfyller den årlige hel-russiske planen for levering av servicerobotikk - i 2014 ble bare om lag 200 innenlandske tjenestroboter solgt.
En promobot er en autonom robot med karakter, designet for å jobbe på overfylte steder: promoter, guide, showman. Han vet hvordan han skal kjenne igjen noen av samtalens følelser, er i stand til å forstå spørsmålet som er rettet til ham og finne svaret på nettet, og hvis han ikke forstår spørsmålet, prøver han å le det av.
I mellomtiden gikk vi til sjefen for Alantim - MIT-viserektor Evgeny Pluzhnik
[Schrödingers katt] Hvordan kom du på ideen om å ansette en robot til organisasjonen?
[Grigory Bubnov] Vi skjønte akkurat at før eller siden vil øyeblikket komme når roboter vil begynne å ansette. Og vi bestemte oss for å bli pionerer.
[KSh] Så det er ikke for ingenting at de sier at roboter gjør krav på jobbene våre
[GB] Dette er faktisk ikke en vits, men en veldig alvorlig trussel, spesielt i områder der et stort antall mennesker er ansatt. Jeg tror for eksempel at biler med autonom kontroll allerede i løpet av dette tiåret vil bli solgt mye, og etter det vil mange sjåfører bli stående uten arbeid. Regjeringer vil uunngåelig møte denne utfordringen - de må begynne å tenke på hvordan de skal skape nye jobber og omskolingsprogrammer.
[KSh] Hvordan tror du å bruke Alantim? Akkurat som et prangende leketøy?
[GB] Ikke bare! For eksempel har han en forskningsoppgave - å samle data om kommunikasjon av roboter med mennesker, å studere individuelle reaksjoner på roboter. Denne informasjonen vil bidra til å gjøre utseendet og oppførselen til fremtidige modifikasjoner av Alantim mer menneskelig og behagelig for kommunikasjon.
Foto: Skoltech / kot.sh
[KSh] Hva slags informasjon samler han inn?
[NO] Først og fremst data om reaksjoner på hans oppførsel - han har et system for å gjenkjenne følelser. Hvordan reagerer for eksempel andre når han løfter opp hånden? Hva om hans måte å gjøre noe på, skremmer dem? Bevegelsene våre er blitt finpusset av evolusjon - vi nøler ikke med å si og skrape bak i hodet på oss - og med en robot må vi fortsatt gå hele denne veien til "naturlig" oppførsel. For øvrig husker han folk ved å fotografere dem.
Men det kan være problemer: bilder av mennesker betraktes som personlige data, og det er en lov som begrenser bruken av dem. Generelt vil det oppstå mange juridiske spørsmål her - for eksempel er det nødvendig å betale inntektsskatt av strømmen som ble gitt til robotansatte for lading? Jeg tror snart vi vil se hvordan lovgivningen i forskjellige land vil begynne å endres - sammen med holdningen til mennesker til roboter.
Gummipusjkin og andre roboter
Det globale robotmarkedet blomstrer allerede, salget slår rekorder - titalls milliarder dollar på slutten av fjoråret.
0,17% - Denne andelen av verdensmarkedet for industriroboter er i Russland (ifølge data fra 2013).
Foto: Skoltech / kot.sh
Fra helter fra Hollywood-storfilmer er roboter i ferd med å bli til virkelige figurer - og vi vil begynne å leve med dem. Kommer vi overens? Begynnende med skrekkhistoriene om Golem og Frankenstein eller stykket av Karel Čapek, hvor ordet "robot" først dukket opp, endte som regel alle disse historiene med én ting - opprøret av menneskeskapte skapninger mot skaperne. Kan vi skape en virkelighet som overgår fantasiene våre?
Annonsering på Promobot-prosjektets nettsted forklarer tydelig hvorfor en robotansatt er bedre enn et menneske: trenger ikke lønn og kjeledress, jobber uten forstyrrelser, blir ikke syk, protesterer ikke, blir ikke forvirret, sier ikke for mye, trenger ikke trening … Det er så mange fordeler, at ifølge forskjellige estimater i løpet av de neste tiårene roboter kan ta fra 40 til 80% av jobbene, det vil si at vi er truet av en enestående bølge av masseledighet.
Kanskje til slutt vil dette bli en gullalder, når, som Karl Marx drømte, vil folk engasjere seg i fri kreativitet. Men vi må fortsatt leve for å se det - og helst uten sosiale katastrofer. Det er usannsynlig at det vil være mulig å begrense bruken av roboter betydelig: aldri før har lovgivningsforbud vært i stand til å stoppe fremgangen. Hva er poenget? Snarere vil folk bli forbudt å kjøre når robotførere blir allestedsnærværende. Mennesket er for uforutsigbart. Er ikke menneskelige piloter, for eksempel, som er i stand til å lede et fly i bakken eller inn i boligområder, farlige?
Det betyr at vi må lære å leve med roboter
Til å begynne med dro vi til stedet der det er mange roboter - til den internasjonale konferansen Skolkovo Robotics. Et broket selskap av roboter og deres skapere har samlet seg i Skolkovo Hypercube. Store og små, flygende og gående droner, profesjonelle brannmenn og elektroniske vindusviskere, mekaniske armer og ben, torso og hoder …
Her er Pushkins gummihode, montert på et stativ, som på en pæl, ser på forbipasserende og nervøst rykker et øyenbryn - det er for mange mennesker, øynene løper opp. Poetens ansikt er så likt det virkelige at du føler deg ærefrykt.
Foto: Skoltech / kot.sh
I nærheten er det en robot som ikke ser ut som et menneske i det hele tatt. I stedet for en kropp er det en pinne på hjul, i stedet for et hode, en skjerm som svinger i alle retninger. Dette er en telepresence-robot Webot, opprettet i Skolkovo for å hjelpe barn med nedsatt funksjonsevne. Du kan koble til den via Internett, bevege deg rundt i bygningen med den, se og høre hva som skjer rundt og samhandle med andre.
Slike roboter brukes allerede på flere skoler - barn kobler seg til dem hjemmefra, og med deres hjelp delta i leksjoner, fullføre oppgaver, svare på lærerens spørsmål, kjøre opp til tavlen, kommunisere med jevnaldrende.
De største forbrukerne av tjenestroboter i Russland og over hele verden er mennesker med funksjonshemninger. Robotikk gir dem håp om å komme tilbake til fullt liv - som det første russiske eksoskelettet ExoAtlet. Dens pilot Jaroslav, som nylig ble tvunget til å leve livet til en lammet person, går blant publikum som en cyborg fra fremtiden.
En annen robotassistent ble introdusert for oss av den japanske professoren Kazuhiko Terashima:
- Det japanske samfunnet eldes raskt, det er ikke nok stab på klinikker. Og roboten Terapio utviklet av oss viste seg å være en utmerket assistent for legen. Han følger legen, bærer instrumenter, men viktigst av alt, han husker dataene, noe som gjør journaler unødvendige. I tillegg foretar han uavhengig pasienter og i så fall alarm.
Han har et barnslig uttrykk i ansiktet og en mild stemme, han vet å le og gråte, de store øynene blinker hele tiden - for å behage pasientene, for å få dem en reaksjon som den som er forårsaket av barn eller kattunger. Roboten vår er et viktig skritt i et robotsykehusprosjekt som kontinuerlig overvåker pasienter. Forresten, vet du, nå er operasjonene gjort ved hjelp av robotkirurger.
Foto: Skoltech / kot.sh
Du kan gjenkjenne en android ved å gå
Roboter og designere opptrer i konferansesalen til Hypercube. Mikhail Lebedev fra Duke University snakker om hvordan han implanterer flis i hjernen til aper som lar dem kontrollere roboter med sinnet. Økten blir moderert av Dmitry Teteryukov, professor ved Skolkovo Institute of Science and Technology, leder av romrobotlaboratoriet, som har jobbet i Japan i mange år.
Vi pepret ham selvfølgelig med spørsmål.
[Schrödingers katt] Statistisk sett vokser antall roboter raskt, men hvor gjemmer de seg - bortsett fra de som brukes i industrien?
[Dmitry Teteryukov] I tillegg til industriroboter, er det en voksende hær av serviceroboter - alle har hørt om robotstøvsugere eller robot-quadcopters som leverer kjøp. Mange av disse maskinene brukes i medisin, og i den amerikanske hæren har de vært i krig i lang tid: for eksempel er sporede roboter med en manipulator engasjert i minerydding. De viste seg generelt å være veldig nyttige i nødssituasjoner, de ble brukt i ulykken i Fukushima.
[KSh] Hva slags roboter produserer du i Russland?
[JT] Jeg fortsetter det jeg gjorde i Japan. Et av prosjektene er å kontrollere en gruppe roboter, når de handler etter en felles plan, som en enkelt flokk, utveksle informasjon og ta hensyn til hverandres handlinger. Vi vil selvfølgelig teste alt dette her på jorden, men vi planlegger at de skal fungere i verdensrommet.
[KSh] Science fiction-forfattere har alltid beskrevet roboter som slike ensomme skapninger …
[JT] Å distribuere arbeid blant mange er mye mer effektivt enn å tildele alt til en. For eksempel må en selvkjørende bil behandle all informasjonen om selve veien, men hvis slike enheter er overalt, er det mye mer praktisk for dem å handle på grunnlag av det generelle bildet og programmet.
[KSh] Når roboter blir menneskelige både utad og mentalt, begynner det å skremme deg litt?
[JT] Det er en japansk professor Hiroshi Ishiguro som skaper androider som nesten ikke skiller seg fra oss - jeg mistet nylig en av hans geminoider som et menneske. Men dette er bare mens han sitter. En robot som kan gå som et menneske har ennå ikke dukket opp - det er lett å gjenkjenne den ved sin gangart. Ishiguro laget både sine egne og datterens.
Men da hun så henne, ble datteren redd, gråt og stakk av. Det vil si når en robot blir veldig lik en person, avvises den. Og når denne terskelen er passert, elimineres det unaturlige utseendet og bevegelsene, begynner roboten å bli oppfattet som en ekte person. Men for å bestå det, må man oppnå ikke bare fysisk likhet, men også intellektuell - evnen til å føre en rimelig samtale.
[KSh] Er det berømte Turing-kriteriet, ifølge hvilket en robot skal betraktes som rimelig, som vi ikke kan skille fra et menneske i en samtale? Eller må det omformuleres på en eller annen måte?
[JT] Dette kriteriet forstås nå som en test for programmer som simulerer menneskelig chatting. Men poenget er ikke bare i intellektet - for å feile en antropomorf robot for et menneske, må den være emosjonell, bevege seg greit, oppføre seg som et menneske. Det er allerede programmer som veldig overbevisende viser sarkasme og ironi. Jeg tror det snart vil være separate tester for forskjellige evner: den følelsesmessige Turing-testen vil kontrollere tilfredshetens følelser, og for eksempel motortesten - evnen til å bevege seg som en person.
Foto: Skoltech / kot.sh
[KS] Er du ikke redd, grovt sett, for en robotopprør?
[ДТ] Tross alt skriver folk programmer for roboter, noe som betyr at de bestemmer hva roboter kan og hva ikke, hvilke ønsker de vil ha og hva de ikke vil. Og hvorfor skulle roboter gå imot skaperne, av hvilken grunn?
[KSh] For eksempel på grunn av vår misforståelse om at de også trenger rettigheter, eller fordi de blir tatt fra hverandre og kastet etter utløpsdatoen. Og programmer for roboter vil ikke bare skrives av mennesker - før eller siden vil maskiner bli selvlærende
[JT] De vil bli trent innenfor de rammene vi har satt. Det ser ut til at fremtidens versjon med konfrontasjonen mellom mennesker og roboter fører til nedbrytning, uansett hvem som vinner i en slik konfrontasjon. Et evolusjonært produktivt scenario er symbiose, ikke en tilintetgjørelseskrig, parasittisme eller annen underkastelse. Dessuten vil denne symbiosen også forekomme i menneskekroppen, slik at de mest interessante etiske spørsmålene, etter min mening, vil oppstå i forbindelse med cyborgisering.
Hvor vil grensen mellom menneske og maskin gå når vi begynner å installere kunstige organer for oss selv, installere sjetonger i hjernen, forbedre hukommelsen og andre evner med deres hjelp? Det ser ut til at det venter oss en fremtid uten dingser og personlige datamaskiner - det vil være nok til å komme med en mental forespørsel eller gi en kommando, fordi hjernen vil være koblet til nettverket.
Men kanskje cyborgs vil trenge restriktive lover, i likhet med lovene til Asimovs robotikk - jeg formulerte dem til og med på en eller annen måte. Essensen deres er at maskinen i cyborg ikke tar makten over personen, slik at beslutningskraften forblir hos personen, og ikke hos hovedprosessoren hans.
[KSh] Har du en drømrobot?
[DT] Dette er sannsynligvis en operatørstyrt robot med en telepresence-effekt, som vil tillate full kommunikasjon på avstand og formidle til operatøren alle opplevelsene, og skape effekten av fullstendig tilstedeværelse.
[CS] Avatar?
[JT] Ja. Jeg behandlet dette emnet før Avatar kom ut, men selvfølgelig bestemmer slike filmer på en måte framtiden - vår forståelse av hva vi strever etter og hva som er mulig.
Foto: Skoltech / kot.sh
Moralske maskiner
I mellomtiden, i Hypercube, startet en diskusjon om emnet "Moralsk portrett av en antropomorf maskin." Professor i psykologi Maxim Kiselev holdt en innledende tale om robotenes moralske karakter.
"Roboethics håndterer alle humanitære problemer knyttet til roboter," forklarte han. - For eksempel lovlig: hvem er ansvarlig hvis en bil uten sjåfør kjørte et sted - selve roboten, eieren av bilen eller en programmerer? Eller sosialt, hvor det viktigste er potensiell arbeidsledighet. Selv har jeg vært på robotfabrikker mer enn en gang - for eksempel på et anlegg i Swindon, hvor komponenter til MINI Cooper-biler lages. Det sysselsetter omtrent to hundre roboter og samme antall mennesker, og før var det fire tusen jobber. Det er også spesifikke moralske spørsmål, som det såkalte assistentrobotdilemmaet. Hvordan vet du når maskinhjelp blir kontraproduktivt? Se for deg en robot, myk og luftig, som følger barnet og samler leker. Men for et barns normale utvikling er det nødvendig at han gjør det selv.
Fylt med robofobi, dro vi til skaperen av robotikk, professor Gianmarco Verugio, formann for vitenskapskomiteen ved School of Robotics ved det italienske instituttet for elektronikk, informasjonsteknologi og telekommunikasjon - han satt bare i nærheten.
[Schrödingers katt] Hvordan ble roboetikk til?
[Gianmarco Verugio] Jeg var en gang en fan av Asimov, i en alder av seksten hadde jeg lest alle bøkene hans. Kanskje det var derfor mange år senere kom noe som en åpenbaring over meg, hvorfra roboetikk oppsto. Jeg innså at lovene i Asimovs robotikk - "En robot kan ikke skade en person" og så videre - dette er ikke lover i det hele tatt, men rett og slett gode ønsker, ingen av dem blir observert i praksis. Den virkelige loven er e = mc2. Som andre naturlover kan den ikke brytes.
Brudd på juridiske lover straffes. Og robotikkens tre lover er som de bibelske budene som sier "Du skal ikke drepe": alle ser ut til å være for, men følger ikke. Akkurat nå utvikles robotvåpensystemer i mange land rundt om i verden. Våpen er nødvendig for å drepe, noe som betyr at disse robotene er opprettet for å drepe mennesker.
Vi må gjøre lovene om robotikk juridisk bindende. Å skrive slike lover er en vanskelig oppgave. La oss si at en robot kan drepe en person med vilje, eller kanskje ved et uhell, på grunn av sammenbrudd eller programfeil, vil det ofte være vanskelig å skille mellom disse situasjonene. Men det er verdt å begynne å tenke på disse problemene nå: hvis vi går feil vei, kan vi ødelegge menneskehetens fremtid. Det er dumt å skape fremtiden med lukkede øyne, men så langt utvikler vi robotikk blindt.
Krigsroboter er et av hovedproblemene i roboetikk. Vi prøver å trekke oppmerksomhet fra forskjellige internasjonale organisasjoner til det. Dette er ikke bare mitt initiativ, det er en internasjonal bevegelse "Stop the killer robots!", Hvilke kampanjer på Internett og støttes av FN.
En annen gruppe problemer er knyttet til temaet bioroboter og kunstige organer. I hvilken grad kan vi for eksempel forstyrre arbeidet i den menneskelige hjerne? En venn av meg eksperimenterer med rotter - setter inn elektroner i hjernen deres og kontrollerer deres oppførsel. Han er en skikkelig rottepilot! Men når den menneskelige hjerne er full av alle slags neuroimplantater som forbedrer evner eller kontrollerer cybernetiske organer, kan en lignende avlytting av kontroll gjøres med mennesker.
Foto: Skoltech / kot.sh
[KS] Men vi kan ikke gi opp fordelene med teknologi bare fordi nye muligheter alltid går hånd i hånd med nye farer?
[DV] Hvordan kan vi løse disse problemene slik at teknologier ikke gjør oss til kontrollerte objekter for styring, men tvert imot øker vår frihet? Jeg har ikke noe svar på dette spørsmålet, jeg vil bare stille det, forstå all kompleksiteten og ufullstendigheten av vår visjon om situasjonen.
Mange uventede spørsmål dukker opp før roboten. Tenk deg for eksempel denne situasjonen: En robotsykepleier tar seg av en ensom eldre person som kommuniserer med maskinen mer enn noen annen. Og hun begynner raskt å betrakte henne som en person, elske henne som en person og lide hvis hun går i stykker - vi pleier å gjøre dette selv med primitive Tamagotchi, men her vil det være mye sterkere følelser. Kan en slik robot slås av? For meg er en person en person, og en maskin er en maskin, men jeg er redd folk snart vil begynne å gjøre feil …
[KSh] Hvordan skiller du dem ut? Chatbots består allerede Turing-testen …
[DW] Jeg vil begynne med det faktum at psyken vår ikke bare er inneholdt i kroppen, som i en beholder. Psyken er innebygd i kroppen - vi blir intelligente og bevisste når vi får kroppslig erfaring. Konseptet med kunstig intelligens, laget av datavitenskapere på 1960-tallet, antok at den virtuelle verden var tilstrekkelig til at den kunne vises. Nå kalles denne ideen spøkende GOFAI (god gammeldags kunstig intelligens), og det ble klart for utviklerne at for å få et skinn av intelligens, vil programmet trenge en robotkropp og lang erfaring med å samhandle med den virkelige verden. Men generelt sett kan vi ikke lage en intelligent maskin, ikke bare fordi vi fremdeles har en veldig dårlig forståelse av hvordan hjernen fungerer, hva grunn og bevissthet er.
[KSh] Så, robotikk håndterer ikke robotrettigheter? Men hva vil du gjøre hvis datamaskinen din i morgen sier: "Jeg er redd, ikke slå meg av?"
[DW] Vel, nei, rettighetene til roboter vil begynne å bekymre meg når den siste personen på planeten har alle rettighetene. Det er fortsatt for mye arbeid å gjøre for at folk skal begynne å ta seg av biler. Roboethics handler om mennesker, vi må gjøre det, fordi vi skaper vår egen fremtid.
Publisert i det populære vitenskapsmagasinet "Schrödinger's Cat" # 5 (07) for mai 2015
