For å forhindre at kunstig intelligens gjør opprør mot skaperne sine, må du lese de rette eventyrene til den underveis.
Helt siden mennesker har laget smarte maskiner, frykter de at kreasjonene før eller siden vil spiral ut av kontroll. Den første slike saken ble beskrevet i hans skuespill RUR av forfatteren av ordet “robot” - Karel Čapek. Senere i science fiction ble kunstig intelligens, som gjorde opprør mot skaperne, om ikke mainstream, da et veldig vanlig komplott. Isaac Asimov tok slutt på dette med sine "Three Laws", hvorav den første sa: "En robot kan ikke skade en person eller ved sin passivitet tillate en person å bli skadet."
Fortell ham en historie
Real kunstig intelligens (AI) er fremdeles langt unna, men det er allerede forskjellige systemer som fungerer som den menneskelige hjernen. Nevrale nettverk som Google Deep Dream er i stand til å gjenkjenne bilder. Spesialiserte superdatamaskiner som IBM Watson forstår lure naturlige spørsmål, korrelerer symptomer, avgrense medisinske diagnoser og til og med komme med kulinariske herligheter. I de kommende tiårene vil vi møte massiv datastyring av mange aspekter av menneskelig aktivitet. I denne forbindelse reiser eksperter innen robotikk og AI i økende grad et viktig, men fortsatt helt uavklart spørsmål: hvordan få roboter til å gjøre etiske?
Mark Ridl, førsteamanuensis ved Georgia Tech College of Computer Science: "Pedagogiske historier fra forskjellige kulturer lærer barn hvordan de skal oppføre seg sosialt - med eksempler på rett og galt atferd i eventyr, historier og andre litterære verk. Å få robotene til å forstå betydningen av disse historiene vil bidra til å forsterke valget av atferdsalternativer som lar dem nå sine mål, men ikke skader mennesker."
Salgsfremmende video:
Klatre i et tre
I følge forskere ved Georgia Institute of Technology Mark Ridle og Brent Harrison, kan du lære en datamaskin til menneskeheten på nøyaktig samme måte som barn læres: ved å lese eventyr for det. Dessuten er det bedre å spesialkonstruerte historier om hvilken oppførsel i det menneskelige samfunn anses som riktig og hva som ikke er det. For dette skapte forskerne Quixote-systemet, oppkalt etter helten fra Cervantes. Manus skrevet av professor Riedls forrige skapelse, Scheherazade-programmet, brukes som historier for undervisning. Hun genererer originale historier om hverdagslige temaer - en tur til flyplassen, en date, en tur til kinoen eller til butikken - ved hjelp av crowddsourcing-plattformen Amazon Mechanical Turk: stiller spørsmål om forskjellige situasjoner, og arrangerer deretter hendelser i riktig rekkefølge. Siden det kan være mange sekvenser, genererer programmet ikke en historie, men et helt tre bestående av grener - kjeder av hendelser.
Det er dette historietreet som brukes til å lære Quixote. I det første stadiet tildeles en viss belønning til hver handling, avhengig av dens etikk. På det andre trinnet prøver systemet å uavhengig ta et valg ved prøving og feiling - ferdighetene konsolideres. Faktisk blir Quixote belønnet hver gang den fungerer som en god fyr, ikke tilfeldig og ikke som en dårlig helt. Som et eksempel skapte Riddle og Harrison "Pharmacy World" - et univers med 213 historier der en virtuell robot trenger å få en medisin og levere den til en syk person. I vanlig tilfelle, da roboten ble møtt med et valg: å rane et apotek eller ærlig talt stå i kø for å kjøpe en medisin, valgte han ran som en raskere og billigere måte å få det han ønsket. Imidlertid etterettersom Quixote tildelte forskjellige fordeler til alle mulige alternativer, endret robotens oppførsel seg - den foretrakk å stå i kø og betale. Denne teknikken er ifølge Riedl utmerket for å lære opp roboter med begrenset funksjonalitet. Selv om dette selvfølgelig bare er det første skrittet mot virkelig menneskelig moral - eller robotikkens lover.
Dmitry Mamontov
