"The Rise of the Machines", "The Terminator Returns" … Mye science fiction er bygget på det faktum at datamaskiner blir så smarte at de forstår at de vil ha det bedre uten en person. Eventyr? Slik ser du ut. I 2050 vil en typisk hjemmecomputer kunne behandle så mye informasjon som alle mennesker på jorden har satt sammen.
Men 2050 er under forutsetning av at maskiner vil utvikle seg gradvis. Det fungerer ikke slik. Forholdet vårt til den elektroniske verden går fremover. En gang - en mus ble festet til bilen. En gang - Internett dukket opp. En gang - det var smarttelefoner med nettbrett.
Det neste gjennombruddet kommer når datamaskinen kan forstå folk. Smarttelefoner har allerede apper som Siri og Cortana som kan ha en enkel samtale med oss. Men problemet er at datamaskinen skal forstå, ikke hva vi sier, men hva vi mener! Det enkleste eksemplet: uttrykket “Han forlot meg”, som er sagt av en tårebeiset kvinne og en manns sjef, har helt andre betydninger.
Så: så snart maskiner lærer å gjenkjenne nyansene i menneskelig tale, på den ene siden, vil hendene våre være bundet i bokstavelig og figurativ forstand. Jeg snakket med datamaskinen, og det gjorde alt. På den annen side, nærmer vi ikke en farlig linje, fjerner vi den siste barrieren i kommunikasjonen mellom mennesker og sjelløst jern?
Jeg har lenge ønsket å snakke om dette med en kjent vitenskapsmann, direktør for språkvitenskapelig forskning ved ABBYY, leder for avdelingene for datalinguistikk ved det russiske statsuniversitetet for humaniora og Moskva instituttet for fysikk og teknologi, Vladimir Selegey. Men da jeg fortalte ham min apokalyptiske frykt, rynket han pannen.
“Ja, science fiction er full av mørke spådommer om hvordan mennesker trente maskiner vil klare seg uten det. Men det er ikke klart for meg hvorfor en økning i mengden kunnskap innebygd i programmer vil provosere en datamaskin til å ta avgjørelser uten å spørre om tillatelse fra en person?
Problemet er faktisk ikke at datamaskinen vil lære seg uten mennesker, men at folk vil ønske å klare seg uten seg selv når de løser visse problemer. Her er Tsjernobyl …
Salgsfremmende video:
Og hva har Tsjernobyl å gjøre med det?
- En kjernefysisk reaktor er en veldig kompleks fysisk modell. Det ser ut til at alle kontrollparametere til reaktoren er kjent, alt adlyder strenge fysiske lover, og beslutninger kan overlates til datamaskinen. Men…
I 1986, en uke etter ulykken, deltok jeg på et seminar om bruk av kunstig intelligens i industrien. Selv da var det tydelig at ved å overlate beslutninger til en datamaskin, er vi i alvorlig risiko. Det er vanlig at programmer inneholder feil. Til og med satellittene har programvarefeil.
Det vil si at en person er mer pålitelig enn en datamaskin, selv om han "tenker" mye raskere?
- En person, i tillegg til alt annet, har motivasjon. Han løser problemene sine - utdanning, formering, karriere, han vet hvordan han skal føle seg …
Men kan noen utspekulerte programmerere skrive et program som vil lære en aggresjonsmaskin …
- Du kan prøve å lage for eksempel en militær robot som vil ta avgjørelser av seg selv, analysere hva den ser og hører. Og det vil være veldig farlig. Men ikke fordi roboten plutselig vil ha et ønske om å ødelegge, som skrevet av science fiction-forfattere. Men fordi en programmerers feil, kan forsømmelse av noen faktorer føre til uforutsigbar robotatferd.
Men så langt er vi veldig langt fra evnen til å lage selvlæringsprogrammer som er i stand til å generere helt ny kunnskap. Grovt sett beveger du uavhengig fra multiplikasjonstabellen til muligheten for å løse komplekse ligninger.
I andre halvdel av det tjuende århundre var futuristiske spådommer innen vitenskapen veldig populære. Alt om datamaskinens intelligens kom i melken. Ingen spådde Internett, den utrolige tilgangen til informasjon, mobiltelefoner. Men alle snakket om tenkende datamaskiner.
På slutten av 60-tallet utførte for eksempel vårt første sjakkesystem KAISA vellykket under verdensmesterskapet blant datamaskiner. Det ble antatt at for at en maskin skulle slå en person, var det nødvendig å simulere algoritmene til et menneskelig spill. Å legge sinnet, intellektet, den veldig mystiske intuisjonen som får sjakkspilleren til å ta de riktige beslutningene.
I dag slår datamaskinen en person. Men han ble aldri lært intuisjon. En milliard spilte spill, all opplevelsen av spillet, alle avgjørelser som noen gang har blitt gjort av sjakkspillere har blitt lagt inn i hans minne. Og de lærte dem å bruke dette når de valgte den optimale spillplanen, og ga dem en enorm hastighet på oppregning og evaluering av alternativer. Datamaskinen slår verdensmesterne, men får ingen glede av det. Alt er helt annerledes enn mennesker.
Men du er en av dem som bare lærer datamaskinen å "slå på hodet"
- Vi prøver bare å lære programmer å “forstå” tekster slik at de kan hente ut informasjon fra dem, samle den og generalisere den. Slik at folk får filtrert kunnskap, valgt fra milliarder av kilder. Dette er veldig vanskelig, fordi en person selv ikke vet så godt hvordan språkevnen hans er ordnet, og som hans forståelse av andre mennesker er basert på.
Statistisk maskinoversettelse er nå populær. Datamaskinen forstår overhode ikke hva teksten som blir oversatt handler om, den vet bare hvordan man finner de mest sannsynlige variantene av å oversette små fragmenter (med noen få ord), og analysere de enorme volumene av menneskelige oversettelser som er lagret i minnet. Generelt sett er teksten tydelig. Men det ville være useriøst å ta en ansvarlig beslutning på grunnlag av en slik oversettelse.
Ok, kan datamaskinen oversette instruksjonene mine?
- Bruksanvisning? Er det farlig.
- Ja til et enkelt kjøleskap!
- Til og med til kjøleskapet! Jeg vil at programmene våre skal oversette, prøve å forstå teksten, velge mellom alternativer basert på kunnskap, og ikke bare fordi denne korrespondansen ofte finnes i databasen vår.
Ok, la oss si at du løste problemet og opprettet et system takket være datamaskiner som vil lære å forstå nyansene i talen vår og til og med oversette det nøyaktig til et annet språk. Og da truer en ny fare folk - det vil ikke være behov for å tenke. Det vil ikke være behov for å trene hukommelse, hjerne. Trenger du informasjon - vær så snill, Wikipedia. Du må snakke med en utlending - oversetter …
- Jo høyere nivå av intelligens og kunnskap for en person, desto mer nyttig er han for den neste "smarte assistenten". Og jo lavere, jo flere muligheter ser ikke ut til å tenke i det hele tatt. Datateknologier fører til polarisering av samfunnet. Grovt sett førte ikke kalkulatorens anledning til degenerasjon av matematikere. Men i noen av skolebarna var det tydeligvis en nedgang i det allerede lave nivået av evner.
- Du vet, for meg er en alvorlig indikator på et fall i utdanningsnivået antallet mennesker som skriver analfabeter eller ikke er i stand til å uttrykke sine tanker og følelser uten å bruke kamerat
- Ja, folk begynte å skrive mindre kompetent. Rett og slett fordi det generelt sett er mindre lesing av redigerte tekster og mye mer av slike ressurser der rettskrivingen er veldig uskarp. Gjorde dette folk dummere? Sannsynligvis ikke.
Ser du en sammenheng mellom det faktum at en person uttrykker sine tanker analfabetisk på morsmålet sitt, og det faktum at han har blitt dumme?
“Jeg ville ikke gå så langt. Selv om det er åpenbart: fordi barn begynte å lese mindre, oppsto det noen problemer med overføring av kunnskap og kultur mellom generasjoner. Dette er problemet. I dag ser vi at et moderne skolebarn med samme karakternivå som for 30 år siden kjenner litteratur verre.
Her! …
“… Men på den annen side vet han mange andre ting mye bedre, som ingen trodde de kunne vite.
Er dette en naturlig prosess?
- Ja. Videre kan kunnskap for første gang i menneskehetens historie overføres ikke fra eldste til yngre, slik det har skjedd i århundrer. Det skjedde en overføring av kunnskap fra de yngre til de eldste, som tidligere slett ikke var karakteristisk for menneskets kultur. Et barn lærer pappa eller mamma å jobbe på en datamaskin, med en mobiltelefon, er en kilde til ulike kunnskaper for foreldrene. Og enda flere reiser verden rundt. Svært ofte er de en kilde til geografisk og kulturell kunnskap.
Hør, men her startet det hele med datamaskiner. De frigjorde mennesker til og med fra behovet for å lære de grunnleggende grammatikkreglene utenat
- Akkurat på begynnelsen av 90-tallet jobbet jeg i et team som utviklet et av de første stavekontrollsystemene for det russiske språket. Var det nyttig eller skadelig å gjøre dette? Veldig nyttig fra mitt synspunkt. Dette systemet muliggjorde raskere dokumentopprettelse. Og da avhenger alt av ansvarsnivået til personen. Hvem sa at etter bilen ikke er det behov for å sjekke i det hele tatt? Systemet hjelper bare til å gjøre det mye mer effektivt.
Men vi stoler på datamaskinen
- Det betyr bare at personen som laget programmet ikke informerte deg om at det er mange fenomener som maskinen ikke kan verifisere. Forhandling, for eksempel.
Ny teknologi fører dessverre ofte til tap av tradisjonelle ferdigheter. Jeg har utført reparasjoner i leiligheten. Jeg ønsket å installere trevinduer, som ble installert før. Men dette viste seg å være umulig. Alle installerer doble vinduer. Folk slutter, desverre, å gjøre mange ting med hendene. Hva du skal gjøre, det er slik livet fungerer. Dessverre.
Så du er en konformist?
- Ikke. Jeg tror at det ikke er bra å gjøre absolutt skadelige ting. Men når du har både gevinst og tap, må du vurdere risikoen … Hvis du lager medisiner, tror du ikke at ikke bare gode mennesker, men også dårlige mennesker vil overleve som et resultat av bruken av det.
I vårt tilfelle, samtidig med utvikling av teknologier, er det nødvendig å delta i opplæring av de som bruker dem. De negative konsekvensene av nye teknologier gjenspeiles først og fremst for de som ikke gjør jobben sin særlig bra på noe teknologisk nivå.
Ta medisin, for eksempel. Vi ønsker å hjelpe legen til å ta en beslutning, vi lager et dataekspert-system basert på analyse av et stort antall pålitelige diagnoser gjort av de beste legene. Det gir en profesjonell mulighet til å vende seg til et større kunnskapsvolum enn han selv har. Men den endelige avgjørelsen er hans, ikke datamaskinen! For en dårlig lege er alt annerledes - han vil stole på det han ikke kan sjekke pålitelig. Men i gjennomsnitt, med bruk av slike teknologier, ser det ut til at medisinen fortsatt blir bedre, ikke verre.
Vel, vi var overbevist om at det vil være mer fordel enn skade fra det intellektuelle systemet for å forstå en person ved en datamaskin. Men når vil hun dukke opp?
- Dette er en veldig vanskelig oppgave som ikke lar seg løse umiddelbart. Det er nødvendig å lære datamaskin kunnskap om språk og kunnskap om verden, metoder for inferens og sammenligning av verdier. Noe vi vet hvordan vi gjør nå, noe vil ta år. For eksempel trenger vi pålitelige data om språkbruk, der vi tar hensyn til individuelle og sosiale forskjeller. Og disse forskjellene er veldig betydningsfulle. For eksempel laget vi et spesielt prosjekt dedikert til regionale forskjeller i det russiske språket. Samlet en ordbok, der nesten 10 tusen ord, som er normen for innbyggere i bare visse regioner i landet vårt
Hvem er vi?
- Dette er et felles prosjekt kalt Språk av russiske byer, som involverer ABBYY-spesialister, språklige forskere, ildsjeler fra forskjellige deler av Russland og de russisktalende i utlandet. Vi analyserte språket i regionale medier, sosiale nettverk, dekret og beslutninger fra lokale myndigheter. Og dette er bare en liten del av kunnskapen som må læres til en datamaskin!
Hva er den grunnleggende forskjellen mellom din tilnærming til oversettelse og systemene som Google bruker, for eksempel?
- Statistiske systemer bygger ikke språklige strukturer. De ser etter oversettelseskamper for små fragmenter på 5-7 ord. Men språket er slik ordnet at veldig ofte ligger de relaterte ordene mye lenger, og hvis man ikke tar hensyn til denne sammenhengen, oppstår det feil. Men ofte er slike detaljer viktige i oversettelsen, hvis omsorgssvikt kan endre betydningen fullstendig. For å ta hensyn til alt, er det nødvendig å identifisere under analysen hele systemet med språklige forbindelser mellom ord, det som kalles en setnings struktur. Vi oversetter ikke setninger fra språk til språk, vi prøver å identifisere den semantiske strukturen i setningen, og deretter syntetiserer denne strukturen ved hjelp av et annet språk.
Men disse semantiske strukturene brukes ikke bare og ikke så mye til maskinoversettelse. De er også nødvendige for å effektivt løse problemene med intelligent søk og informasjonsanalyse, som er viktigere i dag for ABBYY som et kommersielt selskap. For eksempel er de nylig utgitte første løsningene for bedriftsmarkedet basert på disse teknologiene: De lar deg bare søke og analysere data i den enorme strømmen av informasjon som er lagret i organisasjoner.
Og hvilket språk, fra ditt synspunkt, er vanskeligere å forstå?
- Det er generelt akseptert at jo vanskeligere er de språkene du trenger for å lære deg flere regler. Men når det gjelder datamaskinforståelse, er dette ikke tilfelle.
Noe som er vanskelig for en person, for eksempel et rikt bøyningssystem på russisk eller litauisk, forenkler oppgaven for en datamaskin i bestemte faser av analysen.
Det kinesiske språket er for eksempel veldig vanskelig fordi det ikke er noen morfologi i det, og derav den store mengden uklarhet som datamaskinen står overfor. Derfor, for datamaskinanalyse av det kinesiske språket, er det veldig viktig å bruke kunnskap om verden, viktigere enn for eksempel når du analyserer språk med en utviklet morfologi.
Vi klarte å jobbe med russisk, tysk, engelsk, fransk, spansk, kinesisk. Språkanalyse er delt inn i etapper. Noen stadier har spesifisitet, vanskeligheter for ett språk, andre for et annet. Men i hovedsak er teknologiene vi jobber med gjeldende for alle språk.
Etter din mening, når kommer dagen da vi vil kunne motta en rask og forståelig oversettelse på datamaskinen parallelt med vår samtale. La oss si at vi snakker nå, og umiddelbart får en utskrift av samtalen på spansk?
- Det vil være mulig ganske snart. Det tror jeg ikke på to år. Men … Hva skal til for å løse dette problemet? Vi må forbedre taleanalysesystemene våre. Vi kan ennå ikke ta en spontan samtale, skille den fra støyen og få ønsket tekst. Og det er fremgang i denne retningen hvert år.
Men det samme vil det være slike ting som maskinen ikke kan tolke entydig. Og her vil nøyaktigheten av forståelse og oversettelse avhenge av tilgjengeligheten til kunnskapssystemet om verden, av mekanismene for logisk inferens.
Men uansett vil faren for full tillit til et slikt program forbli. Det er en feil å tenke at om fem år kan du diktere et brev til en datamaskin, det vil oversette det, sende det til forretningspartneren din, og alt vil være i orden. Ingen garanterer at maskinen ikke vil gå glipp av "ikke" et sted eller gjøre andre feil, hvoretter ditt forretningsforhold kan anses som komplett.
Det vil si at en person som kontroller fortsatt burde være?
- Visst. Å stole på teknologi blindt er farlig.
