Smarttelefoner, roboter og datamaskiner gjør livet vårt enklere, men kanskje mister vi noe i prosessen? En reporter fra en av publikasjonene snakket med den amerikanske forfatteren Nicholas Carr om farene og til og med truslene om overautomatisering.
Det antas mye at automatisering av alt og alle forbedrer livskvaliteten. Datamaskiner hjelper oss med å oppnå topp ytelse. Programvare gjør oppgavene raskere og enklere. Roboter påtar seg det kjedelige og harde arbeidet. Den konstante strømmen av innovasjon fra Silicon Valley forsterker bare folks tro på at nye teknologier gjør livet bedre.
Det er imidlertid en annen mening. Forfatteren Nicholas Carr utsetter postulatene til den moderne digitale verdenen for en upartisk analyse. Essayet hans "Gjør Google oss dumme?", Utgitt i magasinet Atlantic i 2008, er fremdeles kontroversielt, og det samme er hans bestselgende bok The Shallows fra 2010.
Carr sees av tilhengerne av teorien om at teknologi vil redde vår verden som en av deres mektigste motstandere. Og de som er på vakt mot konsekvensene av teknologisk fremgang for menneskeheten, respekterer ham for en balansert resonnement.
Nå er Carr interessert i et nytt spørsmål: skal vi være redd for at det gradvis ikke blir noen vanskelige oppgaver for oss i verden? Vil livene våre bli for effektive takket være nye teknologier?
For kort tid siden møtte journalisten (T. C.) forfatteren for å snakke om sin nye bok, The Glass Cage: Automation and Us, og hva som fikk ham til å skrive den.
1. Debunking den viktigste myten om nye teknologier
Salgsfremmende video:
"Vi pleide å tro at effektivitet og komfort er bra som standard. Denne tilnærmingen er ganske naiv."
Tom Chatfield: Hvis jeg forstår riktig, prøver du i The Glass Cage å fordype myten om at forenklingen av livene våre takket være teknologisk fremgang nødvendigvis er et positivt fenomen.
Nicholas Carr: På både personlig og institusjonelt nivå har vi en tendens til å tro at effektivitet og komfort er bra som standard, og å maksimere dem er absolutt et verdig mål. Det ser ut til at denne tilnærmingen til teknologi i alle dens former, spesielt i form av datamaskin, er ganske naiv. Dette gjelder også våre egne ønsker og virkelige liv i den moderne verden.
Vil datamaskiner noen gang erstatte mennesker?
T. Ch.: Og allikevel holder de fleste tilhengere av teknologisk fremgang seg til det utilitaristiske synspunktet, hvor de største feilene vi gjør skyldes forsømmelse av effektivitet og logikk, og faktisk vet vi ikke hva som er bra for oss. Derfor, fra deres synspunkt, er oppgaven med teknologisk fremgang å identifisere manglene ved menneskelig tenking, og deretter lage systemer som vil kompensere for disse manglene. Er denne oppfatningen feil?
N. K.: På den ene siden har mange nyvinninger innen utvikling av datateknologi og utvikling av automatiserte systemer ingenting å gjøre med den feiende påstanden om at mennesker er veldig ufullkomne sammenlignet med datamaskiner. Ja, en datamaskin kan programmeres til å utføre visse operasjoner på ubestemt tid med jevn kvalitet. Og det er sant at en person ikke er i stand til dette.
Men noen går enda lenger og argumenterer for at folk er for ufullkomne, at deres rolle skal begrenses så mye som mulig, og datamaskiner skal ha ansvar for alle grunnleggende oppgaver. Dette handler ikke bare om å prøve å kompensere for menneskelige mangler - tanken er å fjerne den menneskelige faktoren helt, som et resultat av at livet vårt vil bli mye bedre, hevdes det.
TC: Det ser ut til at dette ikke er den beste ideen. Er det et optimalt nivå av automatisering?
N. K.: Etter min mening er spørsmålet ikke om vi trenger å automatisere denne eller den sammensatte oppgaven. Spørsmålet er hvordan bruker vi automatisering, hvordan vi bruker datamaskiner nøyaktig til å supplere menneskelig kunnskap og ferdigheter, kompensere for feil i menneskelig tenkning og atferd, og også for å stimulere mennesker til å utnytte sin egen erfaring til å nå nye høyder.
Over-avhengighet av programvare kan gjøre oss til dataskjermvåkere og prosessflytoperatører. Datamaskiner kan spille en veldig viktig rolle fordi vi bare er mennesker - vi kan bli bytte for fordommer eller gå glipp av viktig informasjon. Men faren er at det er for enkelt å outsource alle funksjonene våre til datamaskiner, som etter min mening ville være feil beslutning.
2. Må du bringe det virkelige livet nærmere scenariet med et videospill?
"Vi liker dataspill nettopp fordi de ikke er lette å spille."
TC: Jeg bemerket med glede at du i din bok nevner videospill som et eksempel på samhandling i "mann-maskin" -systemet, der poenget er å overvinne vanskeligheter, for ikke å unngå dem. De mest populære spillene er et slags arbeid som gir spilleren en følelse av tilfredshet. Vi kan bare klage på at arbeidet som mange av oss må gjøre hver dag krever mye mindre dyktighet og gir oss mye mindre glede.
N. K.: Videospill er veldig interessant fordi konseptet deres strider mot de allment aksepterte prinsippene for programvareutvikling. Hensikten med dataspill er slett ikke å avlaste brukeren fra ulempene. Tvert imot, de stimulerer spilleren til å anstrenge seg ekstra og maksimere bruken av hjernen. Vi liker videospill nettopp fordi de utfordrer oss med stadig større utfordringer. Vi befinner oss stadig i vanskelige situasjoner - men ikke i situasjoner som forårsaker fortvilelse. Å overvinne hvert nytt nivå, forbedrer bare ferdighetene våre.
Denne prosessen ligner veldig på hvordan en person får livserfaring i det virkelige liv. Som vi vet, for utvikling av evner, må en person møte alvorlige hindringer igjen og igjen og overvinne dem gang på gang ved å bruke all sin kunnskap og ferdigheter. Gradvis når en person et nytt nivå, hvoretter vanskeligheten med hindringer øker.
Jeg tror at folk elsker videospill av samme grunn at de får tilfredshet med å få nye opplevelser og overvinne hindringer. Løsningen av en vanskelig oppgave, i den prosessen som ny kunnskap tilegnes, nødvendig for å overvinne nye, enda mer sammensatte vansker, gir en person stor glede.
En av de viktigste bekymringene som jeg uttrykker i boken, er at vår holdning til fremgang er assosiert med ønsket om å unngå å løse vanskelige problemer så mye som mulig. Det synes for meg at dette synspunktet er i strid med selve begrepet livsglede og selvrealisering.
3. Vil datamaskiner eliminere behovet for mennesker?
"Folk kan ikke følge med datamaskiner når de handler finansielle instrumenter"
TC: I motsetning til videospill, i den virkelige verden er ikke nødvendigvis hardt arbeid belønnet. Den virkelige verden er urettferdig og ubalansert. Den kanskje mest urovekkende trenden her er at individets interesser (psykologisk, personlig og til og med når det gjelder overlevelse) i økende grad slutter å falle sammen med bedrifts- og regjeringsbegrep om hensiktsmessighet. Er du redd for at datamaskiner endelig vil erstatte mennesker?
N. K.: Da jeg samlet inn materiale til boka, ble jeg veldig redd for en artikkel (sitater som jeg siterer fra teksten), skrevet av en spesialist i militær strategi. I følge den økende omfanget av bruk av datateknologier på slagmarken, kan det ganske snart ganske enkelt ikke være rom for en person i militære anliggender. Beslutningshastigheten har økt så mye at folk rett og slett ikke kan følge med datamaskiner. Vi beveger oss uunngåelig mot helautomatisk krigføring: droner bestemmer selv når de skal skyte missiler mot mål, og robottsoldater på bakken vil bestemme når de skal skyte.
Etter min mening observeres denne situasjonen ikke bare i militære anliggender, men også på mange andre områder - for eksempel i finansverdenen. Folk følger ganske enkelt ikke med datamaskiner når de for eksempel handler med finansielle instrumenter.
Hva venter oss? Vi mister kanskje ikke bare evnen som skiller oss fra datamaskiner for kritisk vurdering av våre egne handlinger - kanskje vil vi implementere slike systemer tankeløst, og tro at det viktigste er beslutningshastigheten. Og da, hvis vi er overbevist om at vi tok feil, vil vi oppdage at det ikke er noen tilbakevending. Veldig ofte viser det seg å være umulig å integrere en person i et system opprinnelig bygget på datateknologi.
TC: Jeg ble også forferdet da jeg leste en passasje i boken din om automatisert krigføring. Jeg fikk en følelse av at prosessen som vil føre oss til helt autonome kampsystemer ikke kan stoppes. En del av gruen min kommer fra minnene fra finanskrisen i 2008, som nærmest utslettet billioner dollar. I det minste nå er folk mer ansvarlige for økonomien. Men hvis dette skjer på militærområdet, vil ikke dollar bli ødelagt, men menneskeliv.
I tillegg ser det ut for meg at det er en tanke som refererer til din forrige bok "Tom": dagens mennesker i biologisk forstand er ikke veldig forskjellige fra våre forfedre som levde for hundrevis av år siden, men vi lever i en helt ny verden. konsekvensene av visse handlinger har lenge overskredet hastigheten som vi er vant til. Det samme gjelder nye oppfinnelser - de selv, i form av informasjon og algoritmer, så vel som konsekvensene av dem, sprer seg i et svimlende tempo.
En fremtid uten mennesker?
N. K.: Poenget er ikke bare at nye teknologier, spesielt teknologier innen programvare, i dag kan replikeres og distribueres veldig raskt. Poenget er at alle disse prosessene foregår i et konkurransedyktig miljø. Enten vi snakker om et våpenløp eller forretningskonkurranse, så snart en av rivalene får en kortsiktig fordel på bekostning av en bestemt teknologi, begynner de umiddelbart å introdusere denne teknologien der det er mulig - fordi ingen ønsker å forbli med en ulempe.
Jeg tror at i denne situasjonen er det for lett å miste synet av at vi egentlig er dyr. Mennesker har gått gjennom en evolusjonsvei i årtusener for å kunne leve og overleve. Menneskehetens rolle, så vel som våre følelser av tilfredshet og selvrealisering, er nært knyttet til vår opplevelse av å leve i en verden som setter vårt vanlige tempo.
Derfor, når vi er imot en person, med alle hans fysiske fordeler og ulemper, mot en rask og nøyaktig datamaskin, er det et ønske om å gi fra seg hele livet til datamaskiner. Vi glemmer imidlertid at total underkastelse til datamaskinen vil føre oss til et liv der det vil være lite rom for selvrealisering.
4. Hvordan automatiserer vi verden?
"Du kan innovere smart, men du kan gjøre det lett"
TC: Jeg tror vi må være kritiske til nye teknologier, men jeg er bekymret for at folk gjør unødvendige vansker og anti-teknologisk "autentisitet" til en fetisj. Det er en så moderne tankegang som berømmer hard fysisk arbeidskraft og hevder at alt vi gjør må være håndverksmessig og autentisk. Etter min mening lurer en slik stilling på snobberi og tar ikke hensyn til det enorme antallet positive prestasjoner som demokratiseringen av teknologisk fremgang har ført med seg.
N. K.: Jeg er helt enig med deg. I et intervju ble jeg spurt om hvordan min forsiktige holdning til fremgang vil hjelpe for eksempel folk som jobber under vanskelige forhold på kjøttforedlingsanlegg. Jeg svarte at det selvfølgelig alltid vil være et sted for automatisering av produksjonen der arbeidsforholdene til mennesker må forbedres. Det er bare det at du kan innovere smart, eller du kan gjøre det tankeløst; vi kan finne en måte å ta hensyn til verdien av menneskelig erfaring og viktigheten av selvrealisering, eller vi kan ganske enkelt utvide datamaskinens evner. Å ta det riktige valget er ikke lett. Hvis vi oppfatter denne oppgaven utelukkende i svart-hvitt - enten vi stiller blindt opp for hard, utmattende fysisk arbeid i noen situasjoner, eller omvendt, ser meningen med livet i sybarisme - vil dette ikke hjelpe saken.
Mennesker lager og bruker stadig verktøy. Fra uminnelige tider må vi ta beslutninger knyttet til arbeidsdelingen, med inndelingen av mengden arbeid mellom en person og verktøyene han har til rådighet. Og det virker som om datamaskineres fantastiske effektivitet når det gjelder å utføre et bredt spekter av oppgaver, bare kompliserer prosessen med å ta slike beslutninger.
5. Hva venter oss?
"Vi må strebe for å sikre at datamaskiner beriker vår livserfaring, og ikke gjør oss til passive observatører av skjermbilder"
T. Ch.: Så hvor er menneskeheten på vei?
NK: Naturhistorisk historiker Thomas Hughes, som gikk bort i fjor, foreslo konseptet teknologisk momentum. Han mente at teknologier som er innebygd i sosiale strukturer og prosesser begynner å utvikle seg på egen hånd, og drar samfunnet sammen med dem. Det er godt mulig at banen vår allerede er satt, og at vi vil fortsette på vår nåværende vei, uten å stille spørsmål om vi går i riktig retning. Jeg vet ikke helt hva som vil skje. Det beste jeg kan gjøre er å prøve å resonnere om disse virkelig tøffe spørsmålene etter beste evne.
Jeg håper at vi som enkeltpersoner og som samfunnsmedlemmer vil kunne opprettholde et visst nivå av forståelse av hva som skjer med oss, så vel som et visst nivå av nysgjerrighet, og at vi vil ta beslutninger basert på våre langsiktige interesser, og ikke på de vanlige begrepene bekvemmelighet, hastighet, nøyaktighet. og effektivitet.
Det ser ut til at vi må strebe for å sikre at datamaskiner beriker vår livserfaring og åpner for nye muligheter for oss, og ikke gjør oss til passive observatører av skjermbilder. Jeg tror fortsatt at hvis vi oppnår mer med nye teknologier, vil de kunne gjøre det teknologier og verktøy har gjort gjennom menneskehetens historie - for å skape en mer interessant verden rundt oss og hjelpe oss, til å bli bedre. Til syvende og sist avhenger alt av oss selv.
Tom Chatfield
