Det britiske selskapet Cambridge Analytica hjalp Donald Trump til å vinne det amerikanske presidentvalget ved bruk av Big Data-teknologi og personlig online annonsering. Før det jobbet det samme firmaet med Brexit-tilhengere i Storbritannia, og har nå signert en kontrakt med den franske nasjonale fronten. Stemmer det at uventede avstemmingsresultater i forskjellige land ikke er en svikt i sosiologien, men en seier for en ny type sosiologi? Samtalepartneren til Radio Liberty Michal Kosinski, hvis forskning indirekte er relatert til aktivitetene til Cambridge Analytica, mener at dette er en overdrivelse, men Big Data-teknologier og en reduksjon i personvern lover de globale endringene i verden.
Tilbake i slutten av september, midt i valget, og holdt tale i New York City på Concordia-toppmøtet, en årlig begivenhet for innflytelsesrike politikere og forretningsmenn fra hele verden, snakket grunnlegger av Cambridge Analytica Alexander Nix om hvordan den nye teknologien har forbedret effektiviteten av kampanjen til Trumps republikanske nominasjon, Ted Cruz., ved begynnelsen av løpet, nesten ukjent kandidat. Nix snakket om hvordan for eksempel mennesker med forskjellige temperamenter skulle presentere en kandidats mening om loven om fri distribusjon av våpen på forskjellige måter: fryktelige mennesker med høyt nivå av nevrotisisme kan tenke på våpen som en kilde til sikkerhet, og rike, konservative ekstroverter kan vises et bilde av en andjakt.
Senere hjalp Cambridge Analytica Trump selv, og ifølge Nyx, for en relativt beskjeden belønning, totalt rundt 15 millioner dollar. Ved å analysere dataene som alle Internett-brukere legger igjen på nettverket, klarte selskapets spesialister å finne ikke-åpenbare forbindelser og mønstre (for eksempel at folk som foretrekker amerikanskproduserte biler er klare Trump-velgere) og bruker dem til å målrette annonsering på Internett, for å personalisere meldinger. utgående fra hovedkvarteret til den republikanske kandidaten. Beboere i Lille Haiti-kvartalet i Miami ble vist informasjon om Hillary Clintons nektelse av å delta i lettelsen fra jordskjelvet i Haiti, afroamerikanere - en video der Clinton sammenligner svarte menn med rovdyr. Trump-frivillige fikk en detaljert profil av beboerne i husene,hvor de skulle drive direkte kampanje.
Det er vanskelig å si hvor stor innvirkning Cambridge Analyticas arbeid har hatt på utfallet av det amerikanske valget, men denne kampanjen er ikke det eneste eksemplet på at vinnerne er de som ansatt firmaet. For eksempel tilbake i 2015 begynte den radikale støttespilleren til Brexit Nigel Farage å bruke Cambridge Analytica. Den sveitsiske publikasjonen Das Magasin, som nylig publiserte en undersøkelse av aktivitetene til Cambridge Analytica (du kan lese den på russisk her), sier at selskapet nå har fått en kontrakt med den franske nasjonale fronten, i tillegg noen politiske krefter i Sveits, Tyskland og kanskje Italia.
En av heltene i Das Magasin-publikasjonen er Michal Kosinski, en forsker av polsk opprinnelse, tidligere visedirektør for Center for Psychometrics ved Cambridge University, og for tiden adjunkt ved Stanford University i USA. I flere år har Kosinski og hans kolleger i Cambridge utviklet et system som, basert på brukerens aktivitet på et sosialt nettverk, sammenstiller en detaljert psykologisk profil av en person. Systemet er i stand til ikke bare å beskrive karaktertrekk, men også forutsi blant annet kjønn, seksuell legning, hudfarge og til og med politiske preferanser for brukeren.
Sveitsiske journalister forteller at Kosinski tidlig i 2014 ble oppsøkt av en kollega, Alexander Kogan, som inviterte de unge forskerne til å anvende modellen han hadde laget for å analysere flere millioner profiler av amerikanske borgere på forespørsel fra et visst selskap. Etter hvert som det ble klart senere, ble dette selskapet tilknyttet Cambridge Analytica. Kosinski takket nei til å samarbeide, men metodene Cambridge Analytica brukte under folkeavstemningen i Storbritannia og det amerikanske presidentvalget er i det minste veldig likt modellene som ble oppfunnet av Michal Kosinski.
Radio Liberty ringte Kosinski i California og spurte ham hva som kan sies om en person på hans "digitale spor", hvor mye man kan stole på de høye uttalelsene fra Cambridge Analytica, om krigen for personvern er tapt og om kunstig intelligens er farligere enn Donald Trump.
- Hva er psykometri? Hva gjør du som forsker?
Salgsfremmende video:
“Psykometri i seg selv er en gammel vitenskap, jeg tror den er to eller tre årtusener gammel. I hovedsak er dette vitenskapen om psykologiske målinger, forsøk på å etablere så nøyaktig som mulig forskjellige psykologiske aspekter, personlighet, intellektuelle evner, lykke, tendens til depresjon og så videre. Tradisjonelt ble slike målinger foretatt ved hjelp av spørreskjemaer, psykologiske tester, men relativt nylig innså jeg og noen andre psykometere at de kan gjøres ved å vurdere en persons digitale fotavtrykk - og da kan ingen spørsmål stilles, ingen spørreskjemaer og tester. Og dette er et revolusjonerende øyeblikk. Betydningen av Cambridge Analytica-historien, som Das Magasin skrev om, er egentlig ikke at selskapet hjalp Trump i valgløpet. Dette er et kommersielt selskap, de har teknologi, de vil tjene penger, alt er klart her. Det som betyr noe erat hvis du tidligere ønsket å komponere noens psykologiske profil, måtte du be personen fylle ut et spørreskjema, ta en test - og emnet forsto godt at akkurat nå, akkurat i dette øyeblikket, måler noen hans psykologiske egenskaper. Og nå kan du gjøre det samme, men personen erkjenner ikke at hans mest intime trekk blir evaluert og målt akkurat nå av noen. Bare se på det digitale fotavtrykket: innlegg i sosiale medier, likes, nettleserhistorie, søkehistorikk. Basert på disse dataene kan et utrolig nøyaktig psykologisk portrett settes sammen. På den ene siden virker det som noe skummelt, på den andre kan det være veldig nyttig. Noen internettplattform kan for eksempel foreslå den mest passende jobben for din karakter og evner, eller anbefale en film,som du helt sikkert vil like. Dette er normalt. Men når du åpner Facebook-siden din og ser annonser der som er personlig målrettet, målrettet mot deg basert på din detaljerte psykologiske profil, som ble samlet uten din viten og samtykke, er dette ikke lenger veldig normalt.
- Så personlig, kan du lage den komplette psykologiske profilen min, bare å vite navnet mitt, basert på fotavtrykket jeg la igjen på Internett?
Jeg er en forsker og ville bare ikke gjøre det. Hvis du meldte deg frivillig til å hjelpe med å forske og ga dataene dine, ville jeg gjerne ta dem med i databasen, anonymisert den og lovet å aldri selge eller overføre til noen. Men mange selskaper samler selvfølgelig kontinuerlig informasjon om deg uten å spørre og bruke den, for eksempel til målrettet reklame.
- Denne informasjonen er selvfølgelig ikke lagret ett sted - ett selskap kjenner mine geolokasjonsdata, et annet - økonomiske transaksjoner, det tredje - liker på Facebook. Kan alt dette settes sammen?
- Vel, for det første er dette vanligvis ikke nødvendig. Vanligvis er en ting nok til å bygge en nøyaktig profil - interessene dine på Facebook, for eksempel, eller surfehistorikken din fra nettleseren din. For det andre utveksler selskaper som samler informasjon om deg vanligvis den med hverandre eller bare selger den i det generelle datamarkedet. Det er prosjekter som Acxiom som setter alt sammen og selger det til firmaer som Cambridge Analytica. Du kan bare komme og si - Jeg trenger data om 10 millioner amerikanere fra en slik og en slik region, og de vil gjerne selge disse dataene. For det tredje, for å kjøre en kampanje med personlig målretting, er det slett ikke nødvendig å ha individuelle brukerdata. Du kan bruke den såkalte atferdsmålretting. Du kan for eksempel ikke be Facebook om å vise visse annonser til alle mennesker,utsatt for en viss type oppførsel. Men du har kanskje en modell som knytter denne typen oppførsel til en slags psykologisk profil, og du kan til og med bygge denne modellen ganske ærlig - du betalte flere titusenvis av mennesker en liten avgift for å fylle ut spørreskjemaet. Og når modellen er bygget, spør du den: hvordan finner jeg følelsesmessige ekstroverter? Modellen svarer - ikke noe problem, det er de som likte slike og slike ti bøker, slike og slike ti filmer og slike og slike ti musikere. Nå går du til Facebook igjen med annonsen din, bare du ikke lenger trenger å be om å vise den til emosjonelle ekstroverter, noe Facebook ikke ville gjort. I stedet ber du om å vise annonser for de som har et bestemt sett med liker. Som et resultat viser det seg at du ikke hadde noen personopplysninger,men du kjørte personlig målrettet annonsering.
- Er det selskaper som søker å utarbeide en psykologisk profil av hele menneskeheten, i alle fall alle som legger igjen digitale spor?
- Knapt noen tenker i slike globale kategorier, men til en viss grad er Facebook, Google, Microsoft, Visa, Mastercard, det samme Acxiom engasjert i dette. Og alle disse dataene omsettes mye i markedet.
- Det vil si at et sted på markedet selges for eksempel også den psykologiske profilen min, og den er utrolig nøyaktig. Du sa i en kommentar til Das Magazin at bare noen få likes på Facebook er nok til at systemet kan gjenkjenne deg bedre enn din nærmeste venn. Er det virkelig slik?
- Ja, det var en interessant studie om dette. Ti likes (interesser) er nok til at systemet bedre kan gjenkjenne personligheten din enn en arbeidskollega, og innen 230-240 liker datamaskinen vil vite mer om deg enn ektefellen din.
“Men hva betyr det egentlig å vite mer?
“Dette betyr at hvis du ber datamaskinen om å fylle ut et psykologisk spørreskjema for deg, vil det gjøre mindre feil enn kona.
- Dette er svarene på spørsmål som "Er du redd for mørket"?
- Ja, typiske spørsmål om psykologiske spørreskjemaer. Så virkelig, et sted på markedet kan du kjøpe veldig nøyaktig informasjon om personligheten din, inkludert din politiske skjevhet, din religiøsitet, din seksuelle legning, din IQ. Du kan grovt forstå hva som er kjent om deg basert på dine interesser på Facebook ved å bruke nettstedet Applymagicsauce.com, men dette er selvfølgelig langt fra det fullstendige bildet.
- La oss vende oss til historien med Cambridge Analytica. Si meg, du har virkelig ingenting med dette selskapet å gjøre?
- Nei, og aldri hatt det. Jeg har hørt om eksistensen fra pressen.
- Alexander Kogan, som ifølge Das Magazin tilbød Cambridge Analytica psykologisk profileringsteknologi, var kollegaen din?
- Ja, han var min kollega, eller rettere sagt, han var adjunkt ved psykologavdelingen ved Cambridge University på den tiden da jeg var hovedfagsstudent der. Men banene våre skilte seg for lenge siden, han grunnla et lite selskap og solgte Cambridge Analytica-data så vidt jeg forsto fra pressen, og jeg ble værende i den akademiske verden.
- Kan vi anta at Cambridge Analytica bruker modellene du har utviklet?
- Jeg vil si at de bruker lignende modeller, men forstår du for å utvikle en slik modell, trenger du ikke særlig dyp vitenskap, det er ingen magi i det. Alle som har grunnleggende programmeringsferdigheter, litt penger og en datamaskin koblet til internett kan gjøre dette - faktisk er det det som gjør problemet så stort. De mest vanlige statistiske metodene brukes her, ikke noe spesielt. Hovedideen med publikasjonene mine er at det er enkelt, det er bare viktig å endre fokus: for psykometri er det ikke lenger nødvendig med spørreskjemaer og tester, det er nok å ha et digitalt fotavtrykk av en person. Og dette gir enorme fordeler, du kan forbedre markedsføring, karriereplanlegging, metoder for psykologisk assistanse og mye mer. Men den samme teknologien kan brukes mot mennesker. Jeg er sikker på at Alexander Kogan var klar over forskningen min og,Selv om jeg bare kan bedømme dette ut fra rapportene fra journalister, gjorde han akkurat det jeg foreslo og solgte resultatet til Cambridge Analytica. Jeg har sagt mange ganger og eksplisitt antydet i artiklene mine at jeg ikke ønsket å inspirere noen til å utføre denne typen aktiviteter, dessuten er jeg sikker på at folk var engasjert i digital psykologisk profilering lenge før meg, de snakket rett og slett ikke om det like aktivt som Cambridge Analytica. Jeg ber bare om å utvikle retningslinjer og prosedyrer som vil avgjøre den etiske bruken av denne teknologien.at folk hadde drevet digital psykologisk profilering lenge før meg, de snakket bare ikke om det like aktivt som Cambridge Analytica. Jeg ber bare om å utvikle retningslinjer og prosedyrer som vil avgjøre den etiske bruken av denne teknologien.at folk hadde drevet digital psykologisk profilering lenge før meg, de snakket bare ikke om det like aktivt som Cambridge Analytica. Jeg ber bare om å utvikle retningslinjer og prosedyrer som vil avgjøre den etiske bruken av denne teknologien.
- Tror du Cambridge Analytica virkelig kunne påvirke resultatene fra det amerikanske presidentvalget betydelig?
- Ærlig talt, jeg vet ikke. Det er tydelig at Cambridge Analytica er interessert i å trumfe suksessen så høyt som mulig, men til slutt blir valgresultatene bestemt ikke av Big Data-metodene, men av kandidater, og til og med, som det nå vises spesielt tydelig, velgere som ikke går til valgurnene. Kanskje var aktiviteten til Cambridge Analytica det aller siste strået som forhåndsbestemte det endelige resultatet, men mest sannsynlig vet ikke Alexander Nix selv med sikkerhet. På den annen side må vi være klar over at det finnes teknologi, og det er nesten umulig å forsvare seg mot den. Du kan slutte å bruke Facebook, men du vil fremdeles skrive e-post. Bestem deg for å bruke duerpost - du kan ikke gjøre det uten kredittkort. Kanskje kan land vedta lover som begrenser slik praksis,men det fungerer kanskje ikke heller. For øvrig vet jeg ikke sikkert, men jeg hørte at det Cambridge Analytica gjorde for Trump var i strid med gjeldende amerikansk lov, og derfor gjorde de direkte analyse av dataene i Storbritannia. Du vet, jeg er forsker, jeg driver med psykometrikk, jeg er ikke ekspert på politikk, demokrati og frihet, men det ser ut til at vi må akseptere det faktum at det ikke blir noe privatliv igjen. I stedet for å bli involvert i en annen kamp for privatliv, er det verdt å erkjenne at krigen allerede er tapt, og det er bedre å ivareta det faktum at verden blir et gunstig miljø for en person blottet for privatliv. Du vet, jeg er forsker, jeg driver med psykometrikk, jeg er ikke ekspert på politikk, demokrati og frihet, men det ser ut til at vi må akseptere det faktum at det ikke blir noe privatliv igjen. I stedet for å bli involvert i en annen kamp for personvern, er det verdt å erkjenne at krigen allerede er tapt, og det er bedre å ivareta det faktum at verden blir et gunstig miljø for en person blottet for privatliv. Du vet, jeg er forsker, jeg driver med psykometrikk, jeg er ikke ekspert på politikk, demokrati og frihet, men det ser ut til at vi må akseptere det faktum at det ikke blir noe privatliv igjen. I stedet for å bli involvert i en annen kamp for privatliv, er det verdt å erkjenne at krigen allerede er tapt, og det er bedre å ivareta det faktum at verden blir et gunstig miljø for en person blottet for privatliv.
- Det er nysgjerrig i hvilken grad det å bygge en psykologisk profil, å bruke personlig målretting, kan påvirke den virkelige verden.
- Fra et vitenskapelig synspunkt er det vanskelig å krangle om dette, fordi det er vanskelig å sette opp eksperimenter. Det vil si at hvis du selger en slags dusjgelé, kan du sammenligne antall klikk, men det er veldig vanskelig å for eksempel evaluere effektiviteten til Big Data-metoder i en politisk kampanje, som er mer som en merkevarefremmelse enn en salgskampanje. Vi gjorde noen eksperimenter, ikke med politikere, fordi jeg synes det er uetisk, men med spesifikke forbrukerprodukter, og det viste seg at personlig målretting, det vil si å bruke en individuell reklamemelding basert på en psykologisk profil, dobler effektiviteten av annonsering. Og dette er et utrolig resultat, vanligvis er kampen for å forbedre effektiviteten med rundt tre prosent, og til og med dette sparer selskaper hundrevis av millioner av dollar. Og så to ganger!
- Det er rart at du ikke har blitt en milliardær ennå.
- Jeg har allerede et fantastisk liv. For øvrig er det mange psykologiske verk som beviser at lykke ikke krever så mye penger, vel, du trenger selvfølgelig nok for en ferie. Faktisk er alt sannsynligvis ikke så enkelt som det ser ut for meg som forsker, jeg er bare klar til å snakke om disse tingene åpent, mens andre jobber med virkelige prosjekter uten å fortelle noen noe.
- For meg virker ideen om psykologisk profilering basert på et digitalt fotavtrykk ganske naturlig, jeg er sikker på at mange allerede bruker den i reklame. Verden vår har kanskje allerede forandret seg mye, vi merker den ikke helt ennå.
- Sannsynligvis, og jeg ønsker heller disse endringene velkommen. Vi hadde oppfinnelser og mer forferdelig enn Big Data, vi taklet kjernenergi - vi kan på en eller annen måte takle dette, selv om det sannsynligvis ikke er uten ofre. Som sagt virker det på meg som om krigen for personvern allerede er tapt, vi lever i en verden etter privatliv, noe som betyr at det er verdt å investere i å sikre at alle har like rettigheter og muligheter, slik at ingen ønsker å skjule noe. Forhåpentligvis kan mer toleranse løse problemet med manglende personvern.
- Men problemet er ikke bare at folk rundt vil lære alle hemmelighetene til en person og begynne å behandle ham annerledes, men også at et kraftig verktøy for manipulasjon har dukket opp.
- Med dette bør utdanning etter min mening takle. Det er lett å manipulere de som vet lite, som leser lite, som reiser lite. En slik person kan bli fortalt at det ikke er noen krig i Syria, og at alle syrere faktisk er blodige kriminelle, og han vil lett tro på det.
- Etter min mening kan utdannede mennesker også manipuleres, for eksempel ved hjelp av forfengelighet og sex.
“Jeg tror ikke det. Så du kjenner nok kona din ganske godt, gjør dette det enkelt for deg å manipulere henne?
- Jeg vet ikke, jeg har sannsynligvis bare ikke et slikt mål, men det vil helt sikkert være mange mennesker som vil være interessert i å manipulere meg så effektivt som mulig, slik at jeg går og stemmer for eksempel Putin.
- Selvfølgelig vil det være, og dette skjer hele tiden, all reklame, all markedsføring er manipulering av denne typen, og jeg ser ikke hva vi kan gjøre med det. Likevel er det vanskelig å manipulere utdannede, fordomsfrie og glade mennesker. Og det er for sent å gi opp Facebook, e-post, kredittkort, og det er rett og slett dumt. Facebook er en fantastisk ting, så jeg har snakket mye i livet mitt om risikoen ved å bruke den, men jeg bruker den selv, og med glede, og jeg ville til og med betale for det hvis jeg måtte.
- Forresten, ble du tilbudt en jobb på Facebook?
- Ja det er sant. Jeg har det bra med jobben min på universitetet, men faktisk, for en atferdsforsker som vil endre menneskers liv til det bedre, er en karriere i et selskap som Facebook eller Google en fin vei å gå. Jeg kom med modeller og studerer dem, og hvis jeg jobbet på Facebook, kunne jeg faktisk brukt dem til å endre livene til millioner av mennesker, og det er slett ikke nødvendig å selge dem noe.
- Det er skummelt at du kan endre livet til millioner av mennesker med et par klikk.
- For å påvirke millioner av mennesker, var du faktisk en autoritær diktator, men nå kan du være en ingeniør som jobber for et Internett-selskap. Men dette er ikke skummelt. Alle disse algoritmene - Google-søk, anbefalingssystemer og så videre - er basert på den mest grunnleggende matematikken, men det gjelder enorme datamengder. Og til slutt er det ingen som forstår hvordan det hele egentlig fungerer, ikke engang utviklerne selv. Her i Russland er det noen lover som alle anser som dårlige, men dette er åpenbare lover som kan rettes. Og datamaskinalgoritmer lærer seg selv og blir så komplekse at hvis de fungerer på en eller annen måte feil, er det ikke klart hva og hvor de skal fikses.
- Er vi så langt fra det øyeblikket når noen slike utenfor kontroll, utilgjengelige for vårt forståelsessystem, vil arrangere en atomkrig?
- Du vet, så langt har Donald Trump mye flere muligheter og sjanser til å ødelegge menneskeheten enn Big Data, men i fremtiden … Se, det er duer og maur, tror du de vet at verden styres av mennesket? Gjetter de at Donald Trump kan trykke på den røde knappen? Selvfølgelig ikke. Det er verdt å huske dette, for når kunstig intelligens begynner å styre verden, kan det hende at vi ikke legger merke til det på samme måte. Tross alt kan vi ikke lenger forstå og analysere datamengdene vi selv produserer - og vi må stole på datamaskinen. Du kan spørre maskinen: kan du forutsi noe basert på disse dataene? Hun vil svare: ja, selvfølgelig. Du spør: hvordan gjør du det? Hun vil si: Beklager, men du vil ikke forstå det. Og alt dette er allerede en realitet. Du vet at amerikanske domstoler bruker datasystemer,bestemme prøveløslatelse for fanger? Datamaskiner bestemmer om du vil gi deg kreditt eller ikke. Datamaskinen lander et fly, noe som er flott, fordi folk lett kan forårsake problemer. Livene til 800 Boeing 787 passasjerer er i hendene på en datamaskin, ikke en person, og dette er dagens virkelighet.
