Tekniske selskaper har rolig studert bildene dine for å forbedre ansiktsgjenkjenningssystemene. Og slik gjorde de det.
Ansiktsgjenkjenning er en kraftig teknologi som alvorlig truer sivile friheter. Det er også en blomstrende virksomhet. I dag selger mange nystartede og teknologiske giganter ansiktsgjenkjenningssystemer til hoteller, detaljister og til og med skoler og sommerleirer. Denne virksomheten blomstrer takket være nye algoritmer som kan identifisere mennesker med mye større nøyaktighet enn for fem år siden. For å forbedre algoritmene deres, har de blitt trent på milliarder av ansikter, noen ganger uten noens tillatelse. Derfor er sjansen stor for at ansiktet ditt er en del av et "opplæringssett" i et av disse systemene eller er i en kundedatabase for et selskap.
Informasjonsinnsamlingsmetodene som brukes av selskaper kan overraske forbrukerne. I minst tre tilfeller har for eksempel selskaper mottatt millioner av bilder via fotoapper for smarttelefoner. Nå er ansiktsgjenkjenningssystemet dårlig regulert, så folk har nesten ingen måte å begrense bruken av ansiktene sine til kommersielle formål.
I 2018 identifiserte et kamera ansiktene til passasjerer som hastet ned et fly i nærheten av Washington, Columbia. Men faktisk var både flyet og passasjerene en del av en simulering opprettet av National Institute of Standards and Technology (NIST) for å demonstrere hvordan data kunne samles "i felt". Ansiktene som brukes i dette eksperimentet vil være en del av en NIST-konkurranse der selskaper fra hele verden tester sine ansiktsgjenkjenningssystemer.
I simuleringen av flysituasjonen ble de frivillige enige om å bruke ansiktene. Dette var tilfelle i de tidlige stadiene av ansiktsgjenkjenningssystemer - forskere prøvde konsekvent å inkludere mennesker i settene sine. Nå er det usannsynlig at virksomheten plager seg selv og ber om tillatelse.
I følge Market Research Future kjemper selskaper (inkludert ledere som Face ++ og Kairos) om å være nr. 1 i en bransje som vokser 20% årlig for å nå 9 milliarder dollar i volum innen 2022. Forretningsmodellen til disse aktørene er basert på lisensiert programvare for et økende antall kunder - fra rettshåndhevelsesbyråer til universiteter - som bruker den i sin egen utvikling.
I konkurransen er vinnerne produktene hvis algoritmer er i stand til å oppdage ansikter nøyaktig og uten feil. Som med all kunstig intelligens, innebærer å bygge et ansiktsgjenkjenningssystem akkumulere en stor mengde data for trening. Selv om selskaper kan bruke myndighets- og universitetsgodkjente data (for eksempel Yale Facial Database), er disse opplæringssettene små nok til å inneholde ikke mer enn noen få tusen ansikter.
Salgsfremmende video:
Disse offisielle settene har også andre ulemper. Mange mennesker mangler rasemangfoldet og forskjellige forhold - skygger, hatter, kosmetikk - som endrer oppfatningen til en person i den virkelige verden. Et naturlig ansiktsgjenkjenningssystem krever flere bilder. Mye mer.
“Hundre er ikke nok, tusen er ikke nok. Vi trenger millioner av bilder. Hvis du ikke trener systemet for å gjenkjenne personer med briller og forskjellige hudfarger, oppnår du ikke gode resultater, sier Peter Trepp, direktør i FaceFirst, et selskap i California som hjelper detaljister med å identifisere kriminelle i butikkene sine.
Søknad om dette
le. Spesielt tvang appen den til å sende sponsede koblinger til alle brukerkontakter, en taktikk kjent i Silicon Valley som "veksthacking." Brukere klaget også på datatyveri.
"Umiddelbart etter installasjonen samler applikasjonen alle telefonene fra listen over kontakter og begynner å sende dem tekst … Og så laster den ned alle bildene dine og kopierer dem til skylagring," skrev Greg Miller, eier av et fotostudio i Texas, i en anmeldelse fra 2015 på Facebook.
Fire år senere ble Miller forferdet over å oppdage at fotografiene hans fortsatt var lagret på EverRoll, men nå et selskap med et ansiktsgjenkjenningssystem.
"Nei, jeg visste ikke om det, og jeg er helt uenig i det," klaget Miller til Fortune. “Denne typen overvåking er et reelt problem. Fortrolighet er borte, og det skremmer meg mye."
Doug Ely, administrerende direktør i Ever AI, hevder selskapet ikke overfører informasjon fra databasen noe sted, og bildene brukes bare til å trene opp systemet. Han la også til at selskapet ligner et sosialt nettverk som kan forlates når som helst. Eli benektet at Ever AI hadde til hensikt å bli et ansiktsgjenkjenningsselskap fra starten av og sa at app-nedleggelsen var en ledelsesbeslutning. Ever AIs kunder bruker nå dataene til sine egne formål, inkludert administrasjon av ansattes identifikasjonssystemer, detaljhandel, så vel som telekommunikasjon og rettshåndhevelse.
Ever AI er ikke det eneste ansiktsgjenkjenningsselskapet som en gang tilbød en fotograferingsapp. Orbeus, en San Francisco-basert oppstart kjøpt av Amazon i 2016 (som ikke ble kunngjort), tilbød også den populære PhotoTime-lagringen.
I følge en tidligere Orbeus-ansatt lå oppstartens appell til Amazon i dens kunstige intelligenssteknologier og dens enorme utvalg av fotografier av mennesker på offentlige steder.
“Amazon lette etter slike muligheter. De kjøpte alt og lukket deretter søknaden, sier en ansatt som ønsket å være anonym og siterer en avtale om ikke-avsløring.
PhotoTime eksisterer ikke lenger, selv om Amazon fortsetter å selge et annet Orbeus-produkt kjent som merkevaren Rekognition. I forretnings- og rettshåndhevelse brukes det som et ansiktsgjenkjenningssystem.
Amazon nektet å avsløre detaljer om Orbeus foto-app ble brukt til å trene Rekognisjon, og opplyste bare at den tok data fra forskjellige kilder. Selskapet la til at det ikke bruker brukerdata fra Prime-appen for å trene identitetssystemer.
Real Networks er et annet selskap som bruker apper for å trene opp systemet sitt. Basert i Seattle og en gang kjent for sin videospiller fra 90-tallet, er selskapet nå fokusert på å gjenkjenne barns ansikter på skolene. Samtidig tilbyr selskapet en familie-app kalt RealTimes, som kritikere sier samler inn data om brukernes ansikter.
“Applikasjonen lar deg lage videopresentasjoner fra bilder. Se for deg at mamma sender en slik presentasjon til bestemor, og systemet bruker disse bildene til trening. Det høres skummelt ut, sier Claire Gavry, professor ved Georgetown University, som publiserte en artikkel som har hatt stor innvirkning på ansiktsgjenkjenningsteknologi.
Real Networks bekreftet at appen ble brukt for å forbedre ansiktsgjenkjenningen, men la til at andre informasjonskilder ble brukt.
I alle tilfeller der selskaper brukte data fra sine egne fotoapplikasjoner for å trene systemene sine, ba de ikke om brukertillatelse, men fikk skjult samtykke gjennom brukeravtaler.
Men dette er allerede ganske mye sammenlignet med hva andre selskaper gjør. I følge Patrick Grother, som kjører NIST-konkurransen, er det greit at selskaper som samler ansiktsdata, skriver programmer som “griper” bilder fra nettsteder som SmugMug eller Tumblr. I disse tilfellene antas ikke engang brukertillatelse.
Denne selvhjelpstilnærmingen ble fremhevet i en nylig NBC News-rapport som beskrev hvordan IBM lastet ned over en million ansiktsbilder fra Flickr som del av en AI-studie. (John Smith, som har tilsyn med kunstig intelligenssteknologi i IBMs forskningsavdeling, sa at "personopplysninger er beskyttet" og at det pågår et arbeid med de som ønsker å fjerne personlig informasjon fra databasen).
Alt dette reiser spørsmål om beskyttelse av personopplysninger fra selskapene som samler inn dem, og behovet for statlig kontroll på dette området. Dette emnet vil bare bli mer alvorlig med den videre spredningen av ansiktsgjenkjenningssystemer i samfunnet, så vel som i miljøet til store og små bedrifter.
Fra butikker til skoler
Systemer for ansiktsgjenkjenning er ikke nye. De enkleste versjonene av slike programmer har eksistert siden 1980-tallet, da amerikanske matematikere begynte å definere ansikter som en serie av numeriske verdier og brukte sannsynlighetsmodeller for å finne treff. Tampa, Florida sikkerhet brukte den på Super Bowl 2001, og den har blitt brukt på kasinoer i mange år. Men mye har endret seg de siste årene.
"Ansiktsgjenkjenningssystemet gjennomgår noe som en revolusjon," sier Patrick Grother, og legger til at endringen er mest merkbar i den økende bildekvaliteten.”Den underliggende teknologien har endret seg. Gamle utbygginger er erstattet av nye, mye mer effektive systemer."
Ansiktsgjenkjenningsrevolusjonen ble drevet av to faktorer som i stor grad har endret og utvidet omfanget av kunstig intelligenssteknologi. Den første er fremveksten av dyp læring, et mønstergjenkjenningssystem som i prinsippet ligner den menneskelige hjerne. Det andre er et rekordoverskudd av data som kan lagres og analyseres til lave omkostninger ved bruk av cloud computing.
Ikke overraskende var de første selskapene som utnyttet denne utviklingen fullt ut, Google og Facebook. I 2014 ga sistnevnte ut et program kalt DeepFace, som med en nøyaktighet på 97,24% kan bestemme at to ansikter tilhører samme person - et lignende resultat blir demonstrert av folk i en slik test. Et år senere oppnådde Google med sitt FaceNet-program 100% nøyaktighet (ifølge sikkerhetsfirmaet Gemalto).
I dag, i stor grad takket være tilgang til store databaser med ansiktsdata, er disse og andre teknologigiganter (som Microsoft) ledende i ansiktsgjenkjenning. Men flere og flere nystartede selskaper viser høye resultater, og prøver også å okkupere sin nisje i det voksende markedet for ansiktsidentifiseringsprogrammer.
Det er mer enn et dusin selskaper i USA alene, inkludert Kairos og FaceFirst. I følge markedsforskere fra PitchBook er Silicon Valley raskt i ferd med å trekke seg i sektoren, med betydelige investeringer de siste årene. PitchBook anslår den totale investeringen de siste tre årene til 78,7 millioner dollar. Dette er ikke fantastiske tall etter Valley-standarder, men de gjenspeiler tilliten til risikokapitalister om at noen få front-up-startups snart vil vokse til store selskaper.
Risikokapitalaktivitet i ansiktsgjenkjenningsindustrien i USA.
Nye forretningsmodeller fokusert på ansiktsgjenkjenning dukker fortsatt opp. Dette merkes spesielt i lisensiert firmaprogramvare. I følge Crunchbase er årlige inntekter for selskaper som Ever AI og FaceFirst beskjedne, fra $ 2 til $ 8 millioner. Amazon og andre teknologigiganter oppgir ikke slike tall.
I lang tid var de mest interesserte brukerne av ansiktsgjenkjenningssystemer rettshåndhevingsbyråer. Men nå bruker mange selskaper, inkludert WalMart, slike programmer for å få mer informasjon om kundene i butikkene sine.
For eksempel tilbyr California-baserte FaceFirst sine systemer til hundrevis av forhandlere, inkludert bruktbutikker og apotek. Ifølge selskapets administrerende direktør bruker mange kunder teknologien for å oppdage tyveri, men et økende antall av dem som prøver å bruke den til andre formål, inkludert å finne VIP-klienter og identifisere ansatte.
I lang tid var de mest interesserte brukerne av ansiktsgjenkjenningssystemer rettshåndhevingsbyråer.
Det ser ut til at Amazon også ser etter et bredt spekter av sine aktiviteter etter muligheter til å bruke ansiktsgjenkjenningssystemer. I tillegg til å jobbe med politistasjoner, hjelper detaljgiganten hotell med å øke hastigheten på innsjekkingsprosesser, ifølge forskjellige kilder.
"Bedrifter fra hele verden kommer til Amazon og sier:" Dette er akkurat hva vi vil gjøre. " Og du forstår at dette er et fantastisk område. Alle er interessert i det, sier en anonym kilde som ble med Amazon når hun kjøpte Orbeus, et ansiktsgjenkjenningsselskap.
For Amazon har denne aktiviteten ikke vært uten kontroversielle konsekvenser. I juli i fjor testet American Civil Liberties Union (ACLU) selskapets systemer ved å sammenligne ansiktene til alle medlemmene i Kongressen med en database med kriminelle. Testen viste 28 falske fyrstikker, med de fleste feil på grunn av hudfargen til deltakerne i eksperimentet. Som et resultat ba unionen om et forbud mot bruk av ansiktsgjenkjenningssystemet i rettshåndhevingsbyråer. Imidlertid insisterte Amazon på å selge systemet til politifolk og USAs innvandring og tollhåndhevelse.
Da ba noen medlemmer av kongressen, inkludert rep. Jerrold Nadler og senator Ron Weeden, revisjonskontoret om å undersøke bruken av ansiktsgjenkjenningsprogramvare. Ledende selskaper er også bekymret for disse systemene. Spesielt Microsoft-president Brad Smith i desember ba om regulering av slike teknologier på statlig nivå.
Men selv når bekymringene vokser, utvides bruken av ansiktsgjenkjenningssystemer bare etter hvert som bedriftene finner stadig mer bruk for dem. For eksempel tilbyr Real Networks, en familieutviklerapp-utvikler, programvaren sin til skoler over hele landet gratis. Selskapet snakker om hundrevis av skoler som sine kunder. I et intervju med magasinet Wired sa administrerende direktør Rob Glaser, at han startet prosjektet som en upartisk løsning på tvister om skolesikkerhet og pistolkontroll. Selskapets nettsted posisjonerer for tiden dette produktet som en teknologi som lar arrangementarrangører "gjenkjenne enhver fan, klient, ansatt eller gjest," selv om ansiktet deres er skjult.
Den unike teknologien gjenkjenner ansikter selv i fargelegging eller intensiv sminke. Systemet skiller og identifiserer ansikter i en rekke lysforhold.
Real Networks er ikke det eneste selskapet som retter seg mot barnas marked. En Texas-basert oppstart kalt Waldo tilbyr lignende teknologi til hundrevis av skoler, samt barnas idrettsligaer og sommerleirer. I praksis innebærer dette bruk av slike systemer for å skanne bilder tatt av videokameraer eller offisielle fotografer, og ytterligere sammenligning av barns ansikter med en database med bilder levert av foreldrene. Foreldre kan alltid nekte å delta.
I følge Waldo-administrerende direktør Rodney Rice tar skoler titusenvis av bilder hvert år, og få av dem havner i årlige album. Ansiktsgjenkjenning, sa han, er en effektiv måte å spre restene til de som trenger dem.
"For prisen på popcorn eller brun papir, kan du bestille disse bildene til besteforeldrene til barna dine," sier Rice og forklarer at Waldo har en inntektsdelingsavtale med offentlige skoler. Foreløpig brukes selskapets tjenester i mer enn 30 delstater i USA.
Fremveksten av Waldo og FaceFirst viser hvordan bedrifter normaliserer ansiktsgjenkjenning som virket som science fiction inntil nylig. Og med spredningen av slike teknologier, vil flere selskaper samle bilder av ansiktene dine - enten for å trene algoritmer eller for å finne kunder og kriminelle - selv om risikoen for feil og overgrep bare vokser.
Fremtiden til ansiktet ditt
I 2017 ble en episode av den techno-dystopiske serien Black Mirror sluppet, der en opprørt mor bekymrer seg for en juksende ung mann som tilbringer tid med datteren. For å finne ut hvem det er, laster hun opp et bilde av ham til en forbrukeridentifikasjonstjeneste. Programmet viser raskt navn og arbeidssted, og kvinnen går for å takle ham.
Det en gang fiktive scenariet virker nå ganske reelt. Mens de fleste av bekymringene rundt ansiktsgjenkjenning har handlet om bruken av denne teknologien i offentlige organisasjoner, utgjør bruken av den blant kommersielle selskaper og til og med enkeltpersoner (i stilen "Black Mirror") åpenbare risikoer for personopplysningene.
Når flere selskaper begynner å selge ansiktsgjenkjenningssystemer og ansiktene våre kommer inn i flere databaser, kan programvaren få popularitet blant voyeurs og forfølgere. Forhandlere og utleiere kan bruke den til å identifisere uønskede klienter og leietakere for å stille fornekte bolig og tjenester.
"Alle med et videokamera i et tett befolket område kan begynne å samle bildedatabaser og deretter bruke denne analytiske programvaren for å se om de resulterende bildene samsvarer med dataene dine," sier Jay Stanley, analytiker ved ACLU.
Det er også fare for hackerangrep. Andrei Barisevich fra Gemini Advisors, et cybersecurity-firma, sier at han har sett profiler for salg stjålet fra Indias nasjonale biometriske database på darknet-nettsteder. Han la ikke merke til slik informasjon om amerikanerne, men la til: "Det er bare et spørsmål om tid." Å lekke kundedata fra et hotell eller butikk kan hjelpe kriminelle til å begå svindel eller identitetstyveri.
Siden teknologien distribueres uten mye myndighetskontroll, ligger ansvaret for å begrense misbruk av dette bare hos programvareleverandørene. I et intervju med Fortune sa administrerende direktører for oppstart av ansiktsgjenkjenning at de var forberedt på slike trusler. Noen, inkludert administrerende direktør i FaceFirst, beskrev spredningen av slike systemer i Kina som farlig.
Ledere foreslo også to tilnærminger for å dempe overgrep. Den første er å samarbeide tett med kjøperne av programvaren for å sikre at den brukes riktig. For eksempel sier Ever AIs Doug Eli at selskapet hans har en høyere standard enn Amazon, som han hevder gir sitt Rekognisjonsverktøy for omtrent hvem som helst.
Som svar på et spørsmål om misbrukskontroll ga Amazon en tidligere utgitt uttalelse fra Matt Wood, som driver kunstig intelligens hos Amazon Web Services. Wood påpeker at det er selskapets policy som forbyr skadelige og ulovlige aktiviteter.
En annen mulig garanti for datasikkerhet er bruk av tekniske tiltak for å sikre umuligheten av å hacking databasene med "front" -data.
Rodney Rice, administrerende direktør i Waldo, sier at ansiktene er lagret som alfanumeriske hasjer. Dette betyr at selv i tilfelle av en datalekkasje, vil ikke konfidensialitet bli kompromittert, siden en hacker ikke vil være i stand til å dekryptere hasjene og bruke dem. Dette synspunktet ble støttet av andre.
Rice frykter at lovgivningens definisjon av reglene for bruk av "ansikts" -teknologier kan gjøre mer skade enn godt. "Det er latterlig å la et barn finne det og lage regler," sier han.
I mellomtiden bruker noen programvareselskaper for ansiktsgjenkjenning nye teknikker som kan redusere behovet for big data for trening. Dette er for eksempel tilfelle med Kairos, en front-up-oppstart fra Miami som blant annet jobber med et bredt utvalg av hoteller. I følge Stephen Moore, sjef for sikkerhet hos selskapet, lager Kairos "syntetiske" ansikter for å simulere et bredt spekter av følelser og belysning. Slike "kunstige ansikter" reduserer bruken av ansiktsdata fra den virkelige verden når du lager teknologiprodukter.
Alle disse tiltakene - overvåking av systembrukere, sterk databeskyttelse og verktøy for syntetisk læring - kan dempe noen av personvernproblemene som er knyttet til forretningsbruk av ansiktene våre. Samtidig tror FaceFirsts Trepp at angsten vil avta med en nærmere titt på systemet. Han hevder til og med at ansiktsgjenkjenningsscenene i sci-fi-filmen Minority Report fra 2002 vil begynne å føles normal.
"Millennials er mye mer villige til å dele informasjon. Denne verden [fra Minority Report] kommer nærmere vår, sier han. - Hvis du gjør alt riktig, så tror jeg folk vil like det, og det vil være en positiv opplevelse. Det vil ikke være så skummelt."
Andre, inkludert ACLU, er mindre optimistiske. Til tross for den økende diskusjonen rundt teknologi, er det praktisk talt ingenting på dette punktet som begrenser bruken av ansiktet ditt. De eneste unntakene er i tre stater - Illinois, Texas og Washington DC - som krever en viss grad av samtykke før du bruker andres ansikt. Disse lovene brukes egentlig ikke i praksis, bortsett fra i Illinois, der forbrukere kan ta rettslige skritt for å håndheve denne retten.
Illinois-loven er for øyeblikket gjenstand for en høyprofilt ankeprosess som involverer Facebook, som hevder at digital crawling ikke er underlagt begrensninger for å få ansikter. I 2017 lanserte Facebook og Google en mislykket lobbykampanje for å overbevise lovgivere i Illinois om å myke opp loven. I slutten av januar ble talsmenn for loven støttet av Illinois høyesterett da den avgjorde at forbrukere kan saksøke uautorisert bruk av biometriene sine, selv om det ikke er gjort noen reell skade.
Andre stater åpner også for muligheten for å vedta sine egne biometriske lover. På føderalt nivå har lovgivere i liten grad lagt merke til dette så langt. Dette kan imidlertid endre seg, da senatorene Brian Schatz og Roy Blount innførte lovgivning denne måneden som ville kreve at selskapene skal få tillatelse før de bruker ansiktsgjenkjenning på offentlige steder eller deler ansiktsdata med noen tredjepart.
Claire Garvey, en forsker i Georgetown, støtter lover for å kontrollere disse systemene. Men hun sier at lovgivere har hatt vanskelig for å følge med på teknologi.
”En av utfordringene med ansiktsgjenkjenning er deres utrolig raske adopsjon, takket være de eksisterende databasene. Ansiktene våre ble lyst opp mye, sier hun. "I motsetning til fingeravtrykk, som lenge har hatt regler for datainnsamling, er det fortsatt ingen regler for ansiktsgjenkjenningsteknologier."
Av Jeff John Roberts
Oversatt av: Ekaterina Egina
Redigert av: Sergey Razumov
