En ny studie har vist at å manifestere fordommer mot andre ikke krever spesiell intelligens og lett kan utvikle seg i kunstig intelligente maskiner.
Psykologer og spesialister innen informasjonsteknologi ved University of Cardiff og MIT har vist at grupper av autonome maskiner kan utvise skjevheter ved ganske enkelt å definere slik oppførsel, kopiere den og gjensidig lære den.
Det kan se ut som om fordommer er et rent menneskelig fenomen, som krever menneskelig intelligens for å danne meninger eller stereotyper om en person eller gruppe. Mens noen typer datamaskinalgoritmer allerede har vist skjevheter som rasisme og sexisme basert på studiet av offentlige poster og andre data generert av mennesker, viser nytt arbeid AIs evne til uavhengig å utvikle grupper med fordommer.
Forskningen er publisert i Scientific Reports. Det er basert på datasimuleringer av hvordan partiske virtuelle agenter kan danne grupper og samhandle med hverandre. Under simuleringen tar hver enkelt en beslutning om å hjelpe noen fra sin gruppe eller fra en annen, avhengig av ryktet til den enkelte, så vel som sin egen strategi, som inkluderer nivået av fordommer overfor utenforstående. Etter å ha gjennomført tusenvis av simuleringer, lærer hver enkelt nye strategier ved å kopiere andre - enten de er medlemmer av sin egen gruppe eller hele "befolkningen".
Den relative kumulative hyppigheten av agentenes egenskaper etter nivået av fordommer / Roger M. Whitaker.
"Etter å ha kjørt disse simuleringene tusenvis av tusenvis av ganger på rad, begynte vi å forstå hvordan skjevhet utvikler seg og hvilke forhold som er nødvendige for å kultivere eller forhindre det," sa studiens medforfatter professor Roger Whitaker ved Institute for Crime and Security Research og School of Computer Science and Computer Science ved Cardiff University. "Simuleringene våre viser at skjevhet er en kraftig naturkraft, og gjennom evolusjon kan den stimuleres i virtuelle befolkninger til å skade bredere forbindelser med andre. Beskyttelse mot fordomsfulle grupper kan utilsiktet føre til dannelse av andre fordomsfulle grupper, og provosere større inndeling av befolkningen. Slike utbredte fordommer er vanskelig å reversere.”
Forskningsdataene inkluderer også individer som øker nivået av skjevhet ved å fortrinnsvis kopiere dem som får de beste kortsiktige resultatene, noe som igjen betyr at slike beslutninger ikke nødvendigvis krever spesielle evner.
"Det er helt sannsynlig at autonome maskiner, som er i stand til å identifisere seg med diskriminering og kopiere andre, i fremtiden kan være mottakelige for fenomenene med fordommer som vi ser i samfunnet," fortsetter professor Whitaker. "Mange AI-utviklinger som vi ser i dag involverer autonomi og selvkontroll, det vil si at enhetenes oppførsel også påvirkes av de rundt dem. Nylige eksempler inkluderer transport og tingenes internett. Forskningen vår gir en teoretisk innsikt i hvor simulerte agenter med jevne mellomrom henvender seg til andre for ressurser."
Salgsfremmende video:
Forskerne fant også at under visse forhold, inkludert tilstedeværelsen av mer delte underpopulasjoner i det samme samfunnet, er skjevheter vanskeligere å forsterke.
- Med et stort antall underpopulasjoner kan uvurderlige gruppeforeninger samarbeide uten å bli utnyttet. Det reduserer også minoritetsstatusen mens de reduserer deres mottakelighet for å etablere skjevhet. Imidlertid krever dette også omstendigheter der agenter er mer fordelaktig mot interaksjoner utenfor gruppen deres,”avsluttet professor Whitaker.
Vladimir Guillen
