Forskere og programmerere har sluttet å forstå hvordan kunstig intelligens tar beslutninger. Dette problemet ble kunngjort av flere spesialister på hovedkonferansen for AI - Neural Information Processing Systems - som ble holdt i Long Beach (California).
Eksperter som er intervjuet av Quartz sier at de må handle før systemet blir for komplisert.
"Vi ønsker ikke å ta AI-avgjørelser for gitt uten å forstå deres logikk," sier Jason Yosinski fra Uber. "For at samfunnet skal godta maskinlæringsmodeller, må vi vite hvordan AI kommer frem til bestemte konklusjoner."
Problemet som mange eksperter kaller "den svarte boksen" er virkelig alvorlig. Tidligere erfaring har vist at AI har en tendens til å ta partiske avgjørelser og trekke analogier der de ikke burde. Ettersom nevrale nettverk i dag gradvis infiltrerer rettshåndhevelse, helsevesenet, vitenskapelig forskning og algoritmene som avgjør hva du ser på Facebook-nyhetsfeeden din, kan AI-feil være veldig kostbart.
Som et eksempel siterer Kiri Wagstaff, en AI-ekspert ved Jet Propolusion Lab (NASA), et oppdrag til Mars. Enhetene ligger 200 millioner miles fra Jorden og koster hundrevis av millioner av dollar, så eventuelle feil i AIs arbeid er ganske enkelt uakseptable.
- Folk trenger å vite hva AI gjør og hvorfor. Ellers, hvordan kan de stole på ham til å kontrollere dyrt utstyr?”Sier Wagstaff.
For øyeblikket jobber forskeren med en algoritme som sorterer bilder tatt av forskjellige NASA-romfartøyer. Siden antallet bilder er i millionbeløp, lar datamaskinen deg sortere og fremheve de mest interessante uten å bruke mye tid på denne prosessen. Problemet ligger imidlertid i det faktum at ofte bare AI alene vet hvorfor visse bilder den velger er uvanlige.
Dermed konkluderer Wagstaff, hvis det er en feil i denne algoritmen, en dag kan det gå glipp av veldig viktig informasjon.
Salgsfremmende video:
I utgangspunktet gir datamaskinen deg et bilde og sier: 'Se, dette er interessant.' Men du kan ikke alltid forstå hvorfor det er interessant: på grunn av fargen, formen på objekter eller deres plassering i rommet - du vet sannsynligvis ikke dette, sier forskeren.
Hannah Wallach, seniorforsker ved Microsoft, er enig i kollegaenes konklusjoner.
Når maskinlæring blir mer utbredt og innsatsen øker, kan vi ikke lenger se på disse systemene som svarte bokser. Vi må forstå hva som skjer inni dem og hva de gjør, sier forskeren.
Forskere prøver heldigvis å finne metoder for å forstå logikken til kunstig intelligens. Dermed presenterte Google-forsker Mitra Raghu en rapport som beskriver prosessen med å spore handlingene til individuelle "nevroner" i et nevralt nettverk. Ved å analysere millioner av operasjoner klarte hun å finne ut hvilke av de kunstige "nevronene" som fokuserte på misoppfatninger, og slå dem av. Dette beviser at å oversette arbeidet til nevrale nettverk til en form tilgjengelig for menneskelig forståelse ikke er en så umulig oppgave.
Et annet alternativ for å løse problemet er å regelmessig teste ferdighetene utviklet av kunstig intelligens.
"Det er som skolelærere som ber barn om å fortelle med egne ord hva de forsto ut fra lærerens forklaring," sier Wagstaff.
Når det er sagt, er viktigheten av å forstå internalternativene i algoritmen ikke bare for å forhindre at en hypotetisk rover faller av en martinsk bergart; innser du hva feilen er, kan du gjøre eksisterende systemer enda bedre.
"Hvis systemet ditt ikke fungerer, og du ikke vet hvorfor, er det veldig vanskelig å gjøre noe med det," sier Yosinski. "Hvis du vet hva som skjedde, kan situasjonen alltid rettes opp."
Brukte materialer fra nettstedet hightech.fm
