Hvordan datamaskiner tar rare beslutninger
Kunstig intelligens utvikler seg så raskt at mange begynner å føle angst: hvis det snart vil være i stand til å oppleve følelser og ta sine egne beslutninger. Enten det er en bot, et autonomt kjøretøy eller en beslutningstaker innen næringsliv og vitenskap: kunstig intelligens trenger inn i alle områder av livet og samfunnet vårt. Maskinhjerner blir ansett som logiske, uemosjonelle og upartiske, men praksis viser at de ikke alltid bestemmer alt med et åpent sinn.
Kunstig intelligens er uunnværlig der det er viktig å gjenkjenne mønstre i store datamengder og ta beslutninger basert på dem. Men i fremtiden kan kunstige intelligenssystemer også brukes i områder der vårt velvære og til og med livene våre direkte er avhengig av konklusjoner - innen medisin, i valg av jobber, i utstedelse av lån og i rettferdighet.
Hvor objektivt og moralsk riktig tar kunstig intelligens en beslutning? Kan vi virkelig stole på maskinhjernen til å ta så potensielt viktige avgjørelser?
Kunstig intelligens brukes på alle områder
Selv nå brukes adaptive algoritmer på mange områder i vårt daglige liv. Det er digitale assistenter for å forstå stemmekommandoer og spørsmål. På Internett hjelper nettbots å vedlikeholde og kontrollere nettsteder slik at de er vanskelige å skille fra mennesker. Selv når falske nyheter og bildemanipulasjoner blir oppdaget, er kunstige intelligenssystemer involvert.
Salgsfremmende video:
AI-systemer gjør også jobben sin i industri, næringsliv og til og med myndigheter. De optimaliserer og kontrollerer produksjonsprosesser, regulerer logistikken til containerhavner og store lager eller opprettholder regnskap. Forsikringsselskaper og banker har allerede de første intelligente programmene for å sjekke innsendte søknader eller ta beslutninger om utbetalinger. Hos Ikea, Deutsche Telekom og mange andre selskaper, UNICEF eller biblioteker, er virtuelle assistenter involvert i kundeservice.
Stor mengde data behandlet for trening
Alt dette er mulig takket være muligheten til AI-systemer til raskt å analysere enorme datamengder, for å identifisere mønstre og korrelasjoner. For eksempel lærer algoritmen fra utallige bilder av kjæledyr med matchende navn. Etter en treningsperiode kan systemet velge helt nye fotografier av ønsket art. Den gjenkjenner forskjellene på egen hånd.
Mange andre AI-systemer bruker tekst som grunnlag for læring. De vurderer konteksten et ord står i og studerer dets semantiske betydning, samt forhold til lignende ord eller synonymer. Disse semantiske forholdene oversetter programmer til matematiske uttrykk og lærer til og med komplekse semantiske kontekster.
Det er bare takket være denne evnen at kunstig intelligens for eksempel kan evaluere medisinske data og medisinske journaler og utlede kjennetegn ved kliniske bilder fra dem. Basert på disse resultatene brukes AI-systemer allerede som diagnostiske hjelpemidler, de kan gjenkjenne forskjellige typer kreft, tegn på Alzheimers sykdom, suicidale forhold og farlige sukkernivåer i diabetes.
Men så attraktivt som det høres ut, mer og mer AI har en stor ulempe. Jo videre kunstig intelligens penetrerer praktisk talt alle samfunnsområder, jo større blir de potensielle konsekvensene av beslutningene. Den økonomiske eller profesjonelle fremtiden til en person, eller til og med hans liv, avhenger av hans skjønn.
AI-løsninger som kan koste liv
For eksempel, hvis en AI feildiagnostiserer medisin uten å bli avhørt, kan pasienten gjennomgå feil behandling eller til og med dø. Militæret bruker et autonomt våpensystem som tar gale avgjørelser. For eksempel kan ikke AI skille en flyktende venn fra en fiende, den uskyldige dør.
AI-algoritmer brukes allerede ved domstoler i USA. De spår sannsynligheten for tilbakevending for lovbrytere i retten. Deres vurdering påvirker ofte avgjørelsen fra retten og følgelig dommen til den domfelte.
Hvis AI bestemmer for lån
På samme måte kan en avgjørelse innen finans og forsikring påvirke om en person får lån eller ikke. Disse systemene trenes vanligvis ved bruk av databaser.
Og her leter AI etter mønstre: hvilke mennesker betaler vanligvis tilbake lånene sine, og hvilke gjør ikke det? Han utvikler sine vurderingsprosedyrer og tar passende beslutninger. Spesielt betyr dette at personer med feil bosted eller yrke ikke vil få lån, uansett hvor mye de er villige til å betale, til tross for disse omstendighetene.
Med en slik ansvarsfordeling med datamaskiner, vil en person bare være en assistent for utførelsen av beslutninger fra cyber-hjerner. Og dette skjer allerede.
Hvem er ansvarlig for feil?
Et annet problem i utviklingen av AI: jo mer komplekse beslutningsprinsipper, desto vanskeligere er det for mennesker å forstå dem. Det reiser også spørsmålet om hvem som er ansvarlig for feil.
Tilfeller av ulykker når du kjører biler på autopilot er blitt hyppigere: hvem har skylden i at noen situasjoner ikke er lagret i minnet eller AI trekker gale konklusjoner. Eller kanskje gjør han sine egne konklusjoner? Det er allerede slike eksempler.
Å spille bots har utviklet sine egne regler i løpet av spillet
For denne studien tillot forskerne 100 smarte roboter å samhandle med hverandre i et konsesjonsspill. Hver av dem må bestemme om de donerer noe til noen fra laget deres eller til en deltaker i spillet utenfra.
Overraskende nok, over tid, har roboter blitt mer og mer ekskludert fra utenforstående grupper og gir bare til teammedlemmene sine.
Årsaken til dette: smarte roboter tilpasset spillstrategien sin, og kopierte oppførselen til kameratene som samlet inn mest penger og var de mest vellykkede. Dermed dukket det opp grupper av roboter som oppførte seg på samme måte og utelukket konsekvent ikke-relaterte spilldeltakere. Ved konstant å skape noe som beregner, analyserer og tar beslutninger raskere enn det, vil menneskeheten en dag miste kontrollen over skapelsen, hvis handlinger den ikke vil kunne følge med på.
Ifølge forskere er dette åpenbart: kunstig intelligens trenger ikke kunstig data for å være partisk, det er nok å ha andre maskiner rundt seg. For til og med dette kan skape et gruppesinn som er kjent fra menneskelige samfunn. Derfor, ved bruk av AI, bør folk overlate beslutningen til seg selv.
Vasilik Svetlana
