Temaet avansert kunstig intelligens (AI) i fremtiden bærer vanligvis med seg viss frykt - for eksempel at den vil være i stand til selvlæring og bli så utviklet at mennesker ikke lenger vil være i stand til å forstå den. I gale hender, og til og med på egen hånd, kan en så avansert algoritme overta regjeringer og hærer, introdusere orwellske metoder for overvåking og manipulasjon, etablere kontroll over samfunnet og til og med kontrollere en hær av autonome kampdroner på slagmarken.
Men noen AI-eksperter ser ikke på frykten som gyldig. Faktisk kan en høyt avansert AI være bedre i stand til å styre verden enn mennesker. Slike frykt er i seg selv farlige fordi de kan forhindre oss i å realisere en slik mulighet.
"Kanskje mangelen på AI er en fare for menneskeheten," sa Facebook-AI-forskeren Thomas Mikolov på en konferanse i Praha om utfordringene med å skape AI på nivå med menneskelig intelligens.
Mikolov forklarer at mennesker, som art, er veldig svake når det gjelder å ta langsiktige beslutninger om å gi gunstige resultater. Mennesker har ryddet regnskoger for å utvinne råvarer, og ikke er klar over (eller ikke interessert) at de ved å gjøre det har bidratt til nedbrytningen av planeten vår - kanskje irreversibelt.
Men et avansert AI-system kan beskytte menneskeheten mot sin egen kortsiktighet.
- Folk er dårlig i stand til å forutse den fjerne fremtiden, si 20-30 år frem i tid. Kanskje ved å lage en AI som er mye smartere enn vi er, kan vi hjelpe oss med å unngå fremtidig katastrofe."
Naturligvis tilhører Mikolov et mindretall forskere som tror at en høyt utviklet AI vil være velvillig. Under konferansen uttrykte mange foredragsholdere utbredt frykt for AI, oftere i forbindelse med dens mulige bruk til farlige formål av ondsinnede aktører, hvis fare ikke bør undervurderes.
Vi vet ikke sikkert om det vil være mulig å lage en generell AI som er i stand til å utføre noen tankeoppgave tilgjengelig for mennesker, og kanskje enda bedre enn dem.
Salgsfremmende video:
Framtiden til avansert AI ser lovende ut, men den vekker mange etiske bekymringer. Vi vet ikke engang alle spørsmålene som må besvares.
Likevel var de fleste av deltakerne på Praha-konferansen enige om at reglene må utarbeides før de trengs. Allerede er det nødvendig å opprette internasjonale traktater, etiske komiteer og regulerende organer hos regjeringer, selskaper og vitenskapelige miljøer. Implementering av slike institusjoner og protokoller vil redusere sannsynligheten for at en fiendtlig regjering, en uforsiktig forsker eller til og med en virkelig sinnssyk "forsker" vil utløse ondsinnet AI eller bruke en kompleks algoritme på en annen måte som et våpen. Og i verste fall vil vi ha rettsmidler.
Ved å innføre nødvendige regler og forholdsregler, vil vi kunne leve i harmoni med høyt utviklet AI i fremtiden; kanskje en dag vil han til og med redde oss.
Vadim Tarabarko
