Tidligere i år signerte 116 tekniske armaturer et åpent brev som ba FN om å forby "dødelige autonome våpensystemer." De mener at slike kan føre til væpnede konflikter av enestående proporsjoner. The Independent bemerket at "dette er første gang eksperter på kunstig intelligens og robottekniske selskaper har tatt en felles beslutning om dette problemet."
Men ikke alle observatører er så bekymret. Andrew Ng, som inntil nylig jobbet som sjefforsker ved Baidu, kom til den konklusjonen at det å bekymre seg for draproboter er som å bekymre seg for overbefolkning på Mars, og vi får nok tid til å innse dette.
I de tidlige årene av det 21. århundre var det få temaer som genererte mer interesse eller debatt kraftigere enn kunstig intelligens, og begynte selv med selve forståelsen av begrepet. I mars bemerket en observatør at "det er omtrent like mange definisjoner av AI som det er forskere som utvikler denne teknologien." Robbie Whiting, grunnlegger av konsulentselskapet Junior, hevder at "AI ikke bare er et slagord - det kommer til å forandre verden."
Mens det finnes overdrivelse, gjenoppbygger AI allerede hele bransjer som transport, økonomi og helsetjenester. Facebooks CTO mener AI "kan løse problemer i verdensomspennende skala." Elon Musk argumenterer i mellomtiden for at "AI utgjør en grunnleggende risiko for eksistensen av menneskelig sivilisasjon." De fleste teknologier er verken nyttige eller skadelige - det som betyr noe er hvem som bruker dem og hvorfor.
Få er uenige i at AI utvikler seg mye raskere enn vi prøver å forstå dens komplekse natur, flere aspekter og vidtrekkende implikasjoner for nasjonal sikkerhet. I en fersk rapport fra Gregory Allen og Thaniel Chan, studenter ved Harvard University, er det en oppfordring til regjeringen om å opprette noe som et RAND-selskap for AI.
RAND-forskere abonnerer på sin side på ordene fra Harvard-teamet.
De foreslår å vurdere fire områder der virkningen av AI kan være betydelig, men usikker.
Kampanjevideo:
Arbeidsplasser
Kai Fu Lee, styreleder i SinovationVentures, mener at AI er "rettet mot store jobbnedskæringer", samtidig som konsentrasjonen av rikdom konsentreres i selskapene som utvikler eller adopterer AI. Andre mener lignende frykt var til stede med fremkomsten av alle verdensendrende teknologier helt ned til trykkpressen på 1400-tallet.
The Economist overbeviser leserne om at "AI skaper etterspørsel etter jobber", og et økende antall mennesker over hele verden "leverer digitale tjenester på Internett." Hvilke selskaper og land vil trives i AI-tiden? Hvilke segmenter vil forsvinne, endre, bli opprettet? Hvordan vil arbeidets natur endre seg?
Krigføring
Tilhengere av kampdroner hevder at slike våpen kan treffe mål med mye høyere nøyaktighet enn mennesker; og jo større rolle de spiller i krigsteatret, jo sjeldnere vil teknikerne bruke dem til å skade.
Men hva om et slikt våpen blir uavhengig og fungerer uavhengig, uten menneskelig inngripen? Vil fjerning av folk fra militærpersonellisten føre til et enda strengere og ustoppelig våpenkappløp?
Et åpent brev, publisert under den internasjonale samarbeidskonferansen om kunstig intelligens i 2015, advarte om at autonome våpen "ikke krever dyre eller vanskelig å finne råvarer, så de vil bli allestedsnærværende og billig for alle viktige militære styrker å masseprodusere." Vil epoken med automatiserte våpen være mer fredelig eller mer krigførende?
RAND-forskere etterlyser et analytisk rammeverk og internasjonal innsats for bruk av langdistanse kampdroner for å bekjempe terrorisme og målrettede attentater.
Å ta avgjørelser
Politikere blir stadig konfrontert med et utall valg og motiver - det er mange flere i sosiale medier enn for tjue år siden. Slik overbelastning av informasjon tillater ikke å takle situasjonen under en krise, for ikke å nevne flere kriser.
Nylig var det et forslag om å føre "alle beslutninger som ble tatt av presidenten gjennom datamaskinen - ikke for å ta det endelige valget, men for å hjelpe lederen i personen til en person."
Men mens AI i stor grad er syndfri akkurat nå, fremhever RAND-forskning risikoen for algoritmisk skjevhet i filtrering av nyheter, innvirkning på strafferettslige forhold og til og med å gi trygdeytelser og utstede visum. Hvilke avgjørelser bør tas for AI? Hva skal være igjen i hendene på en person? I hendene på et team av mennesker?
Opprettelse
Verden er vant til kunstig intelligens som kan utføre spennende beregninger og slå folk i populære brettspill (litt over 20 år har gått siden IBMDeepBlue superdatamaskin berømte beseiret sjakk stormester Garry Kasparov). Hvordan vil han fortsette å utvikle seg i det kreative rommet for mennesker?
Forsker av kunstig intelligens Jesse Engel tror han vil "transformere den kreative prosessen … med smarte verktøy som gir nye måter å uttrykke." Andre er ikke så optimistiske. Journalisten Adrienne Lafrance bemerker at AI allerede kan "flørte", "skrive romaner" og "falske berømte malerier med utrolig nøyaktighet." Hva betyr det å være kreativ? Dessuten, hva betyr det å være menneske?
AI-diskusjoner går ofte til ekstremer, enten det er løftet om en utopi uten menneskelig lidelse, eller farene ved en dystopi der roboter treller sine menneskelige skapere. En mer balansert og streng analyse er nødvendig for å bidra til å utforme politikk for å redusere risiko og maksimere fordelene. Visse skritt må tas for å overvinne frykten for at AI vil fungere for staten og samfunnet.
Hvordan kan AI påvirke et lands nasjonale interesser? Hvilke typer AI, hvis noen, kan betraktes som strategiske teknologier basert på myndigheters kriterier? Hvor skal markedskreftene spille, og hvor er politikk? Mens AI fortsatt i stor grad er et science fiction-domene, får disse problemene mer og mer betydning.
Ilya Khel
