I oktober valgte Beijing Institute of Technology, en av landets ledende militære forskningsinstitusjoner, 31 tenåringer fra mer enn 5000 søkere. I følge kinesiske myndigheter vil disse ungdommene utvikle en ny generasjon våpen utstyrt med kunstig intelligens (AI) - dette kan omfatte mikroskopiske roboter, datavirus, ubåter, droner, stridsvogner.
Planer som dette er en kraftig påminnelse om retningen som hovedvåpenløpet kan utfolde seg. Økningen i datakraft og forbedring av programmer med selvlæringsalgoritmer skaper nye muligheter for både krig og regjering.
Consultws PwC anslår at bidraget fra AI-drevne systemer til den globale økonomien kan nå $ 15,7 billioner innen 2030, med Kina og USA trolig vil være de ledende aktørene. Den største bekymringen for regjeringer er imidlertid de potensielle militære implikasjonene. På den ene siden er det frykt for å henge etter, på den andre er det frykt for at uprøvde teknologier kan føre til nye farer.
Pentagon-tjenestemenn har bedt Defense Innovation Council - en samling av senior Silicon Valley-tjenestemenn som gir teknisk rådgivning til det amerikanske militæret - om å utvikle et sett med etiske retningslinjer for bruk av AI i krig. Forrige måned kunngjorde Frankrike og Canada opprettelsen av en internasjonal ekspertgruppe for å diskutere lignende spørsmål. Til nå har vestlige stater vært av den oppfatning at viktige beslutninger i en konflikt alltid må tas av mennesker, og datamaskiner og algoritmer ganske enkelt letter implementeringen av dem. Noen land - særlig Russland og Kina - vurderer imidlertid en annen vei.
I fjor rapporterte Russland om dobling av investeringen i AI. Tidligere denne måneden ble det kunngjort at Moskva vil offentliggjøre en ny nasjonal AI-strategisk veikart innen midten av 2019, som av russiske tjenestemenn blir sett på som nøkkelen til å dominere nettområdet og informasjonsoperasjoner. Allerede påståtte russiske "trollgårder" antas å bruke automatiserte sosiale medier-feeds for å fremme desinformasjon.
Eksperter hevder at å bygge et avansert AI-system krever riktig prosessorkraft, tilstrekkelig treningsdata og dyktige utøvere. Som de mektigste autoritære statene i verden har Russland og Kina lignende evner og har til hensikt å bruke AI både for å opprettholde regjeringsposisjoner på deres territorium og for å beseire fiender utenfor det.
Beijing bruker allerede massiv automatisert overvåkning, inkludert programvare for ansiktsgjenkjenning, for å dempe dissens, spesielt i den uiguriske muslimske nordvest. Det er sannsynlig at slike systemer vil bli kraftigere etter hvert som teknologien forbedres. Når det gjelder overvåking av kommunikasjonen til innbyggerne, har Kina (som Russland) mye mindre tvil og reguleringsmekanismer enn vestlige stater.
Vestlige demokratier, og særlig Amerika, har tradisjonelt vært mer dyktige enn diktaturer med å bruke nye teknologier. Når det gjaldt AI, sto imidlertid Washingtons innsats for å bygge bro mellom Silicon Valley og militæret overfor en rekke utfordringer. I juni tvang Google-ansatte selskapet til å trekke seg fra en kontraktsfornyelse med Pentagon. Mange forskere kvier seg for å jobbe med forsvarsprosjekter i frykt for at de etter hvert vil lage ukontrollerbare morderoboter.
Salgsfremmende video:
Imidlertid utvikler USA og dets allierte sine egne autonome våpen. Så i oktober kunngjorde Microsoft stille at den har til hensikt å selge til Pentagon alle avanserte AI-systemer som kreves for å "skape et sterkt forsvar." Ledere i det amerikanske flyvåpenet sier at deres klassifiserte fremtidige streikfly for lang rekkevidde, designet for å erstatte stealth B-2-bombefly, vil kunne operere med eller uten mannskap. Det vestlige militæret investerer mer og mer i selvkjørende lastebiler og andre forsyningskjøretøyer, og søker å tildele mer "skitne, kjedelige og farlige" oppgaver til dem på slagmarken uten å risikere menneskeliv.
Det er ment å bruke "svermer" av droner, når mange ubemannede luftkjøretøyer kontrollerer seg selv. Når det gjelder drone versus dronekamper, har vestlige ledere ingen problemer med å la ubemannede systemer ta sine egne beslutninger. Men hvis mennesker er involvert i kamp, krever det amerikanske forsvarsdepartementet at beslutninger tas av mennesker. Slik kontroll kan imidlertid bli mer og mer vanskelig, spesielt hvis fiendens automatiserte systemer tar beslutninger mye raskere enn mennesker.
Det er forventet at i begynnelsen av 2020-tallet vil store kinesiske ubemannede ubåter som kan frakte våpen befinne seg i verdens hav. Deres mål vil være fiendtlige styrker i omstridte områder som Sør-Kinahavet. Slike skip kan reise store avstander uten å bli lagt merke til det i lengre tid. For øyeblikket argumenterer kinesiske forskere for at det vil være opp til folk å bestemme seg for angrepet, men kanskje er dette ikke helt sant. Pentagon rapporterte i januar i fjor at Russland også bygger store ubemannede atomubåter, muligens i stand til å frakte atomvåpen.
I tillegg favoriserer både Moskva og Beijing ubemannede robottanker, med Russland som allerede har testet den siste utviklingen i Syria. Slike systemer kan komplisere vestlige befalere betydelig ved å ta beslutninger om å bestemme mål på slagmarken på grunn av manglende forståelse for om folk befinner seg i kamputstyr. Feil kan føre til at en konflikt starter eller den kraftige forverringen.
Etter det angivelige programmet til Beijing Institute of Technology ble angivelig valgt de tenåringene som uttrykte "beredskap for kamp." Denne prioriteringen kan være veldig farlig gitt at teknologien er undertestet og ødeleggende.
Natalia Golovakha
