Forfatteren er bekymret for robotenes voksende rolle i krigføring. Siden 1991, siden Gulfkrigen, har de hjulpet generalene. Og nå er det opprettet en "killer robot" - en maskin som uavhengig tar en beslutning om å ødelegge fiender, hvis dette er i samsvar med den generelle politikken til "kontrollsenteret".
Kunstig intelligensutvikler DeepMind har kunngjort en nyhet - en bot som heter AlphaStar, som skal spille den populære online-strategien Starcraft-2 på stormesternivå.
Dette er ikke første gang en bot slår folk i et strategisk krigsspill. I 1981 vant et program kalt Eurisko, utviklet av en av pionerene innen kunstig intelligens, Doug Lenat, US Traveller Championship, et svært sammensatt strategisk krigsspill der spilleren må fullføre sin flåte og kjempe mot fiendens flåte. Eurisko ble til slutt tildelt tittelen Honour Admiral Traveller. I 1982 ble turneringsreglene endret i et forsøk på å hindre datamaskinen. Men Eurisko vant alle i to år på rad. Etter at sponsorer lovet å avlyse turneringen hvis datamaskinen vinner igjen, trakk Lenat seg tilbake.
DeepMind PR vil at du skal tro at StarCraft "dukket opp av konsensus som den neste store utfordringen (i PC-spill)" og "har vært en utfordring for AI-utviklere i over 15 år."
I det siste Starcraft Championship var det bare 4 søknader som ble sendt inn fra akademiske eller industrielle forskningslaboratorier. De andre ni bots ble skrevet alene av enkeltpersoner, og ikke som en del av mainstream av forskning på kunstig intelligens (AI).
Antall forfattere (42) av DeepMind-artikkelen, publisert 31. oktober i Nature, overstiger faktisk antallet mennesker som jobber med Starcraft-roboter i resten av verden. Jeg vil ikke overskygge suksessen med dette ingeniørsamarbeidet, men hvis du investerer nok ressurser i å løse problemet, er suksess garantert.
I motsetning til de siste seirene i datasjakk, har AlphaStar ikke blitt trent av å spille mot seg selv. Han lærte dette ved å imitere de beste episodene fra nesten en million spill spilt av de aller beste menneskelige spillerne. Før dette led AlphaStar et ubestridelig nederlag i 19 av 20 slagsmål, og spilte med virkelige mennesker på StarCraft-spillserveren. AlphaStar spilte anonymt for å forhindre at folk utnyttet svakheter som kan ha blitt funnet i tidligere spill.
I desember i fjor beseiret AlphaStar en av verdens beste profesjonelle spillere - Grzegorz MaNa Komincz. Men det var en versjon av AlphaStar med reflekser som var betydelig raskere enn menneskelige, og også med ubegrenset visjon av spillefeltet (i motsetning til menneskelige spillere som bare ser en del av det om gangen). Det kan knapt kalles et jevnt spillfelt.
Salgsfremmende video:
StarCraft har imidlertid noen funksjoner som gjør AlphaStar til en imponerende utvikling, om ikke et reelt gjennombrudd. I motsetning til sjakk eller det østlige go-spillet (et strategispill som bruker et 361-felt brett - red.), Har StarCraft-spillerne en ufullkommen forståelse av tingenes tilstand i spillet, men antallet mulige handlinger i det er mye større. Og StarCraft-kamp skjer i sanntid, men krever langsiktig planlegging.
Robot Wars
Spørsmålet melder seg - vil vi se fremover hvordan roboter ikke bare deltar i kriger, men også planlegger dem? Faktisk skjer begge deler allerede.
Til tross for mange advarsler fra forskere av kunstig intelligens (som meg selv), grunnleggerne av robottekniske selskaper, nobelprisvinnere og kirkeledere, er et fullstendig autonomt våpen kjent som en "killer robot" allerede opprettet og vil snart bli brukt.
I 2020 vil Tyrkia distribuere kamikaze-droner på grensen til Syria. Disse dronene vil bruke datasyn for å identifisere, spore og drepe mennesker uten menneskelig innblanding.
Dette er en forferdelig utvikling. Datamaskiner har ikke den moralske evnen til å ta en moralsk balansert avgjørelse om hvem som skal leve og hvem som skal dø. De mangler empati eller medfølelse. Drapsmotorer vil endre selve konfliktens natur til det verre.
Hva med "robotgeneraler"? Datamaskiner har hjulpet generaler med å planlegge krig i flere tiår. Tilbake på begynnelsen av 1990-tallet, under Operation Desert Storm under Gulf War, ble verktøy for kunstig intelligens (AI) brukt til å planlegge en oppbygging i Midt-Østen før konflikten. En amerikansk general fortalte meg kort tid etter at beløpet som ble spart var lik summen av alt som var brukt på AI-utvikling før.
Generelle bruker også datamaskiner for å utvikle multivariate militære strategier som plutselig kan være nødvendige. Men vi overlater ikke alle avgjørelser på slagmarken i en soldats hender, derfor går det for langt å skifte alt ansvar fra generalens hjerne til datamaskinprosessoren.
Maskinen kan ikke holdes ansvarlig for sine beslutninger. Bare mennesker er ansvarlige. Og dette er hjørnesteinen i internasjonal humanitær rett. Generaler vil imidlertid i økende grad stole på datamaskinstøtte i sine beslutninger om å bryte gjennom krigens tåke og håndtere den enorme mengden informasjon som kommer fra fronten.
Hvis dette resulterer i færre sivile tap, mindre vennlig brann og større respekt for internasjonal humanitær rett, bør vi ønske slik datahjelp. Men den endelige avgjørelsen må tas av mennesker, ikke maskin.
Her er et siste spørsmål å tenke på. Hvis teknologiselskaper som Google virkelig ikke vil at vi skal frykte et maskinopprør, hvorfor bygger de derfor roboter for å vinne virtuelle kriger i stedet for å fokusere på noe mer fredelig som fredelige elektroniske spill? Med all respekt til sportsfans må vi innrømme at innsatsen til ikke-krigsspill kommer langt lavere ut.
Toby Walsh er professor i kunstig intelligens ved University of New South Wales og Data61-forskningsmiljøet.
