Superintelligente datamaskiner eller roboter som truer eksistensen av den menneskelige rase er et favorittplott av science fiction. I virkeligheten kan et slikt dommedagscenario ifølge forskere bare forhindres ved å opprette et virtuelt "fengsel" for å inneholde kunstig intelligens (AI). Og dette må gjøres før han lærer å være klar over og forbedre seg selv.
Hvis du slipper denne slekta ut av flasken, så fra et orakel som løser problemene våre, kan det bli til en apokalyptisk trussel, sier Roman Yampolsky, dataforsker ved University of Louisville, Kentucky. Forholdene der AI vil være inneholdt, må planlegges nøye, slik at den ikke kan slippe fri gjennom trusler, bestikkelser, fristelser eller hacking av datamaskiner.
"Han kan finne på mange måter å påvirke, sveve en kompleks sosio-ingeniørkombinasjon og bruke eksisterende maskinvarekomponenter til formål som vi ikke en gang kan forestille oss," mener Yampolsky. - Slik programvare har ubegrensede muligheter for å infisere datamaskiner og nettverk. AI kan finne måter å påvirke den menneskelige psyken, bestikkelse eller utpressing som er i kontakt med den."
Fremveksten av et nytt område av vitenskapelig forskning som håndterer problemet med å opprette et "fengsel" for kunstig intelligens har ytterligere fordeler. Disse studiene er veldig nyttige for å forbedre datasikkerhet og kryptografi, er Yampolsky sikker på. Forslagene hans ble detaljert beskrevet i marsutgaven av det akademiske tidsskriftet Journal of Consciousness Studies.
Slik setter du opp en felle for Skynet
For det første kan du legge ved kunstig intelligens i en "virtuell maskin". La det fungere i et normalt operativsystem - begrensning av AI-tilgang til programvaren og maskinvaren til vertsdatamaskinen vil gjøre det mye mer ufarlig. Uansett vil ikke smart AI kunne sende hemmelige meldinger til sine menneskelige støttespillere, og slår av Morse-koden med avkjølende fans.
Å sette kunstig intelligens i en datamaskin uten Internett-tilgang er en god måte å hindre AIs lumske planer for å beskytte jorden mot deg og meg. I tilfelle annen feil, kan forskere alltid bremse AI-prosessen ved å bremse prosesseringshastigheten til datamaskinen, regelmessig trykke på tilbakestillingsknappen eller koble AI-en fra strømforsyningen.
Salgsfremmende video:
Disse sikkerhetstiltakene er designet for å håndtere svært intelligente og farlige datavirus, men hvor effektive de faktisk viser seg å være, er det noen som antar.
Catch-22 (roman av den amerikanske forfatteren J. Heller; ca. Mixednews) er at vi ikke kan gjennomføre fullskala testing av ideene våre før utviklingen av AI er fullført. Men for å gjøre AI trygt, er det nødvendig å utvikle et sett med passende tiltak, sier Yampolsky. "Det beste alternativet er å innføre begrensninger i bruken av AI-systemer og deretter, om nødvendig, endre disse begrensningene i samsvar med de økende mulighetene til AI."
Forskeren Roman Yampolsky foreslo å bruke "@" -skiltet eller andre tegn som brukes i dag for å betegne en stråling eller biologisk trussel for å indikere tilstedeværelsen av en fare forbundet med kunstig intelligens.
Sett aldri en menneskelig sikkerhetsvakt på kjøretøyet
Under en tilsynelatende uskyldig samtale med en sikkerhetsvakt vil ingenting hindre AI i å bruke psykologiske teknikker som vennskap eller utpressing. En person kan bli bestukket ved å love ham perfekt helse, udødelighet eller til og med et løfte om å returnere slektninger og venner fra den andre verdenen. Eller oppnå noe med trusler.
Den tryggeste måten å kommunisere med AI er å få det til å velge et svar fra de mange tilgjengelige alternativene når du løser et spesifikt vitenskapelig eller teknisk problem, forklarer Yampolsky. Dette vil bidra til å holde det supersmarte orakelet i kort bånd.
Mange forskere mener at til tross for alle forholdsregler, vil det ikke fungere å holde AI-smartass låst på ubestemt tid. Det siste eksperimentet til Eliezer Yudkowsky, en forsker ved Institute of Singularity on the creation of Artificial Intelligence, viste at selv menneskelig intelligens kan lure en person og "flykte" fra fengsling.
Likevel insisterer Yampolsky på å holde AI i streng isolasjon - det er fremdeles bedre enn å gi opp og gi den fullstendig frihet. Men hvis utviklingen av AI når det punktet hvor den kan manipulere en person som bruker underbevisstheten (forutsi fremtiden), telepati eller telekinesis, vil konsekvensene være uforutsigbare.
"Hvis en slik AI vil forbedre seg selv og nå et nivå som vesentlig overstiger evnene til menneskelig etterretning, kan ikke engang forestille seg konsekvensene," advarer Yampolsky.
