Nyheten om at automatisering før eller siden vil begynne å massivt frata folk jobben sin og etterlate dem bak gjerdet av sosialt bruk, vil sannsynligvis ikke fremkalle positive følelser hos en person som ser fremover. Programmer som "The Terminator" eller for eksempel den ferske "World of the Wild West" tilfører drivstoff til bålet, som også bidrar til den felles sparegrisen, men fra synspunktet om å utvikle "uvennlig" kunstig intelligens.
Er denne frykten ekte? Kan være. Eller kanskje er dette bare forebygd hysteri. Men det som det er, instituttet for elektriske og elektroniske ingeniører (IEEE) mener at utviklingen av AI- og automatiseringssystemer må "være i samsvar med full respekt og overholdelse av menneskets moralske verdier og etiske prinsipper."
Instituttet presenterte ideene sine i form av et 136 sider langt dokument med tittelen "Ethically Allined Design", som er en slags "standard" for design, produksjon og utvikling av roboter og kunstig intelligens. Dokumentet ble utviklet med bistand fra over 100 verdenseksperter innen AI, jus, etikk, filosofi og politikk. Med andre ord, med deltagelse av de mest fremtredende akademikere, forskere og representanter for regjeringssektoren.
Ved å gi eksperter og utviklere beste fremgangsmåter for å bygge automatiserte og intelligente produkter, tjenester og systemer som respekterer våre etiske menneskelige prinsipper, vil vi være i stand til å håndtere vår frykt for disse teknologiene og fokusere på fordelene disse teknologiene kan gi menneskeheten. ikke bare i fremtiden, men i dag, sier Konstantinos Karachalios, administrerende direktør i IEEE Standards Association, i en uttalelse.
IEEE bemerker at initiativet er helt åpent og at de er klare for forslag og diskusjoner om spørsmål av interesse fra ingeniører, utviklere og designere av automatiseringssystemer og AI-utvikling. Samtidig er de klare til å føre en fullverdig dialog, siden tilbakemeldinger om dette problemet er et av de viktigste aspektene i utviklingen av de omtalte standardene.
Når det gjelder forslagene beskrevet i selve dokumentet, inkluderer de hensyn til forskning og utviklingsmetodikk; beskriver bekymring for opprettelsen av "svarte bokser". Med andre ord advarer dokumentet AI og automatiseringsindustrien mot proprietær utvikling.
Salgsfremmende video:
Fra et mer grunnleggende synspunkt reiser det IEEE foreslår flere interessante spørsmål på en gang, hvorav det viktigste kanskje er følgende: kan moral i det hele tatt programmeres? Er det virkelig mulig å tilpasse AI- og automatiseringsteknologier til "standardene og menneskelige og sosiale verdiene" som IEEE-dokumentet viser til?
Imidlertid insisterer IEEE på viktigheten og nødvendigheten av standarder. Tross alt, takket være dem, vil vi kunne være sikre på at folk ikke vil lide til slutt når de oppretter og utvikler nye teknologier.
“Standardene vil kunne gi industriell kontroll av intelligente og autonome teknologier. Intelligente systemer blir mer komplekse, og derfor kan deres uprogrammerte oppførsel bli farlig. For å løse dette problemet er det nødvendig med tilsyn med prosedyren for utvikling av intelligente og autonome systemer."
Forskere og utviklere som er involvert i utvikling og implementering av autonome og intelligente systemer, må møte et mer progressivt og komplekst sett med samsvarstiltak for moralske og tekniske sikkerhetsspørsmål. Derfor vil de måtte tilnærme seg arbeidet sitt mer ansvarlig”.
Hvis du ser på situasjonen som helhet, har IEEE tatt et veldig viktig og faktisk nødvendig skritt mot "humanisering" av autonome og intelligente systemer.
NIKOLAY KHIZHNYAK
