Teoretisk fysiker Stephen Hawking og Tesla Motors grunnlegger Elon Musk har godkjent en rekke prinsipper som skal sikre at kunstig intelligens (AI) ikke skader mennesker og kun tjener det gode. Silicon Valley Business Journal rapporterer.
Denne pakten er nødvendig for å sikre menneskers sikkerhet, samt for å svare på mange spørsmål angående AI. Musk er trygg på at AI potensielt kan være farligere enn atomvåpen. Hawking har også en lignende oppfatning og hevder at AI kan ødelegge menneskeheten. Begge erkjenner imidlertid at AI vil hjelpe mennesker med å løse mange problemer - for eksempel kurere kreft eller redusere global oppvarming.
Overholdelse av alle 23 prinsippene bør sikre at AI bare tjener gode formål. De er delt inn i tre kategorier: Forskningsspørsmål, etikk og verdispørsmål og langsiktige spørsmål. Den første kategorien inkluderer svar på spørsmålene som skaperne av AI står overfor, inkludert hvordan finansieringen skal fortsette. Den andre kategorien berører sikkerhetsspørsmål og måter å nøytralisere trusselen på. Den tredje beskriver mulige risikoer som menneskeheten kan møte når AI når sitt høydepunkt og den såkalte superintelligensen dukker opp.
Disse prinsippene ble utviklet på en konferanse om AI-diskusjon tidlig i januar 2017. DeepMind-sjef Demis Hassabis bidro til skrivingen.
