Kunstig intelligens vil snart utvikle seg til nivået av intelligens hos mus eller hunder, noe som utgjør et etisk problem for samfunnet.
Det er på tide å vurdere om kunstig intelligens fortjener den etiske beskyttelsen som samfunnet gir dyr, og under hvilke forhold det skal motta den, oppfordrer Aeon-utgaven. Dette problemet må løses før vi kan lage AI lik eller overlegen mennesker.
Det er allerede mange samfunn og utvalg verden over for å sikre at dyr ikke ofres unødig og unødig lidelse. Når menneskelige stamceller eller menneskelige hjerneceller brukes under forskning, er de etiske kravene enda strengere. Den etiske siden ved bruk av kunstig intelligens er ennå ikke studert på noen måte, mye mindre kontrollert. Kanskje det skulle være slik.
Det kan antas at AI ikke fortjener den typen etisk beskyttelse som mennesker og dyr gis på grunn av mangel på bevissthet og følelser, som glede eller lidelse. Kanskje. Men så blir vi møtt med et vanskelig filosofisk spørsmål: hvordan vet vi at vi har skapt noe som er i stand til å oppleve glede og lidelse? Hvis AI er avansert nok til å klage og forsvare sine rettigheter, er det en ting. Men hva hvis han er som intellektet til en mus eller en hund og ikke kan fortelle om sine opplevelser?
Her oppstår et problem, siden de i vitenskapen ennå ikke har kommet til enighet om hva bevissthet er, og hvordan de kan avgjøre om den er til stede eller ikke. Det antas at eksistensen av bevissthet bare krever en viss type velorganisert informasjonsbehandling: en fleksibel informasjonsmodell av systemet i forhold til objekter i dets miljø, med kontrollerte oppmerksomhetsmuligheter og langsiktig planlegging av handlinger. Kanskje vil mennesker skape noe lignende i nær fremtid. Et annet mer konservativt syn er at bevissthet kan kreve veldig spesifikke biologiske trekk, for eksempel en hjerne som ser ut som en pattedyrshjerne. Vi er fremdeles langt fra dette nivået av kunstig bevissthet.
Det er ikke klart hvilken av disse ideene som er riktig, og om en ny definisjon av bevissthet kan dukke opp i løpet av en nær fremtid. Imidlertid, hvis det første synspunktet er riktig, kan vi snart lage mange ikke-menneskelige AI-er som vil trenge rettighetsbeskyttelse.
Dyrenes og menneskers rettigheter begynte først å bli forsvart etter at det ble registrert alvorlige etiske brudd i forholdet - unødvendige livssyn, nazistiske medisinske krigsforbrytelser, samt forskning på syfilis i byen Tuskegee (USA), der friske mennesker ble smittet med denne sykdommen. Kanskje vil noe lignende skje innen vern av AI-rettigheter.
