Den berømte britiske fysikeren Stephen Hawking sa i en artikkel inspirert av science fiction-filmen "Transcendence" med Johnny Depp i hovedrollen at å undervurdere trusselen fra kunstig intelligens kan være den største feilen i menneskets historie.
I en artikkel som er skrevet sammen med informatikkprofessor Stuart Russell fra University of California ved Berkeley og fysikkprofessorer Max Tegmark og Frank Wilczek fra MIT, peker Hawking på noen fremskritt innen kunstig intelligens, og bemerker selvkjørende biler, Siris stemmeassistent og superdatamaskinen. vinneren av mannen i Jeopardy TV quiz-spillet.
”Alle disse prestasjonene bleker på bakgrunn av hva som venter oss de kommende tiårene. Den vellykkede etableringen av kunstig intelligens vil være den største hendelsen i menneskets historie. Dessverre kan det vise seg å være det siste, hvis vi ikke lærer å unngå risiko,”er Hawking sitert av den britiske avisen The Independent.
Professorene skriver at det i fremtiden kan skje at ingen og ingenting kan stoppe maskiner med umenneskelig intelligens fra selvforbedring. Og dette vil starte prosessen med den såkalte teknologiske singulariteten, som betyr ekstremt rask teknologisk utvikling. I filmen med Depps deltakelse brukes ordet "transcendens" i denne forstand.
Se for deg at slik teknologi overgår mennesker og driver finansmarkeder, vitenskapelig forskning, mennesker og utvikling av våpen utenfor vår forståelse. Hvis den kortsiktige effekten av kunstig intelligens avhenger av hvem som kontrollerer den, avhenger den langsiktige effekten av om den i det hele tatt kan kontrolleres.
Det er vanskelig å si hvilke konsekvenser kunstig intelligens kan ha på mennesker. Hawking mener at det er lite seriøs forskning som er viet til disse spørsmålene utenfor slike ideelle organisasjoner som Cambridge Center for the Study of Existential Risks, Institute for the Future of Humanity, og forskningsinstitutter for maskinell intelligens og fremtidig liv.
I følge ham skal hver av oss spørre oss hva vi kan gjøre nå for å unngå fremtidens verste fall.
