Til tross for bred oppmerksomhet rundt utviklingen av kunstig intelligens, er det flere mennesker i verden som tror at potensialet til betydelig forbedret menneskelig intelligens (AI) er mye høyere. Spørsmålet om hva som kommer først forblir åpent, men det antas at en teknologisk avansert hjerne kan være like kraftig (og ærlig talt, like farlig) som AI.
Mennesket som art har utviklet tankegangen sin gjennom mange årtusener. Eller prøvde i det minste å gjøre det. I forsøket på å overvinne sine kognitive begrensninger, har mennesker brukt alt de kan, fra skriftlige, språklige og meditative teknikker til moderne nootropics.
Hvorfor, i stedet for å prøve å utvikle generell kunstig intelligens (AGI) eller til og med kunstig superintelligens (ISI), ville det ikke være bedre å fokusere på den menneskelige hjernen og dens fremdeles langt fra helt ulåste potensial? Tross alt kan en betydelig forbedring i sinnet - enten det er gjennom genetikk, kybernetikk eller kreftene til eksterne enheter - føre til det samme resultatet som vi forventer av etableringen av avansert AI.
Gizmodo-portalen bestemte seg for å kontakte futurologen Mikhail Anisimov, bloggeren av portalen Accelerating Future og medgründeren av Singularity Summit-arrangementet, og finne ut de sannsynlige utsiktene for utvikling av retningen for å forbedre den menneskelige hjernen. Anisimov tar denne saken veldig alvorlig og mener at vi bør være på vakt mot AI like mye som AI.
Michael, når vi snakker om økende intelligens, hva mener vi egentlig med dette? Snakker vi om å lage nye Einsteins? Eller er det noe enda mer ambisiøst?
Det virkelige målet med AI-retningen er snarere å skape "super-Einsteins", mennesker som er mye smartere enn noen person som noen gang har bodd på jorden. Og for å oppnå dette målet, må flere viktige skritt tas.
Det første trinnet er å opprette en direkte nevrell forbindelse med informasjon. Tenk på det som et slags "telepatisk Google-søk".
Det neste vil være utvikling av hjerne-datamaskin-grensesnitt, som vil styrke arbeidet til den delen av hjernen som er ansvarlig for visuell persepsjon. Dette vil forbedre ikke bare visjonen vår, men også øke effektiviteten av informasjonsbehandling betydelig. Bare forestill deg at du nesten vil kunne lage et komplekst skjema av et objekt i hjernen med en gang i detalj, eller nå kan du huske ordningen du har sett i detalj. Det vil også være behov for forstørrelse på andre områder i sensorisk cortex som er ansvarlig for berøring og hørsel.
Salgsfremmende video:
Det tredje trinnet vil være å øke den prefrontale cortex. Dette er den hellige gralen for UI-forskning - forbedrer effektiviteten av persepsjon og integrering av sensorisk informasjon i konsepter. Sluttresultatet vil være fremveksten av mennesker som er i stand til å demonstrere nesten umulige intellektuelle evner. Vi snakker for eksempel om evnen til å kontrollere andre mennesker med fornuftens kraft, forstå alle vinnerposisjonene i aksjemarkedet, eller for eksempel lage oppfinnelser som kan forandre verden på nesten en dag. Nå kan dette virke umulig, akkurat som våre moderne prestasjoner virket umulige i øynene til folket i steinalderen. Men denne muligheten er virkelig reell.
Ser vi fremover til de neste ti årene, hvor vil AI utvikle seg? Kan den menneskelige hjernen virkelig konkurrere med den?
Den menneskelige hjernen kan virkelig ikke endres for mye. Tross alt er det allerede et resultat av syv millioner år med evolusjonsoptimalisering og finjustering, som jeg må innrømme, var veldig vellykket, gitt dens begrensninger. Og forsøk på å "overklokke" det, som regel, fører til at det mislykkes, hvis vi vurderer problemet, i det minste sett fra et eksempel på effekter ledsaget av amfetaminavhengighet.
Trailer for filmen Areas of Darkness
Kjemikalier er ikke i stand til å styrke en persons kognitive evner. Og alt som blir gitt til fordel for effektiviteten til de nåværende "hjerneakseleratorene" ser faktisk ekstremt kontroversiell ut og tvilsom. Reell suksess vil kreve bruk av hjerneimplantater som kobles til millioner av nevroner. Dette vil igjen kreve millioner av små elektroder og et dedikert kontrollsystem for å synkronisere dem alle. I dag har den mest avanserte design-en-grensesnittdesignen rundt 1000 slike tilkoblinger i beste fall. Med andre ord, den moderne utviklingen må skaleres opp mer enn tusenfold for å oppnå noe virkelig interessant. Selv om vi tar hensyn til den eksponentielle veksten, vil det ta minst 15 til 20 år å oppnå noen resultater.
Utviklingen av UI er først og fremst basert på fremgang i utviklingen av nanoproduksjon. Og resultatene fra ingeniører som jobber med grensesnitt mellom hjernen og datamaskiner, som for eksempel Ed Boyden fra Massachusetts Institute of Technology, avhenger helt av fremskritt i denne retningen. Gitt det ubetydelige utviklingsnivået for produksjonsteknologier på atomnivå, ser selvmontering av nano-nivå ut som den mest åpenbare måten å utvikle hjern-datamaskin-grensesnitt med millioner av elektroder. Selvmontering av nano-nivå, bør det bemerkes, er ikke en atomaktig nøyaktig fremstillingsmetode, men den er nøyaktig nok i henhold til standardene for grunnleggende produksjon og fotolitografi.
Hva er noen potensielle psykologiske bivirkninger for mennesker med betydelig forbedret intelligens? Kan de generelt betraktes som mennesker fra dette synspunktet?
En av de vanligste bivirkningene vil være sinnssykdom. Den menneskelige hjernen er en utrolig finstemt maskin. Og enhver endring i driftsformen fører til det vi vanligvis kaller "galskap." Det er mange forskjellige typer sinnssykdom, langt mer enn atferdsmønstre i sunn fornuft. For eksempel kan skjult sinnssykdom sett fra det ytre miljø virke ganske sunn oppførsel, derfor vil vi mest sannsynlig møte vanskeligheter med å identifisere slike individer som lider av sinnssykdom.
Selv med fullstendig tilregnelighet kan det oppstå forskjellige bivirkninger, inkludert anfall, informasjonsoverbelastning, og muligens følelser av egomani og total fremmedgjøring. Smarte mennesker har en tendens til å føle seg mer fremmedgjort fra verden rundt seg, så å vite at du er smartere enn alle på planeten vil forsterke denne effekten mange ganger over.
De fleste veldig smarte mennesker er ikke veldig omgangsrike og muntre, som, for eksempel, den amerikanske forskeren Richard Feynman eller som den moderne Neil DeGrasse Tyson. Hemingway sa en gang: "En intelligent person blir tvunget til å bli full noen ganger for å tåle kommunikasjon med dårer." Men hva skjer når alkohol rus ikke lenger er nok til å opprettholde kameraderi og gjensidig hengivenhet? Dette kan føre til tap av empati, noe som til slutt fører til psykopati.
Så hva kommer først? Forsterket eller kunstig intelligens?
Det er veldig vanskelig å forutsi. Det er et stort ønske om at forbedret intelligens vil vises før AI. Alle disse kunstverkene og spillene som hovedpersonen har en slik UI er i stor grad ansvarlig for dette ønsket. Imidlertid må det forstås at skjevheten mot UI faktisk ikke gjør det lettere å jobbe videre med tanke på teknologisk kompleksitet. Men personlig tror jeg UI kommer tidligere.
Det er som det kan, begge retninger er veldig vanskelige å implementere. Det er ikke sikkert at vi ser en av dem før 2060-, 2070- eller enda senere. Til syvende og sist vil begge utviklingsretningene oppnå sine mål. Hvis du tenker på det, er det ikke noe overraskende innen intelligens nå, så behovet for å forbedre det er utrolig stort. Og trolig vil det ta et globalt opprør av Luddites (deltakere i de spontane protestene fra første kvartal av 1800-tallet mot innføringen av maskiner under den industrielle revolusjonen i England - red.) For å stoppe framgangen til teknologisk utvikling, noe som vil føre oss til de ønskede resultatene.
Hva er fordeler og ulemper med disse to forskjellige utviklingsmetodene?
Den største fordelen ved å velge AI-utviklingsveien ligger i de uforholdsmessig billigere og enklere utviklingsprosessene. AI på papir og i kode er allerede utviklet. Det gjenstår bare å samle det riktig. Den mest betydningsfulle forskningen på UI på sin side er nå rett og slett ulovlig. Seriøs forskning på brukergrensesnittet vil kreve veldig sofistikerte eksperimenter innen nevrokirurgi og hjerneimplantater. Hjerneimplantater kan på sin side mislykkes, forårsake anfall, sinnssykdom eller til og med død. Å forbedre menneskelig intelligens når det gjelder en kvalitetsmåte for selvforbedring er ikke bare et spørsmål om å ta noen få piller for å få supermakter. Her må du virkelig eksperimentere med hjerneimplantater hvis du vil oppnå alvorlige resultater.
Det meste av forskningen på dette området er sterkt kontrollert og utrolig dyrt. Alle forsøk med dyr er alltid dyre. For eksempel har Theodor Berger jobbet med et hippocampal implantat for å gjenopprette og forbedre minneytelsen i mange år. I 2004 ble de første testene med levende vev utført, men siden den gang har nyheter vært svært sjeldne. Hvert par år er det selvfølgelig noen notater i nyhetene, men jeg er veldig skeptisk til det endelige resultatet. Se nå på utviklingsnivået vi har vært i stand til å oppnå i utviklingen av kunstig intelligens!
Ser AI sikrere ut enn AI når det gjelder forutsigbarhet og kontroll? Hvilket er viktigere å lage først, AI eller superkraftig AI?
Forbedret intelligens blir sett på som mer uforutsigbar og ukontrollerbar sammenlignet med superkraftig AI. Og på sikt ser det faktisk ut enda farligere. Jeg skrev nylig en artikkel som reflekterte over global politisk transformasjon utløst av massiv makt konsentrert i hendene på en liten gruppe mennesker med AI eller eksklusiv tilgang til molekylær produksjon. I den myntet jeg begrepet “Maximilian”, som betyr “det beste av det beste”, for å beskrive en svært innflytelsesrik leder som selv bruker forbedret etterretningsteknologi for å løfte seg over alle andre.
Kognitivt forbedret Reginald Barkley fra Star Trek: The Next Generation i Episode X
Det sentrale poenget med min resonnement i artikkelen er at du må forholde deg til mennesker i tilfelle av forbedret intelligens, og en person, som du vet, er ufullkommen. Det kan vise seg at mennesker med forbedret intelligens, kanskje, vil beholde et visst nivå av menneskelig moral, men mest sannsynlig vil de begynne å bruke all sin styrke til hedonistiske formål og muligens også for folkemord.
Kunstig superintelligens kan på sin side skapes fra bunnen av og ganske enkelt lages for å følge et sett med egne motivasjoner (som også vil være innebygd i det), som har en god start, stabilitet og har positive tilbakemeldinger.
Folk stiller spørsmålet: "Ville ISI avvise disse motivasjonene?" Nei, det vil han ikke, fordi disse motivasjonene vil danne kjernen i verdiene hans, hvis de selvfølgelig er riktig programmert. Det vil ikke være noe "spøkelse i bilen" som kan ignorere eller avvise forhåndsprogrammerte motiver.
Filosofen Nick Bostrom har gjort en fantastisk analyse i sitt arbeid The Will of the Superintelligence. Den sentrale ideen i det er at egoistiske mål ikke kan vises på egen hånd hvis systemet med nøkkeloppgaver til AI opprinnelig er et sett av uselviske mål, og hvis selve kjernen i maskinens eksistens er å opprettholde denne uselviskheten. Evolusjon har vist at egoistiske mål spiller en viktig rolle i overlevelsen, spesielt hvis vi tar hensyn til de evolusjonære konstruktive begrensningene til levende organismer, men dette betyr ikke at vi selv ikke er i stand til å programmere uinteresserte midler fra bunnen av?
Hvilke vanskeligheter (teknologiske, medisinske eller etiske) står i veien for utvikling?
Den største utfordringen ligger i å utvikle egnede produksjonsteknologier. Nå er vi ikke engang i nærheten av dette. En annen fallgruve er oppgaven med å finne ut hva nøyaktig hver enkelt nevron er ansvarlig for, og bestemme den nøyaktige plasseringen av disse nevronene i en enkelt person. Igjen, vi har ikke engang kommet nær det.
For det tredje må vi utvikle en rask måte å teste de mange teoriene om hjernefunksjon. Ed Boyden kaller dette "screeningkretser med høyt gjennomstrømning av nevralt nettverk." Den mest passende og åpenbare løsningen på dette spørsmålet kan på en eller annen måte være å skape et menneske ubevisst og eksperimentere på det uten en snev av samvittighet eller moralske dilemmaer. Men jeg har en følelse av at denne ideen blir møtt med fiendtlighet av de fleste etiske komiteer.
I mangel av en slik mulighet, må vi finne en måte å lage en enestående detaljert modell av den menneskelige hjernen. Og vi snakker ikke om dagens harde forsøk på "hjernemodellering" -prosjektet som det er så mye hype rundt. Vi snakker om et nytt nytt nivå, som vi ikke kan nå før 2050-2080. Oxford-analyse viser at det handler mer om 2080-tallet. Det hele ser selvfølgelig ut som spåkonkurranse på kaffegrut, men likevel nærmere virkeligheten.
NIKOLAY KHIZHNYAK
