Forskere fra University of Chicago (USA) gjennomførte en studie der de viste hvordan AI kan brukes til å skrive komplekse falske anmeldelser. Slike anmeldelser kan ikke skilles fra virkelige ved moderne metoder, og intetanende lesere synes de er svært pålitelige.
Restaurantanmeldelser ble generert ved hjelp av tilbakevendende nevrale nettverk (dyp læringsteknikker) som tidligere har trent på tusenvis av virkelige anmeldelser tilgjengelig på nettet.
Ifølge forskerne var de genererte vurderingene praktisk talt ikke å skille fra de virkelige. Så forfatterne av arbeidet viste at brukerne ikke bare kjente igjen falske anmeldelser, men også anså dem som nyttige som ekte som ble skrevet av mennesker.
Sistnevnte er trolig den mest alarmerende. Siden dette i hovedsak betyr at anmeldelser skrevet av AI oppfyller hovedfunksjonen deres - de påvirker målrettet menneskers mening.
Det bemerkes at plagiering sjelden ble funnet i slike anmeldelser (ved bruk av programvare). Dette skyldes at AI genererte dem etter karakter, snarere enn å plukke ord fra ekte anmeldelser.
I dag er det en ganske stor underjordisk industri der folk skriver falske anmeldelser (for penger). Imidlertid, som bemerket av professor i University of Chicago, Ben Y. Zhao i et intervju med Business Insider, kan introduksjonen av AI undergrave den. Forskeren sier at han ennå ikke vet om bruken av slike algoritmer i denne bransjen. Men det er ingen garanti for at noen ikke kommer på noe lignende og ikke vil bruke det til personlig vinning.
Samtidig skriver forskerne at svarene fra nevrale nettverk fortsatt ikke var ideelle. Det viste seg at algoritmen brukte et mindre sett med tegn - og dette var ikke vanskelig å se. I følge forfatterne av arbeidet kan fremtidige nevrale nettverk imidlertid være enda mer komplekse, og følgelig vil tilbakemeldingene de genererer være vanskeligere å oppdage.
Zhao bemerker at det ikke bare handler om falske restaurantanmeldelser: slike teknologier kan generelt ryste vår tro på hva som er ekte og hva som ikke er.
Kampanjevideo:
Teksten til studien finner du her.
