Forskere ved Massachusetts Institute of Technology (MIT) har utviklet en teknikk for å lure tekstanalyse av kunstig intelligens (AI), rapporterte Wired Feb.23.
Forskere har lagt merke til at en liten endring i en frase, forståelig for en person, kan lure AI. De utviklet en algoritme for å erstatte ord med synonymer og lure AIs gjenkjennelsestekst. Nyansen er at den angripende algoritmen i seg selv bruker AI for å velge synonymer.
Som et eksempel er uttrykket "Karakterene, kastet i umulig forfulgte situasjoner, helt utkonkurrert fra virkeligheten." ("Karakterer spilt i utrolig forfulgte situasjoner er fullstendig i kontakt med virkeligheten"), som er en negativ anmeldelse av filmen.
Hvis vi bytter ut ordene i det med synonymer, så uttrykket “Karakterene, kastet i umulig konstruerte omstendigheter, er helt fremmedgjorte fra virkeligheten” (“Karakterer spilt under utrolig dyktige omstendigheter er helt skilt fra virkeligheten”), anser AI anmeldelsen som positiv.
Andre typer AI-systemer kan også bli lurt; i dette tilfellet ble sårbarhetene hovedsakelig påvist i systemer for bilde og tale.
Forskerne bemerket at slike subtile dataforvrengninger kan lure AI og brukes til å angripe systemer, noe som blir betydelig etter hvert som AI sprer seg innen finans, helsevesen og andre.
