Vi venter alle på øyeblikket når kunstig intelligens, programmer, teknologi lærer å gjøre praktisk talt det samme, da er vi det. Dette er ganske ekte. Men foreløpig er det få som tror at den samme prosessen ikke vil være den samme for maskiner og mennesker.
For eksempel oppdaget en gruppe forskere fra Kyushu University en måte å lure mønstergjenkjenningsprogrammer ved å endre en enkelt piksel i et bilde. Denne pikslen er plassert på en slik måte at den forvirrer nevrale nettverk som er ansvarlige for identifisering, og de begynner å ta feil av hunder for katter og hester for biler.
Testbildene var begrenset til bare tusen piksler, men for høyere oppløsninger og millioner piksler fungerer regelen også. Bare det er nødvendig å ikke endre en piksel, men flere hundre.
Den andre gruppen av forskere, denne gangen fra Massachusetts Institute of Technology, klarte å gå enda lenger. De var i stand til å trykke en skulptur av en skilpadde ved hjelp av en 3D-printer, som programmet, selv fra alle sider og fra alle vinkler, tok det for en rifle. Dette eksperimentet utgjør et mye større problem for bildegjenkjenningsteknologi, siden det hele skjedde i virkeligheten, og programmet fikk lov til å analysere objektet fra alle vinkler, men det bestemte likevel ikke dets sanne form.
Sammen viser begge studiene hvordan roboter og programmer trenger å reise før de når menneskelig nivå. Tross alt kan ikke hjernen vår lure ved å erstatte en eller hundre piksler.
Det eneste synd er at kildene ikke gir noen forklaring på hvordan det viser seg å lure programmet. Hva tror du? Hva er hemmeligheten bak "ødelagte piksler", og hvordan kan du jukse med en 3D-modell?
Nikolay Kudryavtsev
Salgsfremmende video:
