Az „ellenséges polip” az MI alapú arcfelismerők ellen

Felhasználói fiók Hírlevél feliratkozás

Az „ellenséges polip” az MI alapú arcfelismerők ellen

Biztonságtechnika
/
2021-06-28

Egy a mesterséges intelligencia (MI) alapú megoldások sérülékenységeinek felderítésére szakosodott izraeli cég (Adversa) állítása szerint, néhány MI támogatott arcfelismerő rendszer félrevezethető némi irányított zaj rendszerbe „injektálásával”.

Az „ellenséges polip” névre keresztelt eljárás képes meggyőzni adott algoritmusokat, hogy valójában nem a vizsgált képen szereplő személyt keresik. A fejlesztők állítása szerint, még a neten fellelhető arcképeink keresésére szakosodott PimpEye algoritmusait is sikerült „megvezetniük.” Az Adversa illetékese elmondta, nem csak a gépilátás MI algoritmusok „mérgezése” (zavarása) valósítható meg a „polip” segítségével, de nehezebben detektálható hamisított (ún. deepfake) képek előállítását is támogathatja. Az Adversa megoldását több arcfelismerő modellen tanították kék és véletlenszerű zajjal alkalmazásával. A „polip”, hogy elrejtse tevékenységét, csak apró pixelváltozásokat végez és „kisimítja” a beinjektált zajt. Az „ellenséges polip” tényleges hatékonysága még vizsgálatok tárgyát képezi. Egyes vélemények szerint, a fejlettebb MI alapú arcfelismerők megtévesztésére (még) alacsony hatékonysággal alkalmas.

Forrás: Adversa.ai