MI „elfogultság” a köbön

Felhasználói fiók Hírlevél feliratkozás

MI „elfogultság” a köbön

Biztonságtechnika
/
2021-02-09

Az elmúlt évek egyik „sláger” témája a mesterséges intelligencia (MI) elfogultságának kérdésköre sőt, az EU iránymutatásai is hangsúlyosan foglalkoznak ennek vélt és valós veszélyeivel.

A probléma lényege, hogy adott társadalmi csoportokat hajlamosak az MI-k alul-, adott esetekben felülreprezentálni és ún. előítéletes döntéseket hozni. Ez megjelenhet abban, hogy egy adott arcfelismerő megoldás egyszerűen nem ismer fel; egyes esetekben ugyan felismeri, de az adott csoporthoz tartozót hátrányosabban kezel (nem biztosít számára bizonyos jogosultságokat), míg más csoporthoz tartozókat előnyben részesít.

Egyes kutatók úgy vélik, hogy a felügyelet (emberi beavatkozás) nélküli algoritmus tanítás lehet a megoldás: így az MI maga fedezheti fel az adathalmazokban felsejlő logikai összefüggéseket. A Carnegie Mellon és a George Washington Egyetem kutatóinak megállapítása szerint, ez közel sincs így. Kutatásuk során az OpenAI iGPT és az Alphabet SimCLRv2 algoritmusok (némi, ImageNet adatbázison végzett, előtanítást) követően ugyan azon „előítéletek” jeleit mutatták, mint felügyelt tanulással „élesített” rokonaik. A kutatók megállapítása szerint, az Interneten rendelkezésre álló tanító adatbázisok alapvetően alkalmatlanok az előítéletmentes MI-k létrehozására.

Forrás: Arxiv.org