Az Amazon megoldása az elfogultságmentes arcfelismerésre
- Biztonságtechnika
- /
- 2022-11-28
Úgy tűnik, a technológiai világ nem tud szabadulni az „elfogult” jelző alkalmazásától a mesterséges intelligenciára épülő technológiák kapcsán.
A probléma lényege röviden, hogy adott jellemzőkészlettel rendelkező emberi csoportokat valamilyen szempontból másként ítél meg a rendszer, mint a társadalom egyéb szegmenseit. Ez alapvetően nem „elfogultság”, hanem a tanító készlet elégtelensége. Az Amazon Web Services (AWS) – a cég közleménye szerint – olyan MI technológiát fejlesztett ki az arcfelismerő algoritmusok „elfogultsági szintjének” elemzésére, mely nem igényel annotált azonosító címkéket (melyek létrehozása igen időigényes folyamat). Az Amazon által SPE-FR (félig-felügyelt teljesítményelemzés arcfelismeréshez) úgy képes értékelni a vizsgált algoritmus „aránytalanságait”, hogy csak a (-z algoritmus által „kezelt”) demográfiai szegmensekből származó adatokat veszi alapul; ezzel az AWS egy „elfogultság-elemző” eszközt hozott létre az arcfelismerő szoftverek fejlesztői számára – nem mellesleg biztosítandó, hogy az AWS infrastruktúráján csak „elfogultságmentes” megoldások fussanak.
Forrás: MARKTECHPOST
A probléma lényege röviden, hogy adott jellemzőkészlettel rendelkező emberi csoportokat valamilyen szempontból másként ítél meg a rendszer, mint a társadalom egyéb szegmenseit. Ez alapvetően nem „elfogultság”, hanem a tanító készlet elégtelensége. Az Amazon Web Services (AWS) – a cég közleménye szerint – olyan MI technológiát fejlesztett ki az arcfelismerő algoritmusok „elfogultsági szintjének” elemzésére, mely nem igényel annotált azonosító címkéket (melyek létrehozása igen időigényes folyamat). Az Amazon által SPE-FR (félig-felügyelt teljesítményelemzés arcfelismeréshez) úgy képes értékelni a vizsgált algoritmus „aránytalanságait”, hogy csak a (-z algoritmus által „kezelt”) demográfiai szegmensekből származó adatokat veszi alapul; ezzel az AWS egy „elfogultság-elemző” eszközt hozott létre az arcfelismerő szoftverek fejlesztői számára – nem mellesleg biztosítandó, hogy az AWS infrastruktúráján csak „elfogultságmentes” megoldások fussanak.
Forrás: MARKTECHPOST
Tagek: arcfelismerés
Cikkek hasonló témában
EU arcfelismerési irányelvek
- 2023-06-13
- /
- Biztonságtechnika
Írisz szintű „élő-arc” detektálás
- 2023-04-19
- /
- Biztonságtechnika