Näotuvastustehnoloogia on välja töötatud ja mitmed kommertstooted on fotograafia abil tuvastanud inimese soo. Tehisintellektisüsteemide kaudu teabe edastamine muutub üha tavalisemaks ja hoiatused vigade eest suurenevad. Uus uuring näitab, et efektiivsuse protsent on umbes 99%, kui foto on valgest isasest, kuid langeb dramaatiliselt, seda tumedam on naha toon.
MIT meediumilabori teadur Joy Buolamwini ehitas 1270 näokujutisega andmebaasi, kasutades nende poliitikute nägusid, kes valiti nende riigi soolise võrdõiguslikkuse edetabeli alusel, st avalikel ametikohtadel oli palju naisi. Teadlased saatsid pilte Microsofti, IBMi ja Hiina ettevõtte lahenduse Megvii näotuvastussüsteemidesse ning tulemused näitavad tehisintellekttehnoloogia abil soolise tuvastamise vastuolusid.
Joy Buolamwini aruande kohaselt oli viga heledanahalistel meestel alla 1%, heledanahalistel 7%, tumedanahalistel meestel 12% ja mustanahalistel naistel kuni 35%. Ăśldiselt on mehe tuvastamine efektiivsem kui naissoost ja nahatooni tumenedes suurenevad vead.
2015. aastal tuvastas rakendus Google Photos mustad inimesed ekslikult gorilladena. Lubaduses sĂĽsteemi täiustada eemaldati foto indekseerimisest sõna “gorilla”, mis osutas identifitseerimisalgoritmi kohandamise keerukusele.
See küsimus tekitab üha suuremat muret, kuna ametivõimud kasutavad avaliku ruumi uurimisel ja turvalisusel üha enam pildituvastussüsteeme. Näiteks Ameerika Ühendriikide politsei on oma uurimistöös kasutanud näotuvastuslahendusi juba 2000. aastate algusest, puudujääk on koguni 15%, ja mõned organisatsioonid väidavad, et see jäikuse puudumine suurendab riski, et süütuid inimesi peetakse kahtlasteks. kuritegevus
Joy Buolamwini hoiatas vajaduse eest, et tehnoloogiatootjad suurendaksid rangust ja vähendaksid algoritmide veamäära erinevates demograafilistes rühmades, tuues identifitseerimissüsteemides suurema läbipaistvuse ja võime tulemusi kontrollida.
