ImageNeti rulett on kunstiline projekt, mis kasutab tehisintellekti (AI) inimeste nägude kategoriseerimiseks fotode järgi. Platvorm oli aga eelmisel nädalal vaieldav, liigitades ründavate rassistlike terminitega fotosid erinevatest rahvustest inimestest.
LOE: arvuti imiteerib ettevõtte tegevjuhi häält ja varastas miljon miljonit dollarit
Kriitika taustal selgitasid vastutavad isikud, et selle teema osalised tulemused ja arutelu olid ĂĽks projekti eesmärke. „See paljastab inimeste klassifitseerimisel tohutu probleemi – kas rassi, soo, emotsioonide või omaduste järgi. Kõik see hõlmab poliitikat ja pole võimalik kuidagi kallutada, ”selgitas tehisintellekti uurija Kate Crawford Twitteris.
Tehisintellekt loeb fotot Vin Dieselist kui skinheadist – Foto: Reproduction
Kas soovite osta mobiiltelefone, telereid ja muid soodushinnaga tooteid? Leidke TechTudo võrdlus
ImageNeti rulett on osa koolitusinimeste näitusest, mille on loonud kunstnik Trevor Paglen, tehisintellekti uurija Kate Crawford ja arendaja Leif Ryge. See teos on välja pandud Itaalias Milanos, kuid seda saab vabalt kasutada ka Internetis aadressilt: imagenet-roulette.paglen.com
Platvorm töötab WordNeti andmebaasi kaudu, mis koosneb veebiotsingu tööriistadest saadud ingliskeelsetest sõnadest ja tehisintellekti töötlemise tehnikatega. Tehisintellekt analüüsib piltide sisu ja vaatab selle analüüsi põhjal välja sõnad, mis võivad kirjeldada või anda hinnanguid pildistatavate nägude kohta.
Sait võimaldab teil ĂĽles laadida pilte või kasutada linke Internetis saadaolevatele fotodele – Foto: Garrett Reproduction / Filipe
Eksperimendi ĂĽmber tekkinud poleemika tekkis seetõttu, et sõna andmebaas sisaldas nii ĂĽldisi ja kahjutuid kui ka agressiivsemaid ja isegi rassistlikke termineid. Seetõttu järeldab tehisintellekt lõpuks fotol oleva inimese iseloomustamiseks positiivsete ja negatiivsete hinnangute põhjal. Näiteks võib sõna “inimene” seostada terminitega nagu “kurjategija” samal määral kui “sportlane” või “arst”. Tehisintellekti võimalus negatiivsete terminite järeldamiseks suureneb, kui inimene pole kaukaaslane.
Twitteri kasutajad on avaldanud mitmeid näiteid ebameeldivatest tulemustest, hõlmates eelarvamustega slängi, et kirjeldada eri rahvustest inimesi. Muudel juhtudel võib tööriist järeldada, et inimene on kurjategija, kasutades solvavaid termineid vastavalt naha või näo tunnustele. Vastuseks poleemikale rassistlike tulemuste üle läks tehisintellekti ekspert ja projekti kaaslooja Kate Crawford avalikkusele Twitteri kaudu kriitikat kommenteerima.
See paljastab sĂĽgava probleemi inimeste klassifitseerimisel – olgu see siis rass, sugu, emotsioonid või omadused. See on täielik poliitika ja selle “lahtiĂĽtlemiseks” pole lihtsat viisi.
– 16. september 2019
Crawford selgitab, et agressiivsete tulemuste kõrge sagedus jaotises ImageNet Roulette osutab “suurtele probleemidele inimeste klassifitseerimisel, olgu need siis rassi, soo, emotsioonide või omaduste järgi”. Teadlaste jaoks on ImageNet Roulette eelarvamused enne, kui neist probleemiks saavad, tõstatama arutelu selle ĂĽle, kuidas me teisi inimesi enda ĂĽmber klassifitseerime, sest lõpuks reguleerib ImageNeti rulett lihtsalt termineid, mida inimesed kipuvad inimeste hindamisel ja iseloomustamisel kasutama.
Samuti väärib märkimist turvalisuse puudumine privaatsete fotode saatmisel tundmatutele teenustele Internetis. Lisaks võimaldab piltide üleslaadimine lisada tehisintellekti andmebaasidesse, mida kasutatakse süsteemi aja jooksul treenimiseks.
Kas ma saan kodus tehisintellekti teha? Vahetage näpunäiteid TechTudo foorumis
Mis on lunavara: viis nõuannet enda kaitsmiseks
