Virtuaalne assistent tunnistab vähem ridu kui mustad – ja Siri on neist halvim

Mitu aastat tagasi tekkis rida uuringuid Palju vastuoluline, kui rõhutatakse seksismi rolli virtuaalsete assistentide ehitamisel, mis täiendavad meie elektroonilisi seadmeid, näiteks Krabi, A Alexa See on Google’i abimees.

Nüüd on saabunud veel üks uuring, mis paljastas ühiskonna pleki teise mõju assistentidele: rassism.

Hiljuti pani rühm Stanfordi ülikooli teadlasi kokku viie tehnoloogiagigandi kõnetuvastussüsteemi – Apple, Amazon, Google, Microsoft ja IBM – ja teha põhjalik uuring süsteemi võimest käske ära tunda, võrreldes valgete ja mustanahalistega saadud tulemusi.

Tulemused avaldati eelmisel esmaspäeval (23/3) ja neid saab täies mahus näha sellel lehel.

Kokku analüüsiti 42 valge ja 73 musta käsku ja avaldusi; ühendab kõigi ettevõtete tulemused, valesti mõistetud süsteemi 19% valgete kasutajate antud terminid ja rohkem kui 35% terminid, mida räägivad mustanahalised; 2% valgete inimeste öeldud sõnadest peeti arusaamatuks; indeks tõuseb 10x, kuni 20%, mustanahaliste inimeste puhul.

Analüüsige iga ettevõtte tulemusi eraldi Microsoft on see, kes annab endast parima Apple esitab kõige laiemat erinevust valge ja musta hääletuvastuse vahel – kõik need näitavad siiski mingil määral olulisi erinevusi.

Kaks punkti tuleb siiski selgelt välja tuua.

Esimene on see, et teadlased ei kasuta iga ettevõtte enda virtuaalset assistenti, vaid nende kõigi poolt avalikult kättesaadavaks tehtud hääletuvastussüsteemi – näiteks Apple’i puhul ei pruugi süsteem olla täpselt sama, mida kasutatakse (jämedalt öeldes) eksklusiivne) Siri poolt, kuigi see järgib samu põhimõtteid ja põhineb samal tehnoloogial, mis võimaldab assistendil töötada.

Lisaks on oluline märkida, et mustanahaliste inimeste esinemise korral on Ameerika ameerika inglise keel (IVAA), variatsioon tavalisest Ameerika inglise keelest, millel on palju erinevaid keelelisi termineid ja struktuure – seda seetõttu, et USA-s valgete ja mustanahaliste räägitavas keeles on sajandeid kestnud rassilise segregatsiooni tõttu väga erinev (erinevalt Brasiiliast, kus need erinevused on vähem väljendunud).

Kõik see viitab sellele, et analüüsitaval süsteemil võib olla probleeme Ameerika Ühendriikide mustanahalise elanikkonnaga seotud sõnade teatud sõnade ja üldisemate fraasistruktuuride äratundmisega; Seetõttu ei olnud musta inimese hääle endas äratundmine keeruline (kui valge mees ja mustanahaline lausuksid täpselt sama lause, tunneksid assistendid nad tõenäoliselt samamoodi ära), vaid pigem ära tunda. lõigu idiomaatiline eripära. elanikkonnast.

See on muidugi endiselt probleem.

Ilmselgelt ei saa öelda, et Siri või Alexa oleks rassistlik, mitte just seetõttu, et neil pole aju ega südametunnistust (ikka); Teisest küljest ei saa pärast neid tulemusi eitada, kui näeme, et rassism on mõjutanud nende abistajate ja tunnustussüsteemide arengut.

Valgetest inimestest rääkimise standardi seab mitte otsene rassism, vaid kõige ohtlikum, struktuurne.

Selle üle peaks mõtlema, eks?

The Verge’i kaudu