Kas midagi inimeses võib inimese käitumist eranditult reprodutseerida? Või täpsemalt kas algoritm võib muutuda seksistlikuks?
Microsofti teadur Tarleton Gillespie, väidab üks selle piirkonna suurtest mõtlejatest, et jah: kuna see on inimlooming, toob iga algoritm kaasa peegeldusmustrid ja valiku inimlikke omadusi, nii häid kui halbu. Ja seda Apple võib-olla uusim ettevõte, kes seda ideed kordab.
Selgitan: viimastel päevadel on krediidi algoritmi ümber tekkinud poleemika Apple'i kaart neile, kes ei tea, on Ma krediitkaardil peaaegu automaatne konfigureerimisprotsess, kus kasutajatel tuleb esitada vaid mõned andmed ja Apple (ja pangad) teenivad nende krediidilimiidid peaaegu kohe Goldman Sachs). Kõik sai alguse arendajast David Heinemeier Hanson, looja raamistik Ruby on Rails süüdistab kaardi algoritmi seksistlikus olemises:
Hansoni sõnul oli probleem veelgi sügavam, märkides, et erinevalt temast lubas tema naise Apple'i kaart uue ostu sooritada alles järgmisel arveldusperioodil, ehkki ta oli tasunud viimase arve. Kaardi klienditeenindust kritiseeris ka arendaja, kes kurtis asjaolu, et agentidel ei lubatud krediidi vabastamise protsessi arutada ja nad ei suutnud otsuse kohta tõendeid esitada.
Hanson ja tema naine maksid kontrollimiseks isegi 25 dollarit Skoor teine ​​krediit Ameerika pangandussüsteemis ja üllatavalt teine ​​(ja partneriga suhtlev Apple) on selle väärtus suurem kui kui abikaasa. Teisisõnu, nähtusele pole usutavat seletust, mis pole kalduvus algoritmi põimitud eelarvamustesse. Nagu arendaja ütles:
Pärast Hansoni aruannet väitis, et sama probleemi kannatavad veel mitmed kasutajad. Üks neist pole keegi muu kui Steve Wozniak, Apple'i kaasjuht:
Jutu mõju ja sotsiaalmeedias avaldatud reportaažide arv on võimude tähelepanu köitmiseks piisavad. New Yorgi osariigi finantsteenuste inspektori keskkonnaministri postituses Linda Lacewell, ütles, et uurib koos oma meeskonnaga juhtumit ja otsib Apple'i ja Goldman Sachsi algoritmide kohta lisateavet.
Lisaks tuletas server meelde, et New Yorgi osariigi seadused keelavad kaitstud üksikisikute klassi diskrimineerimise ja seetõttu ei saa ükski krediidilimiidi määramise meetod, sealhulgas algoritmid, hõlmata inimeste erinevat kohtlemist vanuse, usu või rassi alusel. , värvus, sugu, seksuaalne sättumus, rahvus või muud omadused. Sama seadus kehtib ka paljude teiste Ameerika Ühendriikide osariikide ja territooriumide kohta maailmas.
Apple seda juhtumit ei kommenteerinud, kuid Goldman Sachs asus Twitterisse faktiversiooni esitamiseks. Pangaväljavõte on järgmine:
Apple Cardi, isikliku konto ja krediidilimiidi korral; Loote oma otsese krediidiajaloo. Kliendid ei jaga krediidilimiite pereliikmete või muude lisakaartidega inimeste kontode alusel.
Nagu teisi individuaalseid krediitkaarte, hinnatakse teie tellimust iseseisvalt. Analüüsime iga inimese sissetulekut ja usaldusväärsust, mis sisaldab selliseid tegureid Skoor isiklik krediit, võlg, mis teil on, ja kuidas seda hallatakse. Nendest teguritest lähtuvalt on kahel samast perest pärit inimesel võimalik vastu võtta väga erinevaid krediidiotsuseid.
Igal juhul ei tee ega tee me otsuseid, mis põhinevad sellistel teguritel nagu sool.
New Yorgi osakonna juurdlus aga jätkub ja me peame selle juhtumi kohta koheselt kuulma lisateavet. Mida sa arvad
läbi MacRumors