En voi tunnistaa trans- ja ei-binaarisia ihmisiä
Rain Dove juo baarissa ja hänen on mentävä kylpyhuoneeseen. Kun hän kävelee käytävällä, kamera skannaa kasvojaan avatakseen wc-oven sukupuolensa mukaan. Mikä ovi Rain Doven kasvot avautuisivat? Todennäköisesti yksi miesten huoneessa.
Coloradon yliopiston Boulderissa (USA) tekemässä tutkimuksessa havaittiin, että suuret keinotekoiseen älyyn perustuvat kasvojentunnistusohjelmat eivät pysty tunnistamaan trans- ja ei-binaarisia ihmisiä.
Kun saksi sukupuoliset miehet ja naiset luokiteltiin tarkasti 98%: lla tapauksista, transsukupuoliset (jotka eivät tunnista sukupuolta sukupuolesta) luokiteltiin virheellisesti noin 30%: n ajasta. Muiden kuin binääritiedostojen tapauksessa (jotka eivät tunnista itseään mies- tai naispuolisiksi) kone huomasi kaikki yritykset.
Kyselyn suorittamiseksi kerättiin 2450 kuvaa kasvoista Instagramissa hashtageilla #woman, #man, #transwoman, #transman, #agenderqueer ja #nonbinary. Sen jälkeen kun ryhmä- tai puoli piilotetut kasvotietueet oli poistettu, jäljellä oleva jaettiin 350 kuvan ryhmiin, joita käytettiin kasvojentunnistusohjelman Rekognition (Amazon), Watson (IBM), Azure (Microsoft) ja Clarifai testaamiseen.
Keinotekoinen äly toistaa ennakkoluuloja
Tutkijoiden mielestä algoritmit käyttävät vanhentuneita stereotypioita, mikä lisää entisestään virhetasoa. Yksi esimerkki tuli itse ryhmästä: Yksi tutkijoista, joilla on pitkät hiukset, luokiteltiin naispuoliseksi ohjelmiston puolet.
Sukupuoleen ei ymmärretä vain väärin: Tammikuussa julkaistu MIT Media Lab -tutkimus osoitti, että Rekognition tunnisti mustat naiset miehiksi 30%: lla potkutuksestaan. Vaikka tällaisia virheitä ei korjata, ennakkoluulot esiintyvät epätavallisimmissa paikoissa: Vuonna 2015 Google Photos merkitsi keinotekoisella älykkyydellä mustia käyttäjän selfies -kuvia gorillakuvina.
AI ei pysty tunnistamaan trans- ja ei-binaarisia ihmisiä TecMundon kautta
