Teknologia-alustoilla ja sovelluksissa on edelleen liian vähän turvallisia tiloja

Tekoäly on ihmisten rakentama. Se tarkoittaa sitä, että tekoälyä kehittävien ihmisten ennakkoluulot ja normit sekä syrjivät rakenteet siirtyvät sovelluksiin ja vaikuttavat meistä jokaiseen, kirjoittaa digitaalisen kehityksen asiantuntijamme Irena Bakić. 28. huhtikuuta vietetään kansainvälistä Girls in ICT -päivää.

Kun viime marraskuussa n-sana alkoi trendata Twitterissä ja Instagramissa, tekoälyn surkea kyky rasistisen sanaston tunnistamisessa tuli todistettua omakohtaisesti. Raportoin yhteensä kymmeniä rasistisia kommentteja, joista osassa käytettiin n-sanaa. Somejäteiltä saamani automaattivastauksen mukaan raportoimani kommentit eivät olleet yhteisösääntöjen vastaisia, joten niitä ei poistettu. Ei, vaikka ne selkeästi sisälsivät vihapuhetta.

Ajattelin ensin, että ongelmat vihapuheen raportoinnissa johtuivat suomenkielisestä sisällöstä. Kun tutkin aihetta lisää, opin, että kyse on suuremmasta rakenteellisesta ongelmasta. AI for the People -järjestön toimitusjohtajan Mutale Nkonden mukaan tekoälyn ongelmat rasistisen kielen tunnistamisessa johtuvat siitä, että tekoälytutkimusta, kehitystä ja tuotantoa johtavat ihmiset, jotka ovat sokeita rasismin vaikutukselle arkeen ja teknologiaan.

Tekoäly oppii sanat ja kielen ihmisten tuottamasta tekstistä, jota se haalii muun muassa kirjallisuudesta ja internetistä. Varoittava esimerkki tekoälyn kehittymisestä ihmisen tuottaman tekstin avulla on Microsoftin vuonna 2016 julkaisema twitterbotti Tay, joka muuttui 24 tunnissa rasistiseksi öyhöttäjäksi. Tekoäly ei ole niin vielä niin älykäs, että se ymmärtäisi syvempiä merkityksiä sanojen takana. Siksi tarvitaan eritaustaisia ihmisiä rakentamaan sekä teknologioita että niihin liittyviä säädöksiä.

Algoritmic Justice League -järjestön perustaja, tutkija Joy Buolamwini tutki kolmea suosituinta kasvojentunnistusjärjestelmää. Hän tutki erityisesti niiden kykyä tunnistaa kuvan henkilön sukupuoli. Buolamwini tarkasteli, miten tuloksiin vaikuttaa sukupuoli ja ihon väri. Tutkimuksen aineistona käytettiin kuvia kolmen eurooppalaisen ja kolmen afrikkalaisen maan parlamentin jäsenistä. Tutkimus osoitti kyseisten teknologioiden tunnistavan valkoihoisten miesten kasvot parhaiten. Tekoäly tunnisti tummaihoisen naisen sukupuolen 34,4 prosenttia huonommin kuin valkoihoisen miehen sukupuolen. Konenäön heikompi kyky tunnistaa ei-valkoisen henkilön kasvoja vaikuttaa esimerkiksi puhelimissa ja passintarkastuksessa käytettävän kasvojentunnistusteknologian toimintaan. Teknologioita on Buolamwinin tutkimuksen ansiosta kehitetty paremmiksi.

Tekoäly, konenäkö mukaan lukien, on ihmisten rakentamaa. Se tarkoittaa sitä, että ihmisten ennakkoluulot, ajatusmallit ja normit siirtyvät tekijöidensä kautta esimerkiksi sovelluksiin. Aivan samalla tavalla siirtyvät myös syrjivät rakenteet. Vähemmistöjen ja erityisesti ei-valkoisten naisten vähyys teknologia kehittäjinä on johtanut siihen, että teknologiaa on kehitetty nimenomaan valkoihoisen miehen arkkityypille. Tekoälyjäteistä muun muassa Googlella teknologiaan liittyvien tehtävien työntekijöistä 1,8 prosenttia on afroamerikkalaisia naisia (Google 2021).

Suomessa naisten osuus tekniikan alan opiskelijoista on vain 20 prosenttia. Naisten lisäksi on kiinnitettävä huomiota sukupuolen moninaisuuteen, mutta siihen on vielä vaikeampi tarttua, koska se harvemmin näkyy tutkimuksissa. Myös tilastot ovat edelleen binäärisiä eli ne tunnistavat vain kaksi sukupuolta, naisen ja miehen.

Teknologia-alan sukupuolittuneisuus alkaa jo nuorella iällä. Lasten innostus matemaattis-luonnontieteellisiä aineita kohtaan on sukupuolesta riippumatta yhtä suurta, mutta tyttöjen kiinnostus niitä kohtaan tippuu dramaattisesti teini-iän kynnyksellä. Sukupuolinormit ja stereotypiat vaikuttavat vahvasti siihen, että teknologia-ala koetaan miesten jutuksi ja opintoihin hakeutuu vähemmän tyttöjä.

Tekniikan akateemisten (TEK) tammikuussa julkaiseman opiskelijatutkimuksen mukaan vähemmistöihin kuuluvat kohtaavat tekniikan alalla muita opiskelijoita enemmän syrjintää. Kielivähemmistöön kuuluvista opiskelijoista häirintää tai epäasiallista kohtelua raportoi 11 prosenttia, uskonnolliseen tai rodullistettuun vähemmistöön kuuluvista 14 prosenttia ja seksuaali- ja sukupuolivähemmistöihin kuuluvista yhteensä 28 prosenttia.

Rodullistettuun vähemmistöön kuuluvien vastaajien epäasiallinen kohtelu oli työelämässä vielä huomattavasti yleisempää kuin opinnoissa. Tähän ryhmään kuuluvista vastaajista joka neljäs kertoi kokeneensa epäasiallista kohtelua tai häirintää. Uskonnolliseen vähemmistöön kuuluvista 12 prosenttiakertoi tällaisesta kohtelusta. Kielivähemmistöön kuuluvista häirintää tai epäasiallista kohtelua oman alan töissä oli kokenut 17 prosenttia eli selvästi useampi kuin opiskeluissa.

Pyysin TEK:n johtavalta tutkijalta Susanna Bairohilta lisää lukuja ja tietoa siitä, miten tutkimuksessa näkyi moniperustainen syrjintä eli se, että syrjintäkokemukseen vaikutti sukupuolen lisäksi kuuluminen johonkin vähemmistöön. Saamani vastaus ei yllättänyt. Vähemmistöön kuuluvista naisista 28 prosenttia kertoi kokeneensa häirintää, kun vastaava luku miehillä oli 9 prosenttia.

Olen itse valmistunut diplomi-insinööriksi Aalto-yliopistosta ja tiedän, mitä sukupuolidiversiteetin vähyys pahimmillaan tarkoittaa miesvaltaisessa opinahjossa. Ahdistelua ja kiusaamista. Opinnoissani ja yhden kesän mittaisella työuralla ”omalla alalla” koin häirintää ja kiusaamista sekä sukupuoleni että serbialaisten juurieni takia. Tiedän, että tänä päivänä ylioppilaskunnat, opiskelijajärjestöt ja yliopistot tekevät töitä sen eteen, että yliopistot olisivat opiskelijoille turvallisia tiloja riippumatta heidän taustastaan. 

Teknologia-alustoilla ja sovelluksissa turvallisia tiloja on edelleen liian vähän. Planin vuonna 2020 tekemä tutkimus osoitti, että 42 prosenttia suomalaisista tytöistä on kohdannut verkkohäirintää. Erityisen räikeää se oli etnisiin, seksuaali- ja sukupuolivähemmistöihin ja vamman kanssa elävien tyttöjen kuuluvien kohdalla. Somejättien on otettava huomattavasti enemmän vastuuta alustoillaan tapahtuvasta häirinnästä, koska sen tavoitteena on hiljentää naisten ja tyttöjen äänet.

Teknologian sukupuolittuneisuus on purettava myös siksi, että 90 prosenttia nykyisistä työpaikoista Euroopassa vaatii digitaitoja. Kymmenen vuoden päästä sama prosenttiosuus työpaikoista maailmanlaajuisesti vaatii digitaitoja. Heikot tai olemattomat digitaidot voivat tarkoittaa työelämän ja myös muun sosiaalisen elämän ulkopuolelle jäämistä.

Viime viikkoina erityisesti Ukrainan sota on entisestään korostanut digitaitojen merkitystä. Informaatiosodankäynti tapahtuu meidän jokaisen puhelimella.