Yhdenvertaisuusblogi

Takaisin

Tiesitkö, että tekoälyyn ja algoritmeihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu?

Tiesitkö, että tekoälyyn ja algoritmeihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu?

Twiittasin hiljattain samalla otsikolla tekoälystä ja syrjinnästä. Sain reaktioita, että tieto yhdenvertaisuusvaltuutetun toimivallasta valvoa syrjintää tekoälyn käytössä oli uutta. Avaan tässä blogissa hieman, miten tekoäly ja syrjintä liittyvät toisiinsa sekä miten yhdenvertaisuusvaltuutettu voi puuttua myös tähän syrjintään.

Tekoälyn käytön ja erityisesti algoritmisen automaattisen päätöksenteon syrjivyys voi johtua monenlaisia seikoista: opetusdatan virheistä tai puutteista, huonosti valituista ennustemuuttujista tai lajittelukriteereistä tai siitä, että algoritmi on suoraan rakennettu antamaan merkitystä syrjintäperusteelle kuten iälle, kielelle tai sukupuolelle. Esimerkiksi kasvojentunnistuksessa käytettävien algoritmien on raportoitu tunnistavan paremmin valkoihoisia, koska tekoäly on opetettu valkoihoisten kasvojen avulla. Tummaihoiset joutuvat tällöin syrjivästi useammin väärien epäilysten ja turhien toimenpiteiden kohteeksi. Rekrytoinnissa käytetty tekoäly voi johtaa syrjiviin palkkauspäätöksiin esimerkiksi sukupuolen perusteella, jos algoritmi pohjautuu aikaisempaan sukupuolen osalta yksipuoliseen rekrytointikäytäntöön.

Lisäksi vaikka tekoälyn ei annettaisi antaa merkitystä suoraan tietylle syrjintäperusteelle ja tämä tieto poistettaisiin datasta, voi tekoäly löytää datasta sellaista henkilöä koskevaa tietoa, joka vahvasti liittyy syrjintäperusteeseen. Esimerkiksi kieltä ja asuinpaikkaa koskevat tiedot saattavat joissain tilanteissa korreloida vahvasti alkuperän kanssa. Tekoäly voi itsestään ilman sen laatijan tai käyttäjän tarkoitusta tai halua päätyä välillisesti syrjiviin ennusteisiin ja johtopäätöksiin yhdistelemällä henkilöön liittyvää tietoa.

On kuitenkin aina ihmisten vastuulla varmistaa, että tekoäly ei aiheuta syrjintää. Syrjintävastuun kannalta ei ole olennaista aiheutuuko yksilön eriarvoinen kohtelu algoritmin vai työntekijän toiminnan seurauksena. Järjestelmästä vastaava taho vastaa toimintansa yhdenvertaisuuslainmukaisuudesta kaikissa tilanteissa.

Yhdenvertaisuuslaki, jossa syrjintä kielletään ja määritellään, koskee myös tekoälyn hyödyntämistä. Syrjintäperusteiden lista on laissamme jätetty avoimeksi. Tapauskohtaisesti syrjintäperuste voi olla esimerkiksi sellainen henkilöön liittyvä syy kuten asuinpaikka tai sosiaalinen status. Sukupuoleen perustuva syrjintä kielletään tasa-arvolaissa.

Yhdenvertaisuusvaltuutetun tehtävä on valvoa syrjinnän kieltoa. Valtuutetulle voi kannella tai voimme omasta aloitteesta selvittää, mikäli syntyy epäily syrjinnästä tekoälyn käytössä.  Valtuutetulla ei ole päätöksentekovaltaa, mutta valtuutettu voi edistää sovintoa osapuolten välillä tai tarvittaessa viedä asian yhdenvertaisuus- ja tasa-arvolautakuntaan tai oikeuteen.

Yhdenvertaisuusvaltuutettu vei automaattista päätöksentekoa luotonannossa koskevan tapauksen yhdenvertaisuus- ja tasa-arvolautakuntaan vuonna 2017. Automatisointi perustui järjestelmään, jossa luotonhakijat pisteytettiin muun muassa asuinpaikan, sukupuolen, äidinkielen ja iän perusteella. Lautakunta totesi päätöksessään syrjinnän ja asetti merkittävän uhkasakon syrjineelle toimijalle.

Syrjinnän ehkäisemiseksi ja havaitsemiseksi tekoälyn toimintaa on monitoroitava ja testattava säännöllisesti. Vaikutustenarviointi on tarpeellista tehdä jo ennen käyttöönottoa. Erilaisia toimijoita – mukaan lukien yrityksiä, tutkimuslaitoksia ja järjestöjä – on alkanut tuottamaan työkaluja ja kysymyspatteristoja vaikutustenarvioinnin pohjaksi. On tärkeää, että näitä hyödynnetään ja edelleen kehitetään. Syrjinnän riski on tunnistettava ja ehkäistävä tehokkaasti myös tietosuojasääntelyn velvoittamien riski- ja vaikutusarviointien yhteydessä. Läpinäkyvyydenkin toteuttamiseksi on laadittu erilaisia työkaluja.  Tekoälysysteemien mahdollisimman hyvä läpinäkyvyys on olennaista syrjinnän ennaltaehkäisyssä ja valvonnassa sekä yhdenvertaisuuden edistämisvelvoitteen toimeenpanossa.

Yhdenvertaisuuslaki velvoittaa viranomaiset, työnantajat ja koulutuksen järjestäjät edistämään yhdenvertaisuutta. Velvoite koskee myös tekoälyä hyödyntämistä. Käytännössä siis jo tekoälyn käyttöä suunniteltaessa on tehtävä vaikutustenarviointi yhdenvertaisuusnäkökulmasta. Edistämisvelvoite koskee myös yhteistyötä ja ulkoistettaessa toimia yksityisille toimijoille - esimerkiksi viranomaisen on siis tehokkain toimin varmistettava, ettei se hanki ja hyödynnä yksityisen laatimaa syrjivää tekoälyä. Tekoälyn käytön yhdenvertaisuusvaikutukset on huomioitava myös osana yhdenvertaisuussuunnittelua.

Tekoälyn käytön ja algoritmisen päätöksenteon lisääntyessä yhdenvertaisuuskysymysten merkitys ja määrä kasvaa. Valtuutettu on keskustellut aiheesta viime aikoina monien eri toimijoiden kanssa, esimerkiksi Finanssivalvonnan ja suurimpien pankkien (aiheena luottopäätöskaavojen syrjimättömyys), Keskuskauppakamarin ja Kaupan liiton (markkinoinnin ja hinnoittelun syrjimättömyys, yritysvastuu tekoälyn käytössä), tietosuojavaltuutetun (yhteistyön kehittäminen valtuutettujen toimistojen välillä, vaikutustenarvioinnit) sekä useiden ministeriöiden (vaikutustenarviointi tekoälyhankkeissa, tekoälyn huomioiminen yhdenvertaisuussuunnittelussa) kanssa.

Yhteiskunnassamme on erilaisia käsityksiä yleisesti siitä, mikä on oikeudenmukaista ja hyvää. Tämä keskustelu heijastuu luonnollisesti myös tekoälyn käyttöön. Tulemme jatkossa varmasti saamaan niin kansallisilta tuomioistuimilta kuin EU:n ja Euroopan ihmisoikeustuomioistuimelta mielenkiintoisia linjauksia tekoälyn käytön vaikutusten oikeasuhtaisuuspunninnasta syrjinnän kiellon näkökulmasta. Yleisiä ja kaikkiin tilanteisiin päteviä linjauksia on melko mahdotonta antaa - syrjivyyttä on arvioitava tapauskohtaisesti huomioiden esimerkiksi tekoälyn käyttökonteksti, tarkoitus ja vaikutukset.

Selvää kuitenkin on, että tekoälystä tulee helposti syrjivä, jos sitä laativat ja palveluihinsa tilaavat henkilöt eivät tiedosta syrjinnän riskejä.

Näen tekoälyssä paljon myös mahdollisuuksia edistää yhdenvertaisuutta – toivottavasti tekoälyn kehittämisessä painotetaankin tulevaisuudessa nimenomaan yhdenvertaisuuden edistämiseen.

Lisätietoja:

Tekoälyn ja syrjinnän ehkäisemisestä lisätietoa esimerkiksi Euroopan neuvoston julkaisuissa: 

Yhdenvertaisuus- ja tasa-arvolautakunnan päätös 216/2017, 21.3.2018 


Yhdenvertainen viestintä lisää luottamusta viranomaisiin - yhdenvertaisuusblogi

Yhdenvertaisuusblogi

Tämä on yhdenvertaisuusvaltuutetun blogi. Kirjoituksissa yhdenvertaisuusvaltuutettu ja toimiston henkilökunta sekä ulkopuoliset kirjoittajat pohtivat syrjinnän puuttumiseen ja yhdenvertaisuuteen liittyyviä aiheita. 

Blogitekstejä saa kommentoida, mutta kaikki kommentit ennakkomoderoidaan. Hyväksymme ainoastaan asiallisia jokaisen ihmisarvoa kunnioittavia kommentteja.