Lausunnot

Takaisin

Lausunto kansallisen tekoälyohjelma AuroraAI:n kehittämis- ja toimintasuunnitelmasta

Lausunto kansallisen tekoälyohjelma AuroraAI:n kehittämis- ja toimintasuunnitelmasta

Valtiovarainministeriö

Tekoälyohjelma Aurora Ai

VM151:00/2018

Lausunto kansallisen tekoälyohjelma AuroraAI:n kehittämis-  ja toimintasuunnitelmasta vuosille 2019-2023

 

Yhdenvertaisuusvaltuutetun tehtävänä on valvoa yhdenvertaisuuslain (1325/2014) noudattamista siten kuin sanotussa laissa säädetään sekä yleisesti edistää yhdenvertaisuuden toteutumista ja ehkäistä syrjintää.

Esiselvityshankkeen kehittämis- ja toimeenpanosuunnitelmassa todetaan, että Aurorassa välttämättä noudatettavan laillisuus- ja sopimusperustan muodostavat mm. yhdenvertaisuuslaki ja laki naisten ja miesten välisestä tasa-arvosta. On hyvä, että syrjinnän kieltävät lait on nostettu suunnitelmassa esille.  Valtuutettu kuitenkin toteaa, että itse hankkeen valmistelussa ja sen toimeenpanosuunnitelmassa on vielä melko kevyesti pohdittuna ja konkretisoitunut syrjinnän kiellon vaikutus ja merkitys. On yleisesti tiedossa oleva seikka, että tekoälyn käytöllä on huomattavat riskit aiheuttaa syrjintää ja siksi syrjinnän kieltoon tulee hankkeen jatkossa kiinnittää riittävästi merkitystä.

Yhdenvertaisuusvaltuutettu pitää ensiarvoisen tärkeänä, että Aurora-verkon kehitystyössä selvitetään kattavasti ja varhaisessa vaiheessa hankkeen yhdenvertaisuusvaikutukset. Osana verkon kehittämistyötä on varmistuttava, että järjestelmää ei voida hyödyntää yksilöä välittömästi tai välillisesti syrjiviin toimintatapoihin. Tämän vuoksi on olennaista, että verkossa hyödynnettävälle tiedolle määritellään laatukriteerit ja toiminnalle luodaan yleiset linjaukset, joissa otetaan huomioon tietosuojasääntelyn lisäksi yhdenvertaisuuslaista ja tasa-arvolaista johtuvat vaatimukset. Yhdenvertaisuuslain 5 § mukaisesti viranomaisten on yhdenvertaisuuden kannalta merkityksellisten hankkeiden valmistelussa arvioitava niiden yhdenvertaisuusvaikutukset.

Kehittämis- ja toimeenpanosuunnitelmassa todetaan, että Auroran eettinen koodisto muodostaa kokonaisuuden periaatteita, jotka ohjaavat verkostoa Aurora AI:n palveluita kehittäessä.  Valtuutettu pitää hyvänä, että eettiseen koodistoon on nostettu yhdenvertaisuus ja syrjimättömyys, mutta tällä hetkellä maininta on hyvin yleisellä ja määrittelemättömällä tasolla.  Käsitteitä tulee hanketta kehitettäessä avata tarkemmin ja täsmentää niiden sisältöä, jotta toimijoille on yksiselitteistä, mitä näillä käytännössä tarkoitetaan.

Valtuutettu huomioi myös, että etiikkasuosituksien listaus etiikkatyöryhmän työpajoissa ja työpaketeissa tunnistetuista kipukohdista ei sisällä olennaista kysymystä tietojen yhdistämisen aiheuttamasta välillisen syrjinnän riskistä sekä siitä, missä määrin käyttäjähenkilöille suunnatuissa palveluissa voi aiheutua syrjintää vaikka palvelussa ei suoranaisesti tehtäisikään käyttäjähenkilöä koskevia päätöksiä.

Aurora-verkon tietosuojavaikutuksia koskevassa raportissa todetaan, että verkko mahdollistaa henkilötiedon keräämisen, mutta ei itse sitä tee. Aurora-verkko ei myöskään määrittele tiedon laatua. Samalla todetaan, että Aurora-verkon yksi mahdollinen toiminnallisuus on henkilön profilointi. Profiloinnissa anonyymit henkilötiedot profiloidaan eri kategorioihin siten, että luonnollinen henkilö voi kuulua kyseiseen kategoriaan.

Viranomaistoiminnassa käytetyn tekoälyn keskeisenä vaatimuksena tulee perustuslain 22 §:n mukaisesti olla, että sen käyttö edistää perus- ja ihmisoikeuksien toteutumista.  Lisäksi on varmistuttava, että myöskään yksityisen sektori ei voi hyödyntää alustaa tavoilla, joka johtaisi henkilöiden välittömään tai välilliseen syrjintään. 

Erityistä huomiota tulisi kiinnittää siihen, ettei henkilöiden profilointikategorioita muodostettaessa hyödynnettäisi kiellettyjä syrjintäperusteita, ellei siihen ole syrjintälainsäädännössä tarkoitettuja hyväksyttäviä perusteita. Arvioinnissa on syytä kiinnittää huomiota myös perustuslain ja yhdenvertaisuuslain syrjintäperusteluetteloiden avoimuuteen. Tällainen laissa tarkoitettu muu henkilöön liittyvä syy voi olla esimerkiksi asuinpaikka.

Toimintamallien suunnittelussa on tärkeä ottaa huomioon, että syrjivään lopputulokseen voidaan päätyä myös yhdistämällä sinänsä neutraalien tietojen toisiinsa, ja näin muodostaa välillisesti kiellettyyn syrjintäperusteeseen viittaavan kategorian. Algoritmien yhdenvertaisuusvaikutuksia on testattava käytännössä ja seurantaa tulee jatkaa myös järjestelmän käyttöönoton jälkeen, jotta välilliset vaikutukset ihmisten tosiasialliseen yhdenvertaisuuden voitaisiin todeta. Yhdenvertaisuuslaissa kiellettyyn syrjintään syyllistyminen ei edellytetä toimijan tahallisuutta, vaan lainvastaiseen menettelyyn voi syyllistyä myös ilman syrjivää tarkoitusta.

Yhdenvertaisuusvaltuutettu toteaa, että kehitettävälle verkolle on osoitettava selkeä vastuuviranomainen, jolla on kokonaisvastuu järjestelmän lainmukaisuudesta myös silloin, kun se yhdistää eri toimijoiden tietoja toisiinsa.  Yhdenvertaisuuslain soveltamisen kannalta ei ole olennaista, aiheutuuko yksilön eriarvoinen kohtelu toimijan algoritmin vai työntekijän toiminnan seurauksena. Järjestelmästä vastaava taho vastaa toimintansa lainmukaisuudesta riippumatta siitä, tuottaako sen ihminen vai algoritmi.

24.04.2019