Keinoäly syrji sukupuolen, kielen ja asuinalueen perusteella – Yhdenvertaisuusvaltuutettu älähti lainanhakijan kohtelusta

Luottoyhtiön käyttämä pisteytysjärjestelmä syrji hakijoita muun muassa äidinkielen ja sukupuolen mukaan. Syrjivä luottopäätös tuotti luottoyhtiölle käyttökiellon ja ison uhkasakon

syrjintä
piirilevy
Yle

Yhdenvertaisuus- ja tasa-arvolautakunnan tuoreessa ratkaisussa (siirryt toiseen palveluun) kielletään luottoyhtiötä käyttämästä tilastollisia menetelmiä luotonannossaan syrjivästi.

Kyse oli pitkälle automatisoidusta kuluttajaluoton myöntämisestä, jossa hakijan luottokelpoisuutta ei selvitetty henkilötasolla. Sen sijaan hakijan tietoja sukupuolesta, kielestä, iästä ja asuinpaikasta verrattiin vastaaviin tilastoihin luottokelpoisuuden selvittämiseksi.

Yhdenvertaisuus- ja tasa-arvolautakunnan mukaan luottoyhtiön käyttämä menetelmä on laissa kiellettyä syrjintää. Yhtiötä kiellettiin soveltamasta menetelmää jatkossa ja kiellon tehostamiseksi yhtiölle asetettiin 100 000 euron uhkasakko.

Ensimmäinen ratkaisu koneälyn käytöstä

Yhdenvertaisuus- ja tasa-arvolautakunnan ratkaisu on ensimmäinen, jossa kohteena on niin sanottuun koneälyyn perustuva luottopäätöksen tekeminen, jossa asiakasta ei tavata eikä hänen kanssaan keskustella luottokelpoisuuden selvittämiseksi.

Syrjinnästä lautakuntaan valittanut mies oli hakenut kuluttajaluottoa rahoittaakseen talotarvikkeiden ostot verkkokaupasta vuonna 2015.

Luotto evättiin ja miehen tiedusteltua syytä, hänelle vastattiin päätöksen perustuneen tilastollisiin menetelmiin perustuviin luottoluokituksiin. Hakijalta itseltään ei kysytty tulo- tai varallisuustietoja.

Yhtiön käyttämässä menetelmässä hakijalle annettiin pisteitä muun muassa asuinpaikan, sukupuolen, kielen ja iän perusteella. Yhdenvertaisuusvaltuutetun mukaan menetelmässä on kyse syrjivästä tilastollisesta profiloinnista sen sijaan, että hakijan taloudellisesta asemasta ja maksukyvystä tehtäisiin yksilöllinen arviointi.

Yhdenvertaisuusvaltuutettu Kirsi Pimiä vertaa tilannetta siihen, että vastaavaa menetelmää alettaisiin käyttää esimerkiksi työnhaussa.

– Kone voi olla tavallaan puolueeton, mutta kone myös oppii että aina tämäntyyppiset ihmiset tulevat valituiksi, jolloin se hakee niitä samantyyppisiä ihmisiä, joka voi johtaa työnhaussakin henkilöiden syrjintään.

Lautakunta kiinnitti päätöksessään huomiota siihen, että suomea puhuvalle mieshakijalle olisi myönnetty luotto, jos hän olisi ollut esimerkiksi nainen tai puhunut äidinkielenään ruotsia.

Ylipäätään tapa pisteyttää äidinkieltä asetti yhdenvertaisuusvaltuutetun mielestä muuta kuin suomea tai ruotsia äidinkielenään puhuvat etniset vähemmistöt muita epäedullisempaan asemaan.

Pimiä pohtiikin, että mikä olisi ollut koneen antama luottopäätös, jos hakijan äidinkieli olisi ollut viittomakieli.

Luottoyhtiö: Selvitysten tekeminen aiheuttaisi kustannuksia

Luottoyhtiö piti omassa vastineessaan menetelmäänsä asianmukaisena. Yhtiön mielestä kyse on verkkokaupan käyttöön tehdystä nopeasta ja automatisoidusta luototuksesta, johon ei istu yksilöllinen luottokelpoisuuden todentaminen. Lisäksi taustaselvitysten tekeminen nostaisi luoton kustannuksia.

– Kyllä heidän pitäisi pystyä miettimään sitä, miten pisteytysjärjestelmä noudattaa yhdenvertaisuuslain ja perustuslain pohjaa. Pitää muistaa, että koneet ovat ihmisten ohjelmoimia ja siihen pitää minusta nyt kiinnittää huomiota, Pimiä sanoo.

Yhdenvertaisuusvaltuutettu yritti tuloksetta sovitella asiaa reilun vuoden verran. Lopulta asia vietiin yhdenvertaisuus- ja tasa-arvolautakunnan käsittelyyn, joka kielsi luottoyhtiötä enää käyttämästä syrjivää pisteytysmenetelmäänsä.

Kiellon tehostamiseksi yhtiölle asetettiin 100 000 euron uhkasakko. Lautakunnan päätökseen on mahdollista hakea muutosta hallinto-oikeudesta.

Yhdenvertaisuusvaltuutettu aikoo tapauksen johdosta olla yhteydessä rahoitusalan eri toimijoihin selvittääkseen, mitä mahdollisia ongelmia voi syntyä, kun luottopäätöksiä automatisoidaan koneälyn avulla.

Tekstiä muokattu 25.4.2018 klo 14.15 tarkentamalla kielen pisteytykseen liittyviä lauseita. Lisäksi korjattu klo 15:20 lause "Ylipäätään tapa pisteyttää äidinkieltä asetti lautakunnan mielestä..." muotoon "Ylipäätään tapa pisteyttää äidinkieltä asetti yhdenvertaisuusvaltuutetun mielestä..." Juttuun lisätty samalla myös uusi viimeinen kappale. Klo 16:05 korjattu jutun ensimmäistä virkettä, jossa kerrotaan kielto tilastollisten menetelmien syrjivästä käytöstä. Aiemman, virheellisen muotoilun mukaan lautakunta olisi kieltänyt menetelmien käytön kokonaan.