Heikki Valkama: ”Naiset ovat tyhmiä ja pilanneet maailman” – ennakkoluulot siirtyvät koneille, siksi niitä on vahdittava

Ihmisten väärät käsitykset ja ennakkoluulot tuppaavat siirtymään sellaisenaan tekoälylle. Siksi on tärkeää, että emme kauhistele algoritmeja, vaan tutustumme niiden toimintaan, kirjoittaa Heikki Valkama blogissaan.

Yle Blogit
Heikki Valkama
Antti Haanpää / Yle

Kun Googlen hakukenttään kirjoittaa “Naiset ovat” tai “Miehet ovat” saa erilaiset vastausehdotukset. Testasin samaa kahdella koneella, omallani ja naiskollegan, ja tulos oli sama.

Naiset ovat tyhmiä

Naiset ovat pilanneet maailman

Naiset ovat nirsoja

Naiset ovat ylimielisiä

Naiset ovat kuin viini

Ja:

Miehet ovat marsista naiset venuksesta

Miehet ovat usein tajuamattaan

Miehet ovat marsista naiset venuksesta teatteri

Miehet ovat tyhmiä

Miehet ovat urheilussa naisia parempia

Googlen algoritmi tarjoaa ehdotuksia sen perusteella, mitä muut ihmiset, tässä tapauksessa suomen kielellä hakuja tehneet, ovat hakukenttään kirjoittaneet.

Hakukoneeseen on ohjelmoitu keinoäly, joka yrittää ymmärtää, mitä tietoa hakija etsii. Se arvioi pariasataa erilaista tekijää. Tärkeitä ovat esimerkiksi sivuston suosio, sille ohjaavat muiden nettisivujen linkit sekä sisällön vastaavuus hakusanojen kanssa.

Ongelmana on, että algoritmit toistavat ennakkoluulojamme.

Algoritmit ovat yhtä hyviä kuin mekin, kirjoittaa viestinnän ja teknologian tutkija Salla-Maaria Laaksonen. Ihmisten toimintatavat, vinoumat ja virhekäsitykset siirtyvät suoraan algoritmeihin joko ohjelmoinnin tai koneoppimisen kautta.

“Hakukone suoltaa sisältöä, josta se arvelee etsijän pitävän aiemman verkkokäyttäytymisen perusteella. Teknologia tuottaa kaikukammioita, koska ihmiset ovat sosiaalisessa toiminnassa tyypillisesti mieluiten oman viiteryhmänsä kanssa”, Laaksonen kirjoittaa Rajapinta-julkaisussa (siirryt toiseen palveluun).

“Työnhakualgoritmi syrjii tummaihoisia. Microsoftin tekoälybotti jouduttiin ottamaan pois linjoilta, kun se oppi päivässä suoltamaan rasistista vihapuhetta Twitterin elämänkoulussa”, Laaksonen jatkaa.

Bathin yliopiston tutkija Joanna Bryson on selvittänyt laajasti verkon ennakkoluuloja. Hän syötti koneen analysoitavaksi valtavan määrän tekstiä tekstiä, 840 miljardia sanaa. Ne kerättiin internetin artikkeleista ja erilaisilta keskustelupalstoilta. Sanoista koottiin toisiinsa liittyviä ryhmiä, joita verrattiin ihmisten ennakkoasenteita ja harhaluuloja tutkivaan testiin.

Tulos oli odotettu. Verkossa oli samoja vääristyneitä asenteita kuin ihmisillä yleensäkin. Siis sellaisia, että kun vaikka ajattelemme sairaanhoitajaa, useimmat meistä ajattelevat sen kummemmin pohtimatta naista – tai kun ajattelemme professoria, monet ajattelevat miestä.

Koneet oppivat ennakkoluulot, koska kieli on täynnä ennakkoluuloja ja vääristymiä. Kyse ei siis ole vain siitä, että tekoälyä suunnittelevat valkoiset amerikkalaiset Piilaakson miehet, jotka siirtävät ennakkoluulonsa koneille (siirryt toiseen palveluun). Kyse on laajemmin kielessä piilevistä rakenteista. Siksi niihin pitää kiinnittää huomiota.

Ei ole koneen vika, että se ensimmäisenä tarjoaa ajatuksen, että naiset ovat tyhmiä ja naiset ovat pilanneet maailman. Mutta kone, tai nämä algoritmit, ohjaavat ja vahvistavat ihmisten ajatuksia ja tekemisiä verkossa.

Algoritmien ennakkoluuloja ja ongelmia käsittelee myös _Totuuden jälkeen – Miten media selviää algoritmien ja paskapuheen aikana -_kirja, joka tarjoaa kiinnostavia näkökulmia politiikkaan, yhteiskuntaan ja mediamaailmaan.

Kirjoittajat toteavat, että sosiaalisen median algoritmit on suunniteltu valikoimaan käyttäjälle sellaista sisältöä, joka saa heidät viipymään alustalla mahdollisimman pitkään, koska se maksimoi mainosten näkyvyyden.

”Julkisuuden ja demokratian näkökulmasta toimintamalli on ongelmallinen, koska algoritmit eivät osaa – tai osaavat huonosti – tehdä laadullisia erotteluja erilaisten sisältöjen välille”, Antto Vihma, Jarno Hartikainen, Hannu-Pekka Ikäheimo ja Olli Seuri kirjoittavat.

Algoritmeille valemedian keksityt uutiset ovat yhtä hyviä kuin oikeat uutiset - jos vain ihmiset käyttävät aikaa niiden äärellä.

“Vaikka Facebook, Google ja Twitter toistuvasti korostavat, että ne ovat vain neutraaleja alustoja erilaisten sisältöjen jakamiselle ja löytämiselle, todellisuudessa niiden algoritmit tekevät päivittäin miljardeja valintoja, jotka vaikuttavat oleellisesti siihen, mikä näkyy ja mikä unohtuu.”

Mitä siis tehdä valeuutisille ja ennakkoluuloille?

Ensinnäkin, algoritmeja ei kannata pelätä. Ne ovat yhtä pelottavia kuin matematiikka. Ne vaativat lähestymistä ja ymmärtämistä.

Mitä useampi ymmärtää niiden toimintaa, sitä helpompi niiden käyttöön on myös vaikuttaa. Sitä parempi mahdollisuus meillä on vaatia parempia algoritmeja.

Tietenkin pallo on myös tekoälyn kehittäjillä ja algoritmeja käyttävillä yrityksillä, etenkin teknologiajäteillä. Demokratian ja koko ihmisten välisen kommunikaation kannalta olisi tärkeää, että teknologiajätit avaisivat algoritmiensa toimintaperiaatteet.

Sen jälkeen voidaan kiinnittää huomio siihen, millainen olisi reilu alrogitmi (siirryt toiseen palveluun), kuten tutkija Madeleine Clare Elish sanoo.

Heikki Valkama

Kirjoittaja vetää Ylen digitalisaatio- ja tulevaisuustoimitusta. Hän on myös Ylen sisältöpäällikkö ja kirjailija.