Kiinalaiskaupunki Chongqingia koskevissa matkailumainoksissa näkyy kuvia hienosti valaistuista pilvenpiirtäjistä, Jangtse-joen vehreästä ympäristöstä ja pulskantyytyväisistä pandoista.
Idyllin takaa löytyy massiivinen valvontakoneisto. Yli 17 miljoonan asukkaan Chongqingissa on teknologiasivusto Comparitechin mukaan 7,6 miljoonaa valvontakameraa. Toisin sanoen yksi kamera lähes joka toista ihmistä kohti.
Kiinan kommunistisen puolueen voimakkaasti kehittämän tarkkailukoneiston kasvulle ei näy loppua. Vaikka valvonta on auttanut ehkäisemään ja selvittämään rikoksia, siihen liittyy suuria ongelmia.
Kiinan hallinto on ylläpitänyt valvonnan avulla pistesysteemiään. Siinä ihmisiä laitetaan karkeasti sanottuna paremmuusjärjestykseen sen mukaan, miten tunnollisesti he esimerkiksi maksavat laskujaan, käyttäytyvät liikenteessä tai missä seurassa he viettävät vapaa-aikaansa.
– Länsimaisen ihmiskäsityksen vinkkelistä Kiinan järjestelmä on ihan hirveä, tietoturva-asiantuntija Petteri Järvinen sanoo, mutta lisää, että monet kiinalaiset pitävät valvontaa hyvänä asiana.
Dystopia, Orwellin maailma, sci-fi-elokuva… Kiinan valvontayhteiskuntaan liitetään monia negatiivisia mielikuvia. Teknologia- ja ihmisoikeusasiantuntijat ovat olleet huolissaan, että länsimaat voivat luisua johonkin samankaltaiseen.
Huoli kasvoi maaliskuussa, kun Ranska ilmoitti aloittavansa ensimmäisenä EU-maana tekoälyn avulla tapahtuvan kansalaisten massavalvonnan. Syynä ovat ensi vuoden heinäkuussa alkavat Pariisin olympialaiset.
Olympialaiset ja paralympialaiset tuovat Pariisiin noin 15 000 urheilijaa. Arvioiden mukaan kaupungissa vierailee suurtapahtumien aikana miljoonia turisteja. Se tietää päänvaivaa paikallisille viranomaisille, sillä olympialaisten kaltaisiin urheilujuhliin liittyy väistämättä turvallisuushuolia.
Vuosien 1972 ja 1996 olympiakisojen tragediat järkyttivät ihmisiä ympäri maailmaa. Lisäksi Ranskalla ovat kipeästi muistissa vuoden 2015 Pariisin terrori-iskut.
Silti moni on pitänyt Ranskan hyväksymää valvontalakia demokratiaa uhkaavana ratkaisuna. Ihmisoikeusjärjestö Amnestyn mukaan laki voi johtaa tulevaisuudessa dystooppiseen valvontaan.
– Aina kun valvontaa lisätään, joitain vapauksia rajoitetaan. Jos tekoälyvalvontaa normalisoidaan, kuinka monta askelta siitä on siihen, että demokraattinen ympäristömme muuttuu? EU:ta kiistanalaisissa teknologioissa neuvova tutkija Gry Hasselbalch pohtii Ylelle.
Miten tekoälyvalvonta toimii?
Ranskan parlamentin hyväksymä laki on ollut voimassa keväästä ja jatkuu vuoden 2024 loppuun.
Ranskan hyväksymässä tekoälyvalvonnassa algoritmiohjatut kamerat tallentavat ja analysoivat esimerkiksi kaduilla, puistoissa tai urheilutapahtumissa olevien ihmisten fysiologisia piirteitä ja käyttäytymistä. Huomion kohteena ovat muun muassa kehon asennot, kävelytapa, liikkeet, eleet, ulkonäkö ja ihmisten kokoontumiset.
Tekoäly analysoi kameroiden välittämät havainnot. Jos se tulkitsee jonkun käyttäytyvän epäilyttävästi, poliisi saa hälytyksen. Ranskan uuden lain mukaan dataa voidaan kerätä kiinteillä valvontakameroilla tai lentävillä drooneilla, mutta tarkka valvontateknologia on vain pienen piirin tiedossa.
Ranskan käyttämässä valvonnassa ei ole kasvojentunnistusta, sillä EU on kieltänyt sen.
– Valvontakameroita on nykyään niin paljon, ettei kukaan ihminen ehdi seurata kaikkia monitoreita. Siispä tekoäly on otettu apuun. Jos tekoäly esimerkiksi huomaa, että jollain on ase tai joku jättää laukun maahan ja kävelee pois, se tekee hälytyksen poliisille, Petteri Järvinen havainnollistaa.
Kova debatti
Useat kansalaisjärjestöt kokevat Ranskan valvontalain uhkaavan ihmisen oikeutta yksityisyyteen, kokoontumiseen ja sananvapauteen. YK:n ihmisoikeusvaltuutettu on varoittanut laajan tekoälyvalvonnan vaaroista.
EU-päättäjät neuvottelevat syksyn aikana lainsäädännöstä, joka määrittäisi, millaisiin tarkoituksiin ja millä ehdoilla tekoälyä voisi Euroopan unionin alueella käyttää.
Euroopan parlamentin jäsen Ville Niinistö (vihr.) on ollut mukana tekoälylain valmistelussa. Niinistö kertoo aiheen jakavan kovasti mielipiteitä poliittisella kentällä. Hän itse suhtautuu tekoälyvalvontaan kriittisesti.
– Koen, että valtiolle ei pidä antaa laajoja valvontaoikeuksia, joille ei ole todella painavia perusteita. Ihmisten laajamittainen ennakollinen valvonta avaa portin poliisivaltiokehitykselle, jollaista näemme jo Kiinassa.
Niinistön kanta on samanlainen kuin Euroopan parlamentin enemmistön. Hän kokee, että tekoälyvalvontaa voi käyttää rajallisissa tiloissa kuten lentokenttien turvallisuusviranomaisten työssä.
– Jos tekoälyä haluttaisiin käyttää laajemmin ihmisten valvontaan, taustalla pitäisi olla tuomioistuimen päätös. Ranskan kanta on, että ihmisiä voi valvoa lähes ilman mitään rajoja.
”Kaikelta ei voi olla turvassa”
Valvonnalla on kiistattomia hyötyjä. Kameroiden avulla on onnistuttu selvittämään lukuisia rikoksia. Iso osa kiinalaisista on kertonut nauttivansa turvallisuuden tunteesta, jonka kaikkialle ulottuva valvonta luo.
Toisaalta teknologia voi tehdä väärissä käsissä tuhoisaa jälkeä. Kiina on esimerkiksi hyödyntänyt valvontakoneistoaan uiguurivähemmistön sortamisessa, Venäjällä valvonnalla pyritään pönkittämään presidentti Vladimir Putinin hallinnon valtaa.
Asiantuntijat korostavat, ettei tekoälyvalvonnasta tiedetä vielä tarpeeksi, jotta järjestelmä voisi olla sataprosenttisen luotettava.
– Monissa tapauksissa tekoälyjärjestelmien on todettu olevan puolueellisia ja asettavan tiettyjä ihmisryhmiä helpommin epäilyksen alaisiksi, Hasselbalch sanoo.
– Esimerkiksi autismin kirjolla olevien tai asunnottomien ihmisten käyttäytyminen voi poiketa tekoälylle määritellystä normaalista. On iso vaara, että jo valmiiksi heikommassa asemassa olevat joutuvat tarpeettoman poliisivalvonnan ja kyselyjen kohteeksi, Ville Niinistö korostaa.
Ranska on ilmoittanut, että uusi valvontalaki on voimassa väliaikaisesti, vuoden 2024 loppuun. Moni suhtautuu lupaukseen skeptisesti, sillä olympialaisia varten hyväksytyillä laeilla on ollut tapana jäädä pysyvämmin osaksi yhteiskuntaa. Näin kävi esimerkiksi Rio de Janeiron kisoissa 2016 käyttöön otetuille tarkkailujärjestelmille.
– Kun poliisi saa käyttöönsä uusia pakkokeino-oikeuksia tai valvontatekniikoita, niistä luovutaan hyvin harvoin. On todennäköistä, että Ranskan valvontamenetelmät jäävät pysyviksi ja leviävät muihin maihin, Petteri Järvinen povaa.
Pariisin olympialaiset määrittävät paljon. Jos tekoälyvalvonnasta saadaan kisojen aikana hyviä kokemuksia, muiden maiden halukkuus käyttää vastaavaa kasvaa.
– Juuri tämä huolestuttaa ihmisiä eniten. Onko tämä portti Kiinan kaltaiseen valvontayhteiskuntaan? Se olisi hyvin pelottava tie, tietoturva-asiantuntija Järvinen pohtii.
Voi myös kysyä, tarvitseeko olympialaisten kaltainen megatapahtuma laajaa tekoälyvalvontaa.
– Kannatan voimakkaasti urheilun suurtapahtumia ja koen, että turvallisuus niissä pitää taata. Poliitikoilla on kuitenkin tapana ajaa urheilutapahtumien varjolla kansalaisvapauksien rajoituksia, jotka eivät menisi muissa olosuhteissa läpi. Valvonnan pitää perustua kansalais- ja yksilönvapauksien kunnioittamiseen. Siitähän urheilussakin on kyse, Ville Niinistö sanoo.
Gry Hasselbalch on samoilla linjoilla.
– Turvallisuuden perusteella voi luoda loputtomasti rajoituksia. Kaikilla meillä on pelkoja, mutta meidän on myös opittava elämään niiden kanssa ollaksemme vapaita. Elämässä ei voi olla turvassa kaikelta.
Uusi teknologia on tullut ainakin jossain määrin jäädäkseen. Niinistö, Järvinen ja Hasselbalch ovat yksimielisiä, että tekoälyvalvonnalle on pakko luoda selvät säännöt ja rajoitukset.
– Valvonnalla on paikkansa yhteiskunnassa. On kuitenkin varottava, ettei kehitys lähde viemään meitä, kuten usein on käynyt, Järvinen sanoo.
Tämän jutun haastateltavat eivät usko Euroopan lipuvan Kiinan malliin. Petteri Järvinen kuitenkin muistuttaa, että ihmiset ympäri maailmaa ovat hyväksyneet pikku hiljaa yksityisyytensä kaventumisen.
– Kiinalaisille on myyty ajatus, että valvonta on heidän omaksi parhaakseen. Länsimaalaisetkaan eivät ole välttyneet tällaiselta mielipiteen muokkaukselta. Meillä on esimerkiksi kaikilla älypuhelimet. Jos yli kymmenen vuotta sitten olisi kysytty, haluatko laitteen, joka seuraa sinua ja tietää elämäsi salaisuudet, kukaan ei olisi halunnut sellaista.
Lähteet: The Guardian, BBC, Business Insider, Washington Post, Iltalehti, The Nation, France 24