1. yle.fi
  2. Uutiset
  3. tietoturva

Apple alkaa nuuskia puhelinten sisältöä lapsipornon estämiseksi – Tietoturva-asiantuntijat säikähtivät: "Kammottava uudistus"

Asiantuntijoiden mukaan hyvää tarkoittava järjestelmä voidaan muuntaa diktatuurimaissa kaikkien kansalaisten valvonnaksi. Kuvia tutkiva järjestelmä rakennetaan osaksi puhelinta.

Henkilö seisoo Applen logon edustalla tunnistamattomana. Kuva: Getty Images, kuvankäsittely: Otso Ritonummi / Yle

Tietotekniikkajätti Apple aikoo ottaa käyttöön järjestelmän, jonka tarkoitus on estää lasten rikollista seksuaalista hyväksikäyttöä koskevien kuvien leviäminen. Järjestelmä on tarkoitus ottaa käyttöön uuden iOS15-käyttöjärjestelmän yhteydessä, Apple kertoo tiedotteessaan (siirryt toiseen palveluun).

Yhtiö on muuntanut 200 000 lasten seksuaalista hyväksikäyttöä esittävä kuvaa numerosarjoiksi. Kuvat ovat peräisin Yhdysvalloissa lasten hyväksikäyttöä tutkivalta virastolta NCMEC:ltä (National Center for Missing & Exploited Children).

Applen "neuralMatch"-järjestelmä skannaa pilvipalveluun ladattuja kuvia ja tutkii, löytyykö niistä vastaavuuksia kiellettyjen kuvien kanssa. Jos vastaavuus havaitaan, Applen työntekijä tarkastaa kuvan. Jos kuva on laiton, siitä ilmoitetaan viranomaisille ja lapsen vanhemmille, mikäli he ovat tiedossa, kertoo The New York Times (siirryt toiseen palveluun).

Järjestelmä koskee vain valokuvia, ei videoita.

Tietoturva-asiantuntijat: Kammottavaa

Tietoturvan ja yksityisyyden suojan asiantuntijat pitävät Applen esittelemää järjestelmää hyvin kyseenalaisena. Vaikka tarkoitus on hyvä, sitä voidaan käyttää myös väärin.

Autoritaariset hallitukset voivat samalla menetelmällä alkaa kartoittaa esimerkiksi hallinnon vastustajia, jos he levittävät vaikkapa kuvia hallituksenvastaisista mielenosoituksista.

– Tämä on ehdottomasti kammottava ajatus, koska se johtaa tietokoneidemme ja puhelintemme massatarkkailuun, sanoo Financial Times -talouslehden (siirryt toiseen palveluun) haastattelema Cambridgen yliopiston turvatekniikan professori Ross Anderson.

Turva-alan tutkija ja yksityisyyden puolesta kampanjoinut Alex Muffett arvioi lehdelle muutoksen olevan valtava yksityisyydensuojan heikennys.

– Apple ottaa askeleita taaksepäin, jotta 1984 olisi mahdollista, hän sanoo viitaten George Orwellin romaaniin, jossa valtiovalta vahtii kansalaisten kaikkea tekemistä.

Myös suomalaisasiantuntijan arviot ovat linjassa Andersonin ja Muffettin kanssa. Tietokirjailija ja tietoturva-asiantuntija Petteri Järvisen mukaan järjestelmän uhkat piilevät juuri sen valjastamisessa muihin käyttötarkoituksiin.

– Se ovi, joka tätä kautta avautuu, on aika huolestuttava. Kun tällainen teknologia on kerran puhelimiin saatu ja sen käyttö on hyväksytty, niin on vain ajan kysymys, milloin sen käyttöä aletaan laajentaa.

Järjestelmä osana puhelinta

Applen tuleva järjestelmä poikkeaa muista vastaavista palveluista, sillä järjestelmä rakennetaan osaksi puhelinta, Järvinen kertoo.

Esimerkiksi Microsoft tai Google skannaavat käyttäjän palveluun lataamia tai siellä lähettämiä kuvia. Sosiaalisen median palveluissa, kuten Facebookissa tai Twitterissä, palvelu tarkastaa kuvat niiden julkaisemisen jälkeen.

Applen järjestelmä on määrä ottaa käyttöön aluksi vain Yhdysvalloissa. Järvisen mukaan on kuitenkin todennäköistä, että järjestelmä asennetaan päivitysten myötä kaikkiin iOS-puhelimiin.

Applen Iphone-puhelin. Kuva: Loic Venance / AFP

On kuitenkin eri asia, missä osissa maailmaa tekniikka aktivoidaan. Järvinen vertaa tilannetta koronatartuntojen jäljitystekniikan.

– Jäljitystekniikka lisättiin kaikkiin puhelimiin, mutta vain tietyissä maissa kehitettiin koronasovelluksia siihen päälle.

Applella valtaa myös Euroopassa

EU valmistelee parhaillaan lainsäädäntöä, jolla puututtaisiin verkossa rehottavaan lasten seksuaalista hyväksikäyttöä esittävään kuvamateriaaliin. Keinovalikoimassa olisivat muun muassa epäiltyjen sähköisten viestintäkanavien tutkiminen, kertoi Computer Weekly -julkaisu kesäkuussa (siirryt toiseen palveluun). Käytännössä laki koskisi esimerkiksi epäillyn sähköpostiviestejä, joita voitaisiin tarkastella. Epäillyt tapaukset ilmoitettaisiin poliisille.

Julkaisun mukaan yhdysvaltalaiset palvelut, kuten Facebookin viestipalvelu Messenger tai Googlen sähköpostipalvelu Gmail käyttävät vapaaehtoisesti sisältöjensä yleistä seurantaa.

Sveitsin liittovaltion poliisin tietojen mukaan valtaosassa tapauksissa täysin syyttömät kansalaiset joutuivat seurannan kohteiksi. Esimerkiksi perheen rantakuvat saatettiin tulkita haitalliseksi sisällöksi.

Järvinen uskoo, että samansuuntaisia tapauksia voisi tapahtua myös Suomessa.

– Suomessa lähetetään uimarannalta tai saunan jälkeen otettuja kuvia aika vapaasti, mutta tekoälyn mielestä ne voivat ylittää sallittavuuden rajat.

Euroopassa myös Apple on riippuvainen paikallisesta lainsäädännöstä, kuten Euroopan yleisestä tietosuoja-asetuksesta GDPR:sta.

Järvisen mukaan EU on esiintynyt turvallisuusasioiden ja hyveiden esitaistelijana. Riippuvuus on kuitenkin molemminpuoleista Yhdysvaltain kanssa.

– Palvelut ja laitteet ovat amerikkalaisia. EU joutuu neuvottelemaan ja soveltamaan kaikkea amerikkalaisten kanssa, Järvinen arvioi.

Lue myös:

Selvitys: Unkari ja yhdeksän muuta maata vakoilleet kansalaisiaan israelilaisyrityksen haittaohjelmalla – "tarkkailulistalla" jopa tuhansia henkilöitä

Maksufirma Klarnan kautta pystyy tilaamaan tavaraa toisen nimiin – MOT:n testi osoittaa, kuinka pahasti ruotsalaisyhtiön tietoturva vuotaa

9.8. klo 13.56 Juttua korjattu: Poistettu ilmaus lapsiporno jutun leipätekstistä. Ilmaisu korvattu ilmauksella lasten seksuaalista hyväksikäyttöä esittävä kuvamateriaali.