Lausunto liikenne- ja viestintävaliokunnalle 7.6.2021
Diaarinumero KKV/711/03.03/2021
Kilpailu- ja kuluttajavirasto/Kuluttaja-asiamies suhtautuu myönteisesti komission ehdotukseen ja kannattaa ihmiskeskeistä ja kuluttajien luottamusta korostavaa lähestymistapaa tekoälyn sääntelyssä. Ehdotetun sääntelyn tärkein tavoite on ihmisyyden ja ihmisarvon kunnioittamisen turvaaminen tietoteknisessä kehityksessä. Ihmis- ja perusoikeudet sekä keskeisinä arvoina osallisuus, vastuullisuus, luottamus ja turvallisuus on huomioitava sekä silloin, kun julkisia palveluja kehitetään tekoälyn hyödyntämisen pohjalta, että silloin, kun uusia innovaatioita luodaan markkinaehtoisesti.
Kuluttajien näkökulmasta tietotekninen kehitys on jo ylittänyt sen pisteen, jossa tekoälyn sääntelyä tarvitaan. Tekoäly laajassa merkityksessä on monin tavoin osa kuluttajien arkea. Algoritmit ja automatisoidut järjestelmät ohjaavat verkon yli tarjottavia palveluja, digitaalista markkinointia ja verkkokauppaa sekä monien kotien perustekniikkaa. Kuluttajien valinnat ja kulutushyödykkeet ovat olleet ratkaisevassa roolissa silloin, kun tekoälyn riskit ovat realisoituneet. Yhteiskunnan perusinfrastruktuuria vastaan tehdyissä kyberiskuissa on hyödynnetty kotien digitaalisia elementtejä sisältäviä tavaroita, ja sosiaalisen median manipuloivilla tekniikoilla on vaikutettu ihmisten käyttäytymiseen tavalla, jolla on ollut kollektiivisia ja yhteiskunnallisia seurauksia.
Sääntelyn lähtökohdista
Ehdotetun sääntelyn arvioimista hankaloittaa se, että sääntelyn on tarkoitus olla osa uutta kokonaisuutta, jonka kaikki osat ei vielä ole tiedossa. Komissio on kertonut antavansa erillisen ehdotuksen tekoälyn vastuukysymyksistä, mihin Valtioneuvostokin viittaa kannassaan. Kuluttajien oikeuksien ja kuluttajansuojan korkean tason kannalta on tärkeää, että tekoälyyn liittyviä vastuista säädetään lain tasolla.
Sääntelykohteena ’tekoäly’ on vaikeasti määriteltävissä, vaikka oikeusvarmuus edellyttää sääntelyltä riittävää tarkkarajaisuutta. Kuluttajille tarjottava tuote ei ole ’tekoäly’ vaan tuote, tavara tai palvelu, jota ohjaavat kehittyneet ohjelmistot ja algoritmit. Sääntelyä muodostettaessa olisikin vältettävä sitä, että määritelmistä ja kategorioista muodostetaan liian tiukkoja. Silloin sääntelyn sovellettavuus on helposti kierrettävissä, minkä lisäksi tarkat luonnehdinnat vanhentuvat nopeasti.
Sääntelyn tehokkuuden kannalta on tärkeää, että tekoälyn sääntelyä sovelletaan siitä riippumatta, minne järjestelmää kehittävät, myyvät tai käyttävät elinkeinonharjoittajat ovat sijoittautuneet. Lisäksi sääntelyn on katettava koko arvoketju, jotta sääntelyllä voidaan edistää korkeatasoista kuluttajansuojaa.
Tekoälyjärjestelmien tuottajille, maahantuojille, jakelijoille ja käyttäjille on asetettava velvoitteita. Samalla eri toimijoiden roolien ja niihin liittyvien vastuiden tulee olla selkeitä.
Kuluttajansuojan korkea taso ja EU:n kuluttajansuojaoikeus
EU:n perustamissopimukset edellyttävät, että uutta sääntelyä luotaessa on huomioitava kuluttajansuojan korkean tason turvaaminen. EU-oikeudessa kuluttajansuoja on myös sellainen yleisen edun ja yhteiskunnallisen tarpeen mukainen pakottava syy, jolla voidaan oikeuttaa elinkeinotoiminnan sääntelyä ja rajoittamista. Näistä lähtökohdista on tärkeä pitää kiinni luotaessa tekoälyn sääntelyä ja niitä voitaisiin tuoda painokkaammin esiin Suomen kannassa.
Jatkovalmistelussa sääntelykehystä tulisi arvioida kokonaisuutena. Erityistä huomiota olisi kiinnitettävä ehdotetun sääntelyn liittymäkohtiin voimassa olevaan EU-sääntelyyn. Tietosuoja- ja markkinavalvontasääntelyn lisäksi on huomioitava kuluttajien asemaan vaikuttava ja elinkeinonharjoittajia velvoittava EU:n yleinen kuluttajansuojaoikeudellinen sääntely. Voimassa olevista säädöksistä esimerkiksi sopimattomien kaupallisten menettelyjen direktiivi ja kohtuuttomien sopimusehtojen direktiivi sekä virhevastuusta annetut tavaran kaupan ja digisopimusten direktiivit soveltuvat myös tekoälyjärjestelmiin ja niiden käyttöön.
Sääntelyehdotus ei perusta suoranaisia oikeuksia kuluttajille eikä muodosta uusia menettelytapoja kuluttajille valitusten tekemiseen tai yksilöllisten hyvitysten saamiseen lainvastaisuuksien perusteella. Ehdotuksella onkin merkittäviä liittymäkohtia EU:n kuluttajansuojaoikeudelliseen sääntelyyn. Ehdotuksen mukaan esimerkiksi haitalliset menettelyt ja järjestelmät, jotka eivät istu tässä säädösehdotuksessa määriteltyjen kiellettyjen menetelmien alaan, kuuluisivat yleisen tietosuoja- ja kuluttajansuojasääntelyn alaan. Euroopan parlamentti on viitannut siihen mahdollisuuteen, että edustajakannedirektiiviä voitaisiin hyödyntää vastaisuudessa tapauksissa, joissa riitautetaan tekoälyjärjestelmän käyttöönotto tai jo tapahtuva käyttö.(https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_FI.pdf)
Riskiperustainen sääntelytapa
Sääntelyehdotuksessa on kahdensuuntainen sääntelykehys, jolla toisaalta kiellettäisiin tietyt menettelyt (prohibited practices) ja toisaalta määriteltäisiin
tiukemman sääntelyn kohteeksi tietyt järjestelmät (high-risk systems). Näkökulma on osin tekoälyä hyödyntävissä toimintatavoissa ja osin toimiala- ja sektoripohjaisessa tarkastelussa. Kuluttajansuojan näkökulmasta haitallisten seurausten välttämiseen ja ehkäisemiseen tulisi pyrkiä siitä riippumatta, millä sektorilla tekoälyjärjestelmää käytetään.
Monet ehdotetun sääntelyn lähtökohdista, kuten tekoälyjärjestelmien ihmisvalvonta ja läpinäkyvyyteen liittyvät tiedonantovelvoitteet, olisivat toimivia yleisinä periaatteina ja kaikkien kuluttajiin vaikuttavien tekoälyjärjestelmien osalta. Tunteiden tunnistamiseen, biometriseen kategorisointiin, kuluttajista tehtävää riskiarvioon tai asiakaspisteytykseen perustuu jo monenlaisten palvelujen ja sisältöjen saatavuus. Luottokelpoisuuden arvioinnilla on oma merkittävä roolinsa kuluttajamarkkinoilla. Samoin tärkeää on välttämättömyyspalveluiden saatavuuden turvaaminen kaikille. Tekoälyn hyödyntämisen asiayhteydestä riippumatta kuluttajien valinnanvapauden ja itsemäärää-misoikeuden säilyttäminen on ensiarvoisen tärkeää.
Tiedonantovelvoitteet ovat keskeinen osa kuluttajansuojan yleisiä periaatteita. Kuluttajilla on oltava oikeus saada riittävä määrä ymmärrettävää, selkeää, oikeaaikaista ja helposti saatavilla olevaa tietoa tekoälyjärjestelmien olemassaolosta, päättelyprosesseista, mahdollisista lopputuloksista ja vaikutuksista kuluttajiin. Kuluttajat tarvitsevat myös tiedon siitä, miten he voivat saada yhteyden päätösvaltaiseen ihmiseen ja miten järjestelmän toimintaa voi pyytää tarkistettavaksi tai korjattavaksi sekä miten sen voi riitauttaa.
Erityisesti kiellettyjen menetelmien osalta jatkovalmistelussa on syytä kiinnittää huomiota siihen, että sääntelyehdotuksessa on epätarkkuuksia ja piileviä rajauksia:
– Esimerkiksi 5 artiklan 1a-kohdassa puhutaan ”subliminaalisista tekniikoista” ja alitajuisesta vaikuttamisesta. Haitalliset menetelmät eivät kuitenkaan välttämättä ole kovin piilotettuja vaan ne voivat tarkoituksellisesti olla ihmisen havaittavissa ja niiden teho voi perustua juuri siihen, että aistien kautta aktivoidaan käyttäytymistieteiden osoittamia ihmisille tyypillisiä ajatusvinoumia.
– Lisäksi 5 artiklan 1a-kohdan soveltuminen rajataan tilanteisiin, joissa menetelmän käytöstä aiheutuu yksilöille fyysistä tai psykologista haittaa (physical or psychological harm). Taloudellisen haitan aiheuttaminen jää sääntelyn ulkopuolelle.
– Ehdotuksessa 5 artiklan 1b-kohdan on tarkoitus luoda suojaa ns. heikoille kuluttajaryhmille (vulnerabilities of a specific group of persons). Komission mukaan tällainen ryhmä olisivat esimerkiksi lapset. Kun suojaa on tarkoitus antaa kuluttajaryhmään kuulumisen perusteella, ryhmä on määriteltävä. Heikoista kuluttajaryhmistä ei tällä hetkellä ole EU-alueella yhtenäistä käsitystä.
– Toisaalta 5 artiklan 1b-kohdan ryhmien määrittelystä seuraa se, etteivät muut kuin määriteltyihin ryhmiin kuuluvat saa suojaa ko. säännöksen perusteella. Käyttäytymistieteiden osoittamien, kaikille ihmisille tyypillisten haavoittuvuuksien hyväksikäyttö ei vielä muodostaisi kiellettyä menettelyä.
Valvonta ja kuluttajien voimaannuttaminen
Ehdotuksessa korostuu elinkeinonharjoittajien omaehtoisuuteen perustuva sääntelyn noudattamisen seuranta, kuten itsesääntely ja omavalvonta. Lainsäädännön tasolla on kuitenkin säädettävä riittävän kattavasti niistä periaatteista ja lähtökohdista, joita voidaan täsmentää itse- tai yhteissääntelyllä. Lisäksi on syytä huomioida se, ettei itsesääntely tai omavalvonta sisällä tehokkaita ja täytäntöönpanokelpoisia seuraamuksia lainvastaisuuksista. Niistä on säädettävä valvovan viranomaisen toimivallan yhteydessä.
Ehdotetussa sääntelyssä voitaisiin huomioida kuluttajien voimaannuttaminen. Sääntelyllä voidaan luoda edellytyksiä kuluttajien omalle aktiivisuudelle lainvastaisuuksien ilmitulossa ja torjunnassa. Aktiivisimmat kuluttajat antavat jo elinkeinonharjoittajille palautetta niiden toiminnassa havaitsemistaan puutteista ja rikkeistä, mikä on tärkeää omavalvonnan ja itsesääntelyn kannalta. Kuluttajilla ja kuluttajajärjestöillä tulisi olla kaikissa EU-jäsenmaissa mahdollisuus ilmoittaa havaitsemistaan lainvastaisuuksista myös suoraan tekoälyjärjestelmiä valvovalle viranomaiselle.
Digitaaliset tuotteet ja toimintaympäristö edellyttävät valvojilta digitaalisia keinoja. Ehdotuksen mukaan komissio perustaisi ja ylläpitäisi yhteistyössä jäsenvaltioiden kanssa EU-tietokantaa, joka sisältää tiedot korkean riskin tekoälyjärjestelmistä, jotka on rekisteröity asetusehdotuksen mukaisesti. Erillisen tietokannan lisäksi olisi syytä harkita, olisiko tietoa syytä tallentaa tekoälyn yhteyteen, jolloin esimerkiksi tieto vastuutahosta voisi olla konekielisessä muodossa luettavissa algoritmista.
Riippuen lopullisen sääntelyn sisällöstä ja suhteesta EU:n yleiseen säädöskehykseen, tekoälyn sääntelyllä voi olla vaikutusta kuluttaja-asiamiehen toimintaan. Digitaalisten tuotteiden ja digitaalisten palvelujen valvontaa tehdään jo EU:n yleisen kuluttajansuojaoikeudellisen sääntelyn ja toisaalta kuluttaja-asiamiehellä olevan yleistoimivallan perusteella.