Tekoäly kunnan hallinnossa – oikeudelliset reunaehdot

Hallintoasia etenee vireilletulosta valmistelun ja päätöksenteon kautta täytäntöönpanoon. Tekoälyn käytön reunaehdot ovat eri vaiheissa erilaiset: valmistelussa liikkumavaraa on selvästi enemmän kuin ratkaisuvaiheessa. Tällä sivulla käydään läpi, mikä on mahdollista missäkin vaiheessa ja miksi. 

Vireilletulo 

Hallintoasian vireilletulovaiheessa tekoälyä voidaan käyttää esimerkiksi saapuvan aineiston luokitteluun, kielen tunnistamiseen ja ohjaamiseen oikealle toimialalle. Kyse on tällöin tyypillisesti hallinnon tukitoiminnosta. 

Rajanveto muuttuu, jos luokittelu esimerkiksi tosiasiassa ratkaisee, käsitelläänkö asia vai ei. Silloin kyse ei ole enää teknisestä ohjauksesta vaan asian käsittelyyn vaikuttavasta toimenpiteestä, jolloin ratkaisun jättäminen tekoälylle ei ole sallittua.  

Valmistelu 

Hallintoasian valmisteluvaiheessa oikeudelliset reunaehdot ovat väljimmät, kunhan tekoälylle ei anneta valtaa jatkokäsittelyn rajaamisessa.  

Tekoälyä voidaan käyttää esimerkiksi: 

• tiedonhakuun ja aineiston jäsentämiseen 
• laajojen tietomassojen läpikäyntiin ja seulontaan 
• näkökulmien ideointiin 
• tekstin selkeyttämiseen ja tiivistämiseen 
• käännöksiin 

Reunaehdot koskevat kahta asiaa. Ensinnäkin sitä, mitä aineistoa sovellukseen syötetään – tästä lisää sivulla Julkisuus ja tietosuoja. Toiseksi sitä, että valmistelija vastaa lopputuloksesta: tekoälyn tuottama koonti on lähtöaineistoa, ei valmista valmistelutekstiä. 

Erityistä huomiota vaatii tilanne, jossa valmistelussa rajataan asian jatkokäsittelyä. Silloin valmistelutoimella on tosiasiallisia vaikutuksia asianosaisen asemaan, ja arviointiin sovelletaan ratkaisuvaiheen vaatimuksia. 

Päätöksenteko 

Hallintolain tunnistamat päätöksentekotavat 

Hallintolaki tunnistaa suullisen ja kirjallisen viranhaltija- ja toimielinpäätöksen ohella automaattiseen ratkaisumenettelyyn perustuvan päätöksenteon: 

• viranhaltija- tai virkamiespäätös 
• kollegiaalinen toimielinpäätös 
• automaattinen ratkaisumenettely 

Automaattinen ratkaisumenettely 

Automaattisesta päätöksenteosta viranomaistoiminnassa säädetään hallintolain 8 b luvussa. Hallintolain 53 e §:n 2 momentin mukaan viranomainen voi ratkaista automaattisesti asian, johon ei sisälly seikkoja, jotka edellyttävät tapauskohtaista harkintaa, tai johon sisältyvät tapauskohtaista harkintaa edellyttävät seikat virkamies tai muu asian käsittelijä on arvioinut. Ratkaisemisen on perustuttava sovellettavan lain ja etukäteisen harkinnan perusteella laadittuihin tiedonhallintalain 2 §:n 16 kohdassa tarkoitettuihin käsittelysääntöihin. 

Vaatimus käsittelysäännöistä sulkee tällä hetkellä pois sellaiset tekniset toteutustavat, jotka perustuvat sääntöjen sijasta todennäköisyysajatteluun eli niin sanotut oppivat tekoälytekniikat.  

Missä roolissa tekoäly voi olla? 

Tekoäly voi liittyä päätösprosessiin, joka edellytystensä perusteella on sääntöpohjainen. Tunnusomaista näille tilanteille on se, että tekoäly auttaa sääntöpohjaisen automaattiratkaisun tuottamisessa – esimerkiksi tekstianalytiikassa tai tiedon muuttamisessa rakenteiseen muotoon. 

Automaattiratkaisu sinänsä perustuu sääntöihin, ja tekoäly on prosessissa mahdollistamassa ratkaisua esimerkiksi selkeyttämällä tai tulkitsemalla hakemustietoa, vaikkapa kuvien käsittelyllä. Välittömiä oikeusvaikutuksia asiakkaaseen tällä esikäsittelyllä ei ole. 

Ohjelmistorobotiikka (RPA) – eri asia kuin tekoäly 

Ohjelmistorobotiikassa ohjelmistorobotit suorittavat ihmisen puolesta toistuvia, sääntöpohjaisia ja strukturoituja työtehtäviä digitaalisissa järjestelmissä. Käytännössä RPA 

• jäljittelee ihmisen toimintaa käyttöliittymissä: klikkauksia, kirjautumisia, tiedonsyöttöjä 
• toimii olemassa olevien järjestelmien päällä ilman, että niitä tarvitsee muuttaa 
• perustuu ennalta määriteltyihin sääntöihin ja prosesseihin. 

RPA ei ole tekoälyä eikä siihen sisälly päättelyä. Oikeudellisesti tämä on merkittävä ero: sääntöpohjainen ohjelmistorobotti istuu selvästi paremmin yhteen automaattista ratkaisumenettelyä koskevien vaatimusten kanssa kuin oppiva malli. 

Käsitteet kannattaa kunnassa pitää erillään myös siksi, että ne kuuluvat eri tavalla EU:n tekoälysäädöksen soveltamisalaan. 

Täytäntöönpano 

Täytäntöönpanovaiheessa tekoälyn käyttö liittyy tyypillisesti tiedoksiantoihin, seurantaan ja raportointiin. Reunaehdot määräytyvät pitkälti sen mukaan, käsitelläänkö henkilötietoja ja onko toimenpiteillä vaikutuksia asianosaisen oikeuksiin. 

Tekoälyn käyttöönotto ei muuta perusasetelmaa: viranhaltija vastaa edelleen virkavastuulla siitä, että toiminta on lainmukaista ja hyvän hallinnon mukaista. Tekoäly voi olla apuväline, mutta se ei poista virkavastuuta eikä siirrä sitä minnekään. 

Mitä virkavastuu kattaa tekoälyä käytettäessä? 

Vastuu jakautuu kolmeen osaan, ja ne on hyödyllistä pitää erillään: 

1. Vastuu käyttötavasta. Onko tekoälyä ylipäätään sallittua käyttää kyseisessä tehtävässä? Onko käytetty sovellus lainmukainen ja organisaation hyväksymä? Onko sovellukseen syötetty sellaista aineistoa, jota siihen ei olisi saanut syöttää? 

2. Vastuu tuotetusta tiedosta. Tekoälyn tuottama sisältö on tarkistettava. Mallin tuottamassa aineistossa voi esiintyä harhaanjohtavia väittämiä, ja algoritmi voi sisältää piileviä vinoutumia, jotka eivät ole käyttäjälle näkyviä. Vastuu virheellisestä lopputuloksesta on tehtävästä vastuussa olevalla viranhaltijalla, ei järjestelmällä eikä sen toimittajalla. 

3. Vastuu läpinäkyvyydestä. Tekoälyn käytöstä on kerrottava sekä hallinnon sisällä että hallinnon asiakkaille. Käyttö ei saa jäädä näkymättömäksi taustatekijäksi. 

Vastuu on nimettävä etukäteen 

Käytännön ongelmatilanteet syntyvät useimmiten siitä, ettei kukaan ole etukäteen määritellyt, kuka vastaa mistäkin. Kun tekoälyä otetaan käyttöön uudessa tehtävässä, on määriteltävä 

• kuka kantaa vastuun tekoälyä hyödyntävistä ratkaisuista 
• missä tilanteissa vastuu aktualisoituu 
• mitä tarkistamiselta konkreettisesti edellytetään. 

Jos vastuunkantajaa ei pysty nimeämään, käyttötapaa ei ole vielä suunniteltu loppuun.

Turvalliset ja hyväksytyt ympäristöt 

Tekoälyä tulisi hyödyntää vain viranomaisorganisaation hyväksymissä ja turvallisissa ympäristöissä. 

Erityistä huomiota vaativat tilanteet, joissa tekoälysovellus tulee organisaation rajojen ulkopuolelta – esimerkiksi kokouksissa mukana olevien muiden tahojen toimittamat sovellukset. Tällaisia ei tulisi käyttää ilman varmistettua tietoturvaa.  

Käytännön esimerkki on kokousmuistiinpanoja tekevä sovellus, jonka joku osallistujista tuo mukanaan: kunnan kannalta kyse on tiedon luovuttamisesta ulkopuoliselle, vaikka tilanne näyttäisi arkiselta.

Ei automaattista vastuuvapautta – eikä automaattista rangaistavuutta 

Virkavastuu ei tarkoita, että tekoälyn käytöstä seuraisi vastuu aina, kun lopputulos osoittautuu virheelliseksi. Arviointi tapahtuu samoin kriteerein kuin muutenkin: onko toimittu huolellisesti, ohjeiden mukaisesti ja tehtävän edellyttämällä tavalla. 

Juuri siksi organisaation omilla ohjeilla on suuri merkitys. Selkeä ohjeistus siitä, mitä saa tehdä ja miten tarkistaminen tapahtuu, suojaa myös yksittäistä viranhaltijaa. 

Yleisesti käytössä olevat tekoälysovellukset ovat kolmannen tahon hallinnoimia. Tiedon syöttäminen tällaiseen sovellukseen tarkoittaa tiedon luovuttamista organisaation ulkopuolelle.  

Tiedon syöttäminen on tiedon luovuttamista 

Kun viranhaltija kopioi tekstin tekoälysovellukseen, tieto siirtyy kunnan hallinnasta palveluntarjoajalle. Arviointi on tehtävä samoin kuin missä tahansa muussa tiedon luovutustilanteessa. 

Käytäntöä rajoittavat useat seikat samanaikaisesti: 

• Salassapitosääntely. Salassa pidettävää tietoa ei saa luovuttaa ilman perustetta. 
• Tietosuojasääntely. Henkilötietojen käsittelylle on oltava käsittelyperuste, ja käsittelyn on täytettävä tietosuojasääntelyn vaatimukset. 
• Viranomaisen sisäiset ohjeet ja luottamukselliset tiedot. Nämä rajoittavat myös silloin, kun tieto ei ole salassa pidettävää. 

Julkisuuslain vaatimukset on selvitettävä 

Julkisuuslain vaatimukset suhteessa tekoälysovellusten käyttöön tulee selvittää kunnassa erikseen. Esimerkiksi on tunnistettava milloin tekoälysovelluksessa käyty vuorovaikutus muodostaa viranomaisen asiakirjan tai miten kehotteet ja tekoälyn tuottamat vastaukset rekisteröidään ja arkistoidaan, jos ne ovat osa hallintoasian valmistelua. Myös tekoälyn käytön näkyvyys asiakirjajulkisuuskuvauksessa ja tiedonhallintamallissa kannattaa selvittää ennen tekoälysovellusten käyttöönottoa.  

Vaikutustenarvioinnit 

Tekoälyä hyödyntävän järjestelmän käyttöönotossa voi tulla sovellettavaksi useita arviointivelvoitteita samanaikaisesti: 

Arvioinnit kannattaa tehdä yhdessä ja hyödyntää samaa pohja-aineistoa. Perusoikeusvaikutusten arviointi voidaan suorittaa tietosuojaa koskevan vaikutustenarvioinnin yhteydessä.