Tekoälyn etiikka ilman saarnaa

Tekoälyn etiikasta puhutaan yleensä kahdella tavalla, joista kumpikaan ei auta ketään. Ensimmäinen on periaatelista: läpinäkyvyys, oikeudenmukaisuus, ihmiskeskeisyys, vastuullisuus. Toinen on uhkakuva koneesta, joka ottaa vallan. Kumpikaan ei kerro, mitä pitäisi tehdä toisin ensi maanantaina.

Käyttökelpoinen kysymys on kapeampi: mitä haittaa juuri tämä käyttötapa voi aiheuttaa, kenelle se osuu ja kuka sen huomaa. Kaikki muu on kirjoitettu johtoryhmän seinälle.

Laki ei tätä ratkaise. Tekoälyasetus kertoo, mikä on kiellettyä ja mikä vaatii dokumentaatiota. Se ei kerro, kannattaako jokin tehdä. Suurin osa vahingosta syntyy täysin laillisessa käytössä.

1. Vinouma

Malli oppii sen, mitä aineistossa on. Jos aineistossa on ihmisten aiempia päätöksiä, malli oppii myös niiden vinoumat ja toistaa ne nopeammin, halvemmalla ja tasaisemmin kuin ihminen.

Yleisin virhekäsitys on, että vinouma poistuu poistamalla arkaluontoinen kenttä. Ei poistu. Sukupuoli, ikä ja tausta vuotavat läpi sijaiskenttien kautta: postinumero, harrastukset, oppilaitos, työhistorian katkot, kirjoitustyyli. Malli löytää nämä yhteydet, vaikka kukaan ei niitä pyytäisi.

Ainoa toimiva tapa on mitata lopputuloksia, ei aikomuksia. Jos järjestelmä pisteyttää ihmisiä, tulokset katsotaan ryhmittäin ja verrataan. Jos eroa löytyy, sitä ei selitetä vaan tutkitaan.

2. Selitys, jota ei ole

Neuroverkko ei osaa kertoa, miksi se päätyi tulokseen. Jälkikäteen tuotettu selitys on uskottava kertomus, ei kuvaus laskennasta. Tämä on tärkeä erottaa, koska selitys myydään usein ratkaisuna läpinäkyvyyteen.

Sen sijaan voi luvata kolme asiaa, jotka ovat tarkistettavissa: mitä tietoa päätökseen käytettiin, kuka päätöksen teki ja miten siihen haetaan muutosta. Ne riittävät useimmiten siihen, mitä ihminen oikeasti haluaa, eli mahdollisuuteen riitauttaa asia.

3. Vastuun katoaminen

Tämä on käytännössä vakavin ja vähiten puhuttu. Kun kone tuottaa ehdotuksen ja ihminen hyväksyy sen, vastuu näyttää olevan ihmisellä. Todellisuudessa ihminen hyväksyy suurimman osan ehdotuksista katsomatta, koska niin käy aina kun tarkistettavaa on paljon ja ehdotukset ovat useimmiten oikein. Ilmiötä sanotaan automaatioharhaksi.

Nimellinen ihmisen valvonta on silloin kulissi. Valvonta on aitoa vasta, kun valvojalla on aikaa, osaaminen, valta sanoa ei ja jokin syy tehdä niin. Jos hylkäysprosentti on nolla, valvontaa ei ole, vaikka lomakkeessa on allekirjoitus.

4. Yksityisyys

Kaikki, mitä syötetään kehotteeseen, lähtee jonnekin. Tietosuoja-asetus ei väisty siksi, että työkalu on uusi. Kolme kysymystä ratkaisee useimmat tapaukset: meneekö henkilötieto ulos, kuinka kauan se säilyy toimittajan lokeissa ja käytetäänkö sitä mallin opettamiseen.

Sopimuksen ehdot vastaavat näihin, ja ne kannattaa lukea ennen kuin työkalu on koko organisaation käytössä. Jälkikäteen tehty kielto ei poista sitä, mitä on jo lähetetty.

5. Aineiston alkuperä ja tekijänoikeus

Mallit on opetettu aineistolla, jonka alkuperää ei useimmiten kerrota tarkasti. Tästä seuraa kaksi eri kysymystä, jotka menevät helposti sekaisin.

Ensimmäinen koskee opetusta: oliko aineiston käyttö sallittua. Se on toimittajan ja lainsäätäjän välinen asia, ja siitä riidellään yhä.

Toinen koskee tuotosta ja on se, joka koskee sinua: kenelle kuuluu oikeus siihen, mitä kone tuotti, ja mitä tapahtuu jos tuotos muistuttaa liikaa jotain olemassa olevaa. Käytännön ohje on tylsä mutta toimiva. Julkaistavaksi menevä aineisto tarkistetaan, ja tunnistettavia tyylejä tai teoksia ei pyydetä nimeltä.

6. Ympäristö

Yksi kysely kuluttaa vähän. Miljoona kyselyä päivässä ei kulu vähän, ja kuormitus on todellinen kustannuserä eikä vain ympäristökysymys.

Rehellinen linja on numeroida asia eikä moralisoida sitä. Jos työnkulussa ajetaan mallia joka riville, kysy montako kutsua se on kuukaudessa. Useimmiten sama tulos saadaan pienemmällä mallilla tai ajamalla malli vain silloin kun sitä tarvitaan. Se on samalla halvempaa, joten päätös ei vaadi aatetta.

7. Työn muutos

Tekoäly ei tavallisesti korvaa ammattia vaan osan tehtävistä. Eettinen kysymys ei ole se, saako työtä automatisoida, vaan kuka kantaa siirtymän: kerrotaanko muutoksesta etukäteen, koulutetaanko ihmiset uuteen tehtävään ja kenen työmäärä oikeasti muuttuu.

Tähän liittyy myös hiljainen käyttö. Jos työntekijät käyttävät työkaluja kertomatta, koska pelkäävät työpaikkansa puolesta, organisaatio menettää sekä näkyvyyden että mahdollisuuden ohjata käyttöä. Kielto tuottaa varjokäyttöä, ei turvallisuutta.

Kolme kysymystä periaatelistan tilalle

Periaatelistan ongelma on, että sitä ei voi rikkoa. Kukaan ei koskaan huomaa olevansa vastoin "ihmiskeskeisyyttä". Nämä kolme kysymystä sen sijaan tuottavat vastauksia, jotka voi kirjata ja tarkistaa:

1. Kuka kantaa virheen? Jos järjestelmä on väärässä, kenelle se sattuu ja kuinka pahasti. Hakijalle, potilaalle, asiakkaalle vai organisaatiolle itselleen.
2. Miten virheestä valitetaan? Onko olemassa polku, joka johtaa ihmiseen, jolla on valta muuttaa päätöstä.
3. Mistä huomaisimme, että se on ollut väärässä koko ajan? Tämä on vaikein. Jos vastaus on "asiakas kertoisi", mittausta ei ole.

Kolmas kysymys erottaa vastuullisen käytön juhlapuheesta. Hiljainen ja järjestelmällinen virhe on paljon todennäköisempi kuin dramaattinen, ja se löytyy vain mittaamalla.

Mitä tämä tarkoittaa käytännössä

Etiikka muuttuu päätöksiksi vasta kirjattuna. Kevyin toimiva muoto on lyhyt linjaus siitä, mihin tekoälyä saa käyttää, mitä siihen saa syöttää, kuka vastaa lopputuloksesta ja miten poikkeama käsitellään. Se on sama asiakirja, jota sääntelykin edellyttää, ja siitä on erillinen pelikirja-artikkeli.

Yhdellä lauseella

Tekoälyn etiikka ei ratkea periaatteilla vaan sillä, että joku nimetty ihminen kantaa virheen, joku voi valittaa siitä ja joku mittaa säännöllisesti, ovatko lopputulokset sitä, mitä luultiin.