Suvereeni tekoäly ja perusmallit

Yhä useammin kuulee, että valtiot, yritykset ja muut organisaatiot rakentavat "sovereign AI models" tai kouluttavat "omia frontier-malleja". Lauseet kuulostavat siltä, että kyseessä olisi jokin uusi tekniikan laji. Kyse on kahdesta täysin eri asiasta, jotka ovat päätyneet samaan lauseeseen.

Perusmalli (foundation model) kertoo, millainen malli on. Suvereenius (sovereign AI) kertoo, kenen ehdoilla sitä käytetään. Ensimmäinen on tekninen kuvaus, jälkimmäinen on omistus- ja valtakysymys. Malli voi olla perusmalli olematta suvereeni, ja suvereenisti hallittu malli voi olla mikä tahansa pieni erikoismalli.

Kannattaa siis kuunnella nämä kaksi sanaa erikseen. Silloin puheesta erottaa, mitä siinä oikeasti luvataan.

Perusmalli on perusta, ei huippu

Ennen tekoälymalli rakennettiin yhtä tehtävää varten: yksi malli tunnisti roskapostin, toinen luki käsialaa, kolmas ennusti kulutusta. Jokainen aloitettiin tyhjästä ja jokainen tarvitsi oman opetusaineistonsa.

Perusmalli kääntää järjestyksen toisin päin. Ensin tehdään yksi erittäin kallis esikoulutus (pre-training) valtavalla yleisellä aineistolla, ja vasta sen jälkeen päätetään, mihin mallia käytetään. Nimen ajatus on rakennuksen perustus: sama perusta kantaa monta eri taloa.

Perusmallin tunnistaa kolmesta piirteestä:

• Se on opetettu yleisellä aineistolla, ei yhtä tehtävää varten. Opetuksen aikana kukaan ei tiennyt, mitä sillä lopulta tehdään.
• Se on sopeutettavissa. Käyttötarkoitus annetaan jälkikäteen promptilla, haulla (RAG) tai hienosäädöllä (fine-tuning).
• Sen kustannus jaetaan. Esikoulutus on iso kertameno, joka kannattaa vain jos sama malli palvelee montaa käyttöä.

Kaksi väärinkäsitystä kannattaa oikaista heti.

Perusmalli ei tarkoita kielimallia. Kieli on perusmallien tunnetuin laji, ei niiden synonyymi. Samalla periaatteella koulutetaan malleja kuvalle, äänelle, videolle, proteiinirakenteille, sääaineistolle, sensorimittauksille ja laitteiden ohjaukselle. Kun jossain sanotaan, että tekstimallit eivät riitä johonkin tarkoitukseen, kyse ei ole perusmallin hylkäämisestä vaan toisen aineistolajin valitsemisesta.

Perusmalli ei ole sama asia kuin kärkimalli (frontier model). Kärki tarkoittaa uusinta ja kyvykkäintä sukupolvea. Se on sijoitus, ei rakenne, ja se vaihtuu vuosittain. Tämän vuoden kärkimalli on ensi vuonna tavallista keskitasoa, vaikka mikään siinä ei muuttunut.

Mitä suvereenius tarkoittaa

Suvereenius (sovereignty) eli itsemääräämisoikeus tarkoittaa tekoälyssä kykyä käyttää, kehittää ja tarvittaessa jatkaa mallin käyttöä ilman että joku toinen voi sen estää.

Sana kertoo tavoitteen, ei toteutusta. Rautalangasta väännettynä suvereenius ei ole yksi asia vaan lista riippuvuuksia, ja jokainen niistä on erikseen joko omissa käsissä tai ei:

• Painot (weights). Onko mallin lukuarvot hallussa vai onko hallussa vain käyttöoikeus toisen rajapintaan?
• Ajopaikka. Missä laskenta fyysisesti tapahtuu ja minkä maan lainsäädäntö sinne yltää?
• Data. Kenen aineistolla malli on opetettu ja onko sen käyttöön oikeus myös ensi vuonna?
• Osaaminen. Osaako joku korjata mallin, kun se lakkaa toimimasta, vai onko korjaaja toisen yrityksen palkkalistoilla?
• Rauta. Kuka valmistaa kiihdyttimet ja kuka päättää, kenelle niitä saa myydä?
• Katkaisuvara. Mikä osa toiminnasta jatkuu, jos sopimus irtisanotaan tai vienti kielletään huomenna?

Viimeinen kysymys on käytännössä se, jota muut vain palvelevat. Suvereenius mitataan sillä, mitä jää jäljelle kun yhteys katkaistaan.

Suvereenius on portaikko, ei kytkin

Vaihtoehtoja ei ole kaksi vaan viisi, ja jokainen porras ostaa lisää kontrollia jollain hinnalla.

1. Rajapinta (API) ulkomaiselta toimittajalta. Nopein ja halvin tapa aloittaa. Kysymykset menevät toisen yrityksen palvelimille, ja käyttö loppuu sinä päivänä kun pääsy katkeaa.
2. Sama malli omassa tai kotimaisessa konesalissa. Data ei poistu maasta ja lainsäädäntö on tuttu. Malli on silti toisen tekemä eikä sen sisältöön pääse käsiksi.
3. Avoimin painoin (open weights) julkaistu malli, ajettuna itse. Malli jää käyttöön vaikka julkaisija katoaisi. Opetusaineisto ja siihen tehdyt valinnat eivät silti ole tiedossa.
4. Oma hienosäätö avoimen mallin päälle. Käyttäytyminen, sanasto ja toimialan erityispiirteet saadaan omiksi kohtuullisella kustannuksella. Perusta on yhä lainassa.
5. Oma esikoulutus alusta asti. Täysi kontrolli siihen, mitä malli on nähnyt. Maksaa laskentana, aineistona ja ihmisinä enemmän kuin useimmat organisaatiot arvaavat, eikä se ole kertameno.

Suurin osa "suvereeni tekoäly" -puheesta tarkoittaa jotain porrasta kahden ja neljän väliltä. Se ei ole vilppiä, vaan useimmiten järkevin mahdollinen valinta. Sekaannus syntyy siitä, että kuulija ymmärtää portaan viisi.

Milloin oman mallin kouluttaminen on perusteltua

Perusteita on muutama, ja ne ovat konkreettisia:

• Aineistoa ei voi lähettää ulos. Turvaluokiteltu tieto, potilastieto tai liikesalaisuus ei kulje toisen yrityksen palvelimen kautta, olipa malli miten hyvä tahansa.
• Tehtävää ei ole yleisessä aineistossa. Harvinaiset kielet, kapea erikoisala tai sensoriaineisto, jota kukaan ei ole koskaan julkaissut verkkoon.
• Toimintavarmuus on osa vaatimusta. Järjestelmän pitää toimia myös silloin, kun yhteydet, sopimukset tai kauppapolitiikka eivät toimi.
• Sopivaa mallia ei yksinkertaisesti ole olemassa. Yleismalli osaa keskustella, mutta se ei ohjaa laitetta ympäristössä, jota ei ole kuvattu missään aineistossa.

Yksi peruste on huono: "oma on parempi". Suvereenius ei ole laadun mittari vaan kontrollin mittari, ja kontrollista maksetaan yleensä laadulla, nopeudella tai molemmilla. Se voi silti olla oikea kauppa. Kannattaa vain tietää tekevänsä sen.

Erikoisalan mallit törmäävät lisäksi samaan seinään: aineistoa ei ole riittävästi, koska tilanteita ei ole ehditty tai voitu tallentaa. Yleinen ratkaisu on tuottaa aineistoa simulaatiolla ja synteettisellä datalla (synthetic data). Silloin pätee vanha sääntö. Malli oppii sen maailman, jonka simulaatio kuvaa. Jos simulaatio on väärässä, malli on itsevarmasti väärässä, ja virhe huomataan vasta oikeissa olosuhteissa.

Kysymykset, joilla väitteen voi tarkistaa

Kun seuraavan kerran joku kertoo rakentavansa suvereenia tekoälyä, näillä kuudella kysymyksellä selviää, mistä on kyse:

1. Mikä osa on omaa: painot, hienosäätö, sovellus vai pelkkä käyttöoikeus?
2. Millä aineistolla malli on opetettu ja kuka sen omistaa?
3. Missä ja kenen laitteilla se ajetaan?
4. Mikä lakkaa toimimasta, jos ulkomainen toimittaja lopettaa huomenna?
5. Kuka päivittää mallin ensi vuonna ja mistä siihen tulevat rahat?
6. Miten laatu mitataan, ja mitataanko sitä oikeissa olosuhteissa vai esittelyssä?

Viimeinen on tärkein. Malli, joka toimii demossa, ei ole sama asia kuin malli, joka toimii silloin kun olosuhteet ovat toiset kuin opetusaineistossa. Tämä on koneoppimisen vanhin ongelma, eikä se katoa siitä, että malli on kotimainen.

Mitä tästä kannattaa jäädä mieleen

Yhdellä lauseella

Perusmalli kertoo, että sama malli on tehty monen käyttötarkoituksen perustaksi. Suvereeni kertoo, että joku haluaa päättää itse sen kohtalosta. Kumpikaan sana ei kerro, toimiiko malli.