Mikä agentti oikeasti on

Agentti on tällä hetkellä tekoälypuheen käytetyin sana. Se kuulostaa siltä, että kyseessä olisi uudenlainen, itsenäisesti ajatteleva tekoäly. Useimmiten kyse on jostakin paljon arkisemmasta: tavallisesta kielimallista, jonka ympärille on rakennettu ohjelma, joka antaa mallille työkalut ja antaa sen yrittää uudestaan.

Agentti on silmukka, ei malli

Tavallinen kielimallikutsu on yksi kierros: sisään kysymys, ulos vastaus. Agentti tekee saman monta kertaa peräkkäin ja tekee kierrosten välissä jotain:

1. Se arvioi tehtävän ja päättää seuraavan askeleen.
2. Se valitsee työkalun, esimerkiksi haun, tietokantakyselyn tai sähköpostin lähetyksen.
3. Se katsoo, mitä työkalu palautti.
4. Se korjaa suunnitelmaa, jos tulos ei ollut odotettu.
5. Se jatkaa, kunnes tehtävä on valmis tai raja tulee vastaan.

Malli tuottaa jokaisella kierroksella tekstiä. Ohjelmisto ympärillä tulkitsee tekstin toiminnoksi, suorittaa sen ja syöttää tuloksen takaisin malliin. Tässä on koko temppu.

Mistä agentin kyvykkyys syntyy?

Käytännössä agentin laatu ratkeaa harvoin siitä, mikä malli on konepellin alla. Ratkaisevia ovat:

• Työkalut. Agentti voi tehdä vain sen, mihin sillä on rajapinta. Ilman pääsyä laskutusjärjestelmään se ei hoida laskutusta, kuinka fiksu tahansa.
• Ohjeet. Selkeä kuvaus tehtävästä, rajoista ja hyväksyttävästä lopputuloksesta poistaa suuren osan virheistä.
• Konteksti. Agentti tarvitsee oikeat tiedot oikeaan aikaan. Kaiken tunkeminen kerralla promptiin on kallista ja heikentää tarkkuutta.
• Muisti. Mitä kierrosten välillä kannattaa säilyttää ja mitä unohtaa.
• Tarkistukset. Tuottaako joku tai jokin arvion siitä, meniköhän askel oikein?

Missä agentit menevät pieleen

Agenteille tyypilliset ongelmat eivät ole eksoottisia:

• Se tekee monta mallikutsua yhtä tehtävää kohti, jolloin kustannus kertautuu huomaamatta.
• Yksi väärä välivaihe vie koko ketjun harhaan, ja seuraavat askeleet rakennetaan virheen päälle.
• Se saa liian laajat oikeudet ja pääsee tekemään peruuttamattomia asioita.
• Kukaan ei näe jälkikäteen, mitä se teki ja miksi.
• Onnistuminen todetaan demossa, ei mittauksella.

Mitä yrityskäytössä tarvitaan

Agentti ei saa olla vapaasti liikkuva. Tuotantokäytössä tarvitaan tyypillisesti:

• rajatut oikeudet: vain ne järjestelmät ja rivit, jotka tehtävä vaatii
• hyväksyntäpisteet: ihminen vahvistaa peruuttamattomat toimet
• lokitus: mitä työkaluja kutsuttiin, millä parametreilla ja mitä palautui
• budjettikatto: enimmäismäärä kierroksia ja kustannusta per tehtävä
• evaluaatio: joukko oikeita tapauksia, joilla laatua mitataan ennen ja jälkeen muutosten.

Yhdellä lauseella

Agentin älykkyys ei asu mallissa vaan siinä, mitä sen ympärille on rakennettu. Sama malli voi olla loistava tai käyttökelvoton riippuen työkaluista, ohjeista, oikeuksista ja tarkistuksista.