Tekoälyn hallusinaatiot oikeudellisessa työssä – ja miten ne hallitaan

Kielimalli voi tuottaa vastauksen, joka kuulostaa täysin uskottavalta mutta on keksitty. Juridiikassa tämä ei ole pieni häiriö: keksitty oikeustapaus tai pykälä voi päätyä kirjelmään, ja seuraukset ovat juristin – eivät koneen.

Mistä hallusinaatiossa on kyse

Kielimalli ennustaa todennäköisimmän seuraavan sanan. Se ei "tiedä" mitään samalla tavalla kuin ihminen tarkistaa lähteestä. Kun kysymys osuu mallin tietämyksen reunalle, se täydentää aukon sujuvalla mutta perusteettomalla sisällöllä. Lopputulos näyttää oikealta, koska se on kirjoitettu oikean näköiseksi.

Yhdysvalloissa ilmiö on jo arkipäivää. Ensimmäisessä laajalti uutisoidussa tapauksessa (2023) kaksi asianajajaa sai sakot vedottuaan ChatGPT:n keksimiin oikeustapauksiin, ja keksittyjä viittauksia on sittemmin dokumentoitu sadoittain tuomioistuinten asiakirjoissa – yhdessä tapauksessa sakot nousivat yli 100 000 dollariin. Seurauksena on ollut sanktioita ja vahinkoa ammatilliselle maineelle. Ongelma ei ole teoreettinen.

Miten riski hallitaan

Vaadi lähde jokaiseen väitteeseen. Jos työkalu ei kerro, mihin säädökseen tai ratkaisuun vastaus perustuu, sitä ei voi käyttää sellaisenaan.

Suosi hakupohjaisia järjestelmiä. Kun vastaus rakennetaan haetuista, todellisista lähteistä eikä pelkästä mallin muistista, keksimisen vara kapenee olennaisesti.

Pidä ihminen tarkistajana. Jokainen lähde avataan ja luetaan ennen kuin sitä käytetään. Tekoäly nopeuttaa löytämistä; juristi vahvistaa oikeellisuuden.

Tunnista riskialttiit kysymykset. Mitä kapeampi tai tuoreempi oikeuskysymys, sitä suurempi syy varmistaa kahdesti.

Läpinäkyvyys on paras suoja

Vaarallisin työkalu on se, joka esittää arvauksensa varmuutena ja piilottaa päättelynsä. Turvallinen työkalu tekee päinvastoin: se näyttää, mistä tieto tulee, ja tekee tarkistamisesta helppoa.

Lexivo perustaa vastauksensa todellisiin oikeuslähteisiin ja viittaa niihin, jotta tarkistaminen on osa työnkulkua – ei erillinen vaihe, joka jää tekemättä.

---

*Lähteet: Asianajajat sakotettu ChatGPT:n keksimistä oikeustapauksista – CBS News · Kalifornian historiallinen sakko tekoälyn väärennöksistä – CalMatters*