Tekoälyn käyttö voi vaarantaa tieteen luotettavuuden

Tekoälyn (AI) nopea kehitys on tuonut mukanaan valtavia mahdollisuuksia, mutta samalla se herättää huolta tieteen integriteetistä. Research Professional Newsin artikkelin mukaan tekoälyn käyttö tutkimuksessa voi johtaa vakaviin riskeihin, jotka uhkaavat tieteellisen tiedon luotettavuutta ja uskottavuutta. Tämä on erityisen ajankohtaista, kun tekoälyä hyödynnetään yhä enemmän tieteellisissä prosesseissa, kuten datan analysoinnissa, mallinnuksessa ja jopa julkaisujen laatimisessa.

Tekoälyn riskit tieteessä

Yksi keskeinen ongelma on tekoälyn tuottamien tulosten läpinäkyvyys. Monet tekoälymallit, erityisesti syväoppimiseen perustuvat järjestelmät, toimivat ”mustina laatikoina”, joiden toimintalogiikkaa on vaikea selittää. Tämä voi johtaa siihen, että tutkijat eivät täysin ymmärrä, miten tietyt tulokset on tuotettu, mikä heikentää tutkimuksen toistettavuutta – tieteen kulmakiveä. Lisäksi tekoälyyn perustuvat analyysit voivat sisältää piileviä ennakkoluuloja, jotka johtuvat esimerkiksi koulutukseen käytetystä datasta. Tämä voi vääristää tutkimustuloksia ja johtaa virheellisiin johtopäätöksiin.

Toinen huolenaihe on tekoälyn käyttö tieteellisten julkaisujen tuottamisessa. Esimerkiksi tekoälypohjaiset kielimallit voivat laatia artikkeleita, jotka vaikuttavat uskottavilta mutta sisältävät keksittyjä viitteitä tai virheellisiä väitteitä. Tällainen tapaus nousi esiin Yhdysvalloissa, kun asianajaja käytti tekoälyä oikeudellisen asiakirjan laatimiseen, mutta asiakirja sisälsi lähes 30 virheellistä viittausta, mukaan lukien olemattomia oikeustapauksia. Tämä korostaa, että tekoälyn tuottamaa sisältöä on valvottava tarkasti, jotta vältetään tieteellisen kirjallisuuden saastuminen virheellisillä tiedoilla.

Eettiset kysymykset ja sääntely

Tekoälyn käyttöön liittyy myös eettisiä ongelmia. Esimerkiksi Science-lehden artikkelissa nostettiin esiin huoli siitä, että Reddit-alustalla tehty tekoälytutkimus herätti kysymyksiä suostumuksesta ja tutkimussuunnittelusta. Tällaiset tapaukset osoittavat, että tekoälyn käyttö tutkimuksessa vaatii selkeitä eettisiä ohjeita.

Sääntelyn tarve on ilmeinen. Euroopassa ja Yhdysvalloissa on alettu käydä keskustelua tekoälyn käytön rajoittamisesta ja valvonnasta. Esimerkiksi Coloradossa on säädetty Yhdysvaltojen ensimmäinen osavaltiotason laki, joka säätelee tekoälyn käyttöä yrityksissä, mutta sen toimeenpanoa on ehdotettu lykättäväksi, jotta sidosryhmät voivat kehittää toimivan sääntelykehyksen. Euroopassa puolestaan Ursula von der Leyen on korostanut tarvetta houkutella tutkijoita EU:hun samalla kun tekoälyn sääntelyä kehitetään.

Mitä voidaan tehdä?

Tutkijoiden ja instituutioiden on otettava aktiivinen rooli tekoälyn riskien hallinnassa. Ensinnäkin tekoälyn käyttöä koskevia toimintatapoja tulisi standardoida, jotta varmistetaan tulosten toistettavuus ja läpinäkyvyys. Toiseksi tutkijoiden tulisi saada koulutusta tekoälyn toimintaperiaatteista ja sen rajoituksista. Lisäksi tieteellisten julkaisujen vertaisarviointiprosesseja on vahvistettava, jotta tekoälyn tuottamat virheet voidaan havaita ajoissa.

Myös sääntelyllä on tärkeä rooli. Kansainvälinen yhteistyö tekoälyn eettisten standardien kehittämiseksi on välttämätöntä, sillä tekoälyn vaikutukset ylittävät kansalliset rajat. Esimerkiksi vuonna 2015 tutkijat vaativat maailmanlaajuista moratoriota autonomisten robottien käyttöön tappavina aseina, mikä osoittaa, että ennakoiva sääntely voi estää teknologian väärinkäytöksiä.

Tekoäly tarjoaa valtavia mahdollisuuksia tieteelle, mutta sen käyttöön liittyy merkittäviä riskejä, jotka voivat vaarantaa tieteen uskottavuuden. Läpinäkyvyyden lisääminen, eettisten ohjeiden laatiminen ja tiukka sääntely ovat välttämättömiä, jotta tekoäly voi palvella tiedettä ilman, että se heikentää sen perustuksia. Tutkijoiden, päättäjien ja teknologiayritysten on toimittava yhdessä varmistaakseen, että tekoäly tukee tieteen edistystä eikä vaaranna sen luotettavuutta.

Lähteet:

• Research Professional News, ”AI use risks undermining science”, 8.5.2025
• Ars Technica, ”Mike Lindell’s lawyers used AI to write brief—judge finds nearly 30 mistakes”, 26.4.2025
• Science, ”‘Unethical’ AI research on Reddit under fire”, 30.4.2025
• CBS Colorado, ”Polis calls on Colorado lawmakers to delay implementation of first-in-the-nation artificial intelligence law”, 7.5.2025
• Research Professional News, ”Commission president takes up call to attract researchers to EU”, 30.4.2025