Tutkijat ovat osoittaneet, että tekoäly (AI) voi olla arvokas työkalu salaliittoteorioiden torjunnassa. He kehittivät chatbotin, joka voi kumota väärän tiedon ja rohkaista ihmisiä kyseenalaistamaan ajattelutapansa.

Syyskuun 12. päivänä julkaistussa tutkimuksessaTiedejulkaistiin 1, osallistujat viettivät muutaman minuutin chatbotin kanssa tarjoten yksityiskohtaisia ​​vastauksia ja perusteluja, mikä johti useiden kuukausien ajan ajattelumuutokseen. Tämä tulos viittaa siihen, että tosiasiat ja todisteet voivat todellakin muuttaa ihmisten mielen.

"Tämä työ haastoi paljon olemassa olevaa kirjallisuutta, jossa oletetaan, että elämme totuuden jälkeisessä yhteiskunnassa", sanoo Katherine FitzGerald, joka tutkii salaliittoteorioita ja väärää tietoa Queenslandin teknillisestä yliopistosta Brisbanessa, Australiassa.

Aiemmat analyysit ovat osoittaneet, että ihmiset vetoavat salaliittoteorioihin, koska he etsivät turvallisuutta ja varmuutta myrskyisässä maailmassa. Mutta "se, mitä löysimme tässä työssä, on ristiriidassa tämän perinteisen selityksen kanssa", sanoo toinen kirjoittaja Thomas Costello, psykologian tutkija American Universitystä Washington DC:ssä. "Yksi tämän tutkimuksen mahdollisesti jännittävistä sovelluksista on, että tekoälyä voitaisiin käyttää salaliittoteorioiden kumoamiseen tosielämässä."

Haitallisia ajatuksia

Vaikka monilla salaliittoteorioilla on vain vähän sosiaalista vaikutusta, suosiota saaneet voivat "aiheuttaa todellista haittaa", FitzGerald sanoo. Hän mainitsee esimerkkeinä 6. tammikuuta 2021 tapahtuneen hyökkäyksen Yhdysvaltain pääkaupunkiin, jota ruokkivat osittain väitteet väärennetyistä vuoden 2020 presidentinvaaleista, sekä rokotteenvastainen retoriikka, joka haittasi COVID-19-rokotusten hyväksymistä.

On mahdollista saada ihmiset muuttamaan mieltään, mutta sen tekeminen voi olla aikaa vievää ja stressaavaa – ja salaliittoteorioiden valtava määrä ja moninaisuus vaikeuttaa ongelman käsittelemistä laajemmassa mittakaavassa. Costello ja hänen kollegansa halusivat kuitenkin tutkia suurten kielimallien (LLM) mahdollisuuksia – jotka voivat käsitellä nopeasti suuria määriä tietoa ja tuottaa ihmismäisiä vastauksia – salaliittoteorioiden torjumiseksi. "He ovat koulutettuja Internetissä ja tietävät kaikki salaliittoteoriat ja niiden vasta-argumentit, joten se vaikutti hyvin luonnolliselta sopivalta", Costello sanoo.

Usko tai älä

Tutkijat kehittivät mukautetun chatbotin käyttämällä GPT-4 Turboa – viimeisintä LLM:tä San Franciscosta Kaliforniassa sijaitsevasta ChatGPT:n luoja OpenAI:sta – joka oli koulutettu vastustamaan vakuuttavasti salaliittoja. Sitten he rekrytoivat yli 1 000 osallistujaa, joiden väestötiedot vastaavat Yhdysvaltain väestönlaskennan tietoja sukupuolen ja etnisen taustan osalta. Costello sanoo, että rekrytoimalla "ihmisiä, joilla on erilainen elämänkokemus ja omat näkökulmansa", tiimi pystyi arvioimaan chatbotin kykyä kumota erilaisia ​​salaliittoja.

Jokaista osallistujaa pyydettiin kuvailemaan salaliittoteoria, selittämään, miksi he uskoivat sen olevan totta, ja ilmaisemaan uskonsa vahvuus prosentteina. Nämä tiedot jaettiin chatbotin kanssa, joka sitten kävi keskustelua osallistujan kanssa vedoten tietoihin ja todisteisiin, jotka heikensivät tai kumosivat salaliiton, ja vastasi osallistujan kysymyksiin. Chatbotin vastaukset olivat perusteellisia ja yksityiskohtaisia, usein satoja sanoja. Jokainen keskustelu kesti keskimäärin noin 8 minuuttia.

Lähestymistapa osoittautui tehokkaaksi: osallistujien luottamus valitsemaansa salaliittoteoriaan putosi keskimäärin 21 %, kun he olivat olleet vuorovaikutuksessa chatbotin kanssa. Ja 25 % osallistujista siirtyi korkeasta itseluottamuksesta (yli 50 %) epävarmuuteen. Muutos oli kuitenkin tuskin havaittavissa vertailuryhmissä, jotka puhuivat samalle chatbotille samanlaisesta aiheesta. Kaksi kuukautta myöhemmin tehty seurantatutkimus osoitti, että näkökulman muutos jatkui monien osallistujien kohdalla.

Vaikka tutkimuksen tulokset ovat lupaavia, tutkijat huomauttavat, että osallistujat olivat palkattuja kyselyn ottajia, eivätkä välttämättä edusta salaliittoteorioihin syvästi uppoutuneita ihmisiä.

Tehokas väliintulo

FitzGerald on innoissaan tekoälyn mahdollisuuksista torjua salaliittoja. "Jos löydämme tavan estää väkivaltaa offline-tilassa, se on aina hyvä asia", hän sanoo. Hän ehdottaa, että seurantatutkimuksessa voitaisiin tarkastella erilaisia ​​mittareita chatbotin tehokkuuden arvioimiseksi, tai tutkimus voitaisiin toistaa käyttämällä LLM:itä vähemmän kehittyneillä turvatoimilla sen varmistamiseksi, että ne eivät vahvista salaliittoa.

Aiemmat tutkimukset ovat herättäneet huolta tekoäly-chatbottien taipumuksesta "halusinoida" vääriä tietoja. Tutkimuksessa kuitenkin vältettiin tämä mahdollisuus – Costellon tiimi pyysi ammattimaista faktantarkistajaa arvioimaan chatbotin antamien tietojen paikkansapitävyyttä, joka vahvisti, ettei mikään väitteistä ollut valheellinen tai poliittisesti puolueellinen.

Costello sanoo, että tiimi suunnittelee lisää kokeiluja chatbotin eri strategioiden testaamiseksi, kuten tutkiakseen, mitä tapahtuu, kun chatbotin vastaukset ovat töykeitä. Tunnistamalla "kokeet, joissa usko ei enää toimi", he toivovat saavansa lisätietoja siitä, mikä teki tästä tutkimuksesta niin onnistuneen.