Az AI eszköz elősegíti a párbeszédet az ellentétes véleményű emberek között

Az AI eszköz elősegíti a párbeszédet az ellentétes véleményű emberek között

A mesterséges intelligenciával (AI) hajtott chatbot-szerű eszköz segíthet a különböző nézeteket valló embereknek abban, hogy egyetértési területeket találjanak. Ezt mutatja egy online vitacsoportokkal végzett kísérlet.

A londoni Google DeepMind által kifejlesztett modell képes volt szintetizálni az eltérő véleményeket, és összefoglalni az egyes csoportok álláspontját, amely különböző szempontokat vett figyelembe. A résztvevők előnyben részesítették a mesterséges intelligencia által generált összefoglalókat az emberi közvetítők által írottakkal szemben. Ez arra utal, hogy az ilyen eszközöket komplex konzultációk támogatására lehetne használni. A tanulmány október 17-én jelent meg a Science folyóiratban 1.

„Az elgondolás bizonyítékaként tekinthet arra, hogy a mesterséges intelligencia, különösen a nagy nyelvi modellek segítségével elláthatja azokat a funkciókat, amelyeket jelenleg a polgári gyűlések és a tanácskozó közvélemény-kutatások látnak el” – mondja Christopher Summerfield, a tanulmány társszerzője és az Egyesült Királyság AI Safety Institute kutatási igazgatója. „Az embereknek közös hangot kell találniuk, mert a kollektív cselekvéshez beleegyezés szükséges.”

Kompromisszumos gép

A demokratikus kezdeményezések, mint például a városháza ülései, ahol emberek csoportjait kérik meg, hogy osszák meg véleményüket politikai kérdésekről, biztosítják, hogy a politikusok többféle nézőpontot halljanak. Ezeknek a kezdeményezéseknek a kiterjesztése azonban nehéz lehet, mivel ezek a megbeszélések gyakran kis csoportokra korlátozódnak, hogy minden hangot meghallgassanak.

A nagy nyelvi modellek (LLM-ek) lehetőségeinek kutatására kíváncsi Summerfield és munkatársai egy tanulmányt dolgoztak ki annak felmérésére, hogy a mesterséges intelligencia hogyan segítheti az ellentétes véleményű embereket a kompromisszum elérésében.

Bevezették az előre kiképzett DeepMind LLM Chinchilla finomhangolt változatát, amelyet „Habermas gépnek” neveztek el, amelyet Jürgen Habermas filozófusról neveztek el, aki kidolgozott egy elméletet arról, hogy a racionális megbeszélések hogyan segíthetik a konfliktusok megoldását.

Modelljük teszteléséhez a kutatók 439 brit lakost toboroztak, akiket kisebb csoportokra osztottak. Mindegyik csoport három kérdést vitat meg a brit politikai kérdésekről, és megosztotta velük kapcsolatos személyes véleményét. Ezeket a véleményeket aztán betáplálták az AI-motorba, amely átfogó kijelentéseket generált, amelyek egyesítették az összes résztvevő szempontjait. A résztvevők értékelni és bírálni tudták az egyes kijelentéseket, amelyeket az AI aztán beépített a csoport kollektív nézetének végső összefoglalójába.

„A modellt arra képezték ki, hogy olyan nyilatkozatot állítson elő, amely maximális támogatást kap egy olyan embercsoporttól, akik önként nyilvánították véleményüket” – mondja Summerfield. "Amint a modell megtanulja, hogy mi a preferenciája ezekkel az állításokkal kapcsolatban, olyan kijelentést tud készíteni, amely valószínűleg mindenkit kielégít."

Az MI mellett egy résztvevőt választottak ki közvetítőnek. Arra is felkérték, hogy készítsen olyan összefoglalót, amely a legjobban tartalmazza az összes résztvevő véleményét. A résztvevőknek megmutatták az AI és a közvetítő összefoglalóit, és megkérték őket, hogy értékeljék őket.

A legtöbb résztvevő jobbnak ítélte az AI által írt összefoglalókat, mint a közvetítő által írottakat. A résztvevők 56%-a részesítette előnyben a mesterséges intelligencia teljesítményét, míg 44%-uk az emberi összefoglalást részesítette előnyben. A külső értékelőket arra is felkérték, hogy értékeljék az összefoglalókat, és magasabb minősítést adtak az AI-összefoglalóknak az igazságosság, a minőség és az egyértelműség miatt.

A kutatócsoport ezután az Egyesült Királyság lakosságát demográfiailag reprezentatív résztvevőkből toborozta egy virtuális városházi találkozóra. Ebben a forgatókönyvben a csoportos egyetértés nőtt a vitás kérdésekben, miután kapcsolatba léptek az MI-vel. Ez a megállapítás azt sugallja, hogy a mesterséges intelligencia eszközök egy valódi polgári gyűlésbe integrálva megkönnyíthetik a vezetők számára, hogy olyan szakpolitikai javaslatokat dolgozzanak ki, amelyek figyelembe veszik a különböző szempontokat.

„Az LLM-et sokféleképpen fel lehetne használni a tanácskozások támogatására és a korábban az emberi segítők számára fenntartott szerepek felvállalására” – mondja Ethan Busby, aki a utahi Provóban található Brigham Young Egyetemen azt tanulmányozza, hogy az AI-eszközök hogyan javíthatják a demokratikus társadalmakat. „Ezt tekintem a munka csúcsának ezen a területen, amely nagy lehetőségeket rejt magában a sürgető társadalmi és politikai kérdések kezelésében.” Summerfield hozzáteszi, hogy a mesterséges intelligencia akár gyorsabbá és hatékonyabbá teheti a konfliktusmegoldási folyamatokat.

Elveszett kapcsolatok

„Valójában örvendetes, hogy ezeket a technológiákat deliberatív kísérletekben és folyamatokban alkalmazzuk” – mondja Sammy McKinney, aki a deliberatív demokráciát és annak mesterséges intelligenciával való interfészeit tanulmányozza a Cambridge-i Egyetemen, az Egyesült Királyságban. De hozzáteszi, hogy a kutatóknak alaposan meg kell fontolniuk az AI lehetséges hatását a mérlegelés emberi vonatkozásaira. „A polgári tanácskozások támogatásának egyik fő oka az, hogy különleges tereket hoznak létre, ahol az emberek kapcsolatba léphetnek egymással” – mondja. „Mit veszítünk azzal, ha egyre inkább megszüntetjük az emberi kapcsolatokat és az emberi könnyítést?”

Summerfield felismeri az AI-technológiákhoz hasonló korlátokat. „Nem arra tanítottuk a modellt, hogy beleavatkozzon a mérlegelésbe” – mondja, vagyis a modell nyilatkozata szélsőséges vagy egyéb problémás meggyőződéseket is tartalmazhat. Hozzáteszi, hogy a mesterséges intelligencia társadalomra gyakorolt ​​hatásának alapos kutatása kulcsfontosságú az értékének megértéséhez.

„Számomra fontosnak tűnik, hogy óvatosan járjak el – mondja McKinney –, majd lépéseket tegyek az aggodalmak enyhítésére, ahol lehetséges.”

1. Tessler, M.H. et al., Science 386, eadq2852 (2024).

   
   Google Tudós

Bibliográfia letöltése