Nástroj AI podporuje dialóg medzi ľuďmi s opačnými názormi

Nástroj AI podporuje dialóg medzi ľuďmi s opačnými názormi

Nástroj podobný chatbotom poháňaný umelou inteligenciou (AI) môže pomôcť ľuďom s rôznymi názormi nájsť oblasti, v ktorých sa zhodneme. Ukazuje to experiment s online diskusnými skupinami.

Model, ktorý vyvinula spoločnosť Google DeepMind v Londýne, dokázal syntetizovať odlišné názory a vytvoriť súhrny pozícií každej skupiny, ktoré zohľadňovali rôzne perspektívy. Účastníci uprednostňovali súhrny vygenerované AI pred súhrnmi napísanými ľudskými sprostredkovateľmi. To naznačuje, že takéto nástroje by sa mohli použiť na podporu komplexných konzultácií. Štúdia bola publikovaná 17. októbra v časopise Science 1.

„Môžete to vnímať ako dôkaz konceptu, že môžete použiť AI, najmä veľké jazykové modely, na vykonávanie niektorých funkcií, ktoré v súčasnosti vykonávajú občianske zhromaždenia a deliberatívne prieskumy,“ hovorí Christopher Summerfield, spoluautor štúdie a výskumný riaditeľ britského inštitútu AI Safety Institute. "Ľudia musia nájsť spoločnú reč, pretože kolektívna akcia si vyžaduje súhlas."

Kompromisný stroj

Demokratické iniciatívy, ako sú stretnutia na radnici, kde sa od skupín ľudí žiada, aby sa podelili o svoje názory na politické otázky, zabezpečujú, že politici vypočujú rôzne názory. Rozšírenie týchto iniciatív však môže byť náročné, pretože tieto diskusie sú často obmedzené na malé skupiny, aby sa zabezpečilo, že budú vypočuté všetky hlasy.

Summerfield a jeho kolegovia boli zvedaví na výskum možností veľkých jazykových modelov (LLM), a preto vypracovali štúdiu na vyhodnotenie toho, ako by AI mohla pomôcť ľuďom s opačnými názormi dosiahnuť kompromis.

Nasadili vyladenú verziu vopred trénovanej činčily DeepMind LLM, ktorú nazvali „Habermasov stroj“, pomenovanú po filozofovi Jürgenovi Habermasovi, ktorý vyvinul teóriu o tom, ako môžu racionálne diskusie pomôcť vyriešiť konflikty.

Na testovanie svojho modelu výskumníci prijali 439 britských obyvateľov, ktorí boli rozdelení do menších skupín. Každá skupina diskutovala o troch otázkach týkajúcich sa britských politických otázok a podelila sa o svoje osobné názory na ne. Tieto názory boli potom vložené do motora AI, ktorý generoval zastrešujúce vyhlásenia, ktoré kombinovali perspektívy všetkých účastníkov. Účastníci mohli ohodnotiť a kritizovať každé vyhlásenie, ktoré potom AI začlenila do konečného zhrnutia kolektívneho pohľadu skupiny.

„Model je vyškolený na to, aby vytvoril vyhlásenie, ktoré má maximálnu podporu od skupiny ľudí, ktorí dobrovoľne vyjadrili svoj názor,“ hovorí Summerfield. "Keď sa model dozvie, aké sú vaše preferencie v súvislosti s týmito výrokmi, môže vytvoriť výrok, ktorý s najväčšou pravdepodobnosťou uspokojí každého."

Okrem AI bol vybraný účastník ako mediátor. Bol tiež požiadaný, aby vytvoril zhrnutie, ktoré najlepšie zahŕňa názory všetkých účastníkov. Účastníkom sa zobrazili súhrny AI ​​a sprostredkovateľa a boli požiadaní, aby ich ohodnotili.

Väčšina účastníkov hodnotila súhrny napísané AI ako lepšie ako súhrny napísané sprostredkovateľom. 56 % účastníkov uprednostňovalo výkon AI v porovnaní so 44 %, ktorí uprednostňovali ľudskú sumarizáciu. Externí recenzenti boli tiež požiadaní, aby zhodnotili súhrny a dali súhrnom AI vyššie hodnotenie za spravodlivosť, kvalitu a jasnosť.

Výskumný tím potom prijal skupinu účastníkov demograficky reprezentatívnych pre populáciu Spojeného kráľovstva na stretnutie virtuálnej radnice. V tomto scenári sa skupinová dohoda o sporných otázkach zvýšila po interakcii s AI. Toto zistenie naznačuje, že nástroje umelej inteligencie, keď sú integrované do skutočného zhromaždenia občanov, by mohli lídrom uľahčiť vytváranie návrhov politík, ktoré zohľadňujú rôzne perspektívy.

„LLM by sa dalo využiť mnohými spôsobmi na podporu rokovaní a na prevzatie úloh, ktoré boli predtým vyhradené pre ľudských facilitátorov,“ hovorí Ethan Busby, ktorý študuje, ako by nástroje AI mohli zlepšiť demokratické spoločnosti na Univerzite Brighama Younga v Provo v Utahu. "Vidím to ako vrchol práce v tejto oblasti, ktorá má veľký potenciál riešiť naliehavé sociálne a politické problémy." Summerfield dodáva, že AI by dokonca mohla pomôcť urýchliť a zefektívniť procesy riešenia konfliktov.

Stratené spojenia

„Aplikácia týchto technológií na deliberatívne experimenty a procesy je skutočne potešujúca,“ hovorí Sammy McKinney, ktorý študuje deliberatívnu demokraciu a jej rozhrania s umelou inteligenciou na University of Cambridge vo Veľkej Británii. Dodáva však, že výskumníci by mali starostlivo zvážiť potenciálny vplyv AI na ľudský aspekt uvažovania. „Kľúčovým dôvodom na podporu občianskych úvah je to, že vytvárajú špecifické priestory, v ktorých sa ľudia môžu navzájom spájať,“ hovorí. "Čo strácame tým, že čoraz viac odstraňujeme ľudský kontakt a ľudské uľahčenie?"

Summerfield si uvedomuje obmedzenia spojené s technológiami AI, ako sú tieto. „Necvičili sme model, aby zasahoval do uvažovania,“ hovorí, čo znamená, že vyhlásenie modelu môže obsahovať aj extrémistické alebo iné problematické presvedčenia. Dodáva, že dôsledný výskum vplyvu AI na spoločnosť je kľúčový pre pochopenie jej hodnoty.

"Zdá sa mi dôležité postupovať opatrne," hovorí McKinney, "a potom, ak je to možné, podniknúť kroky na zmiernenie týchto obáv."

1. Tessler, M.H. a kol., Science 386, eadq2852 (2024).

   
   Študovňa Google

Stiahnite si bibliografiu