Nástroj AI podporuje dialog mezi lidmi s opačnými názory

Nástroj AI podporuje dialog mezi lidmi s opačnými názory

Nástroj podobný chatbotu poháněný umělou inteligencí (AI) může pomoci lidem s různými názory najít oblasti shody. Ukazuje to experiment s online diskusními skupinami.

Model vyvinutý společností Google DeepMind v Londýně byl schopen syntetizovat odlišné názory a vytvářet shrnutí postojů každé skupiny, které zohledňovalo různé perspektivy. Účastníci upřednostňovali souhrny generované umělou inteligencí před souhrny napsanými lidskými zprostředkovateli. To naznačuje, že takové nástroje by mohly být použity na podporu komplexních konzultací. Studie byla publikována 17. října v časopise Science 1.

„Můžete to vnímat jako důkaz konceptu, že můžete použít AI, zejména velké jazykové modely, k provádění některých funkcí, které v současnosti vykonávají občanská shromáždění a poradní průzkumy,“ říká Christopher Summerfield, spoluautor studie a výzkumný ředitel britského institutu AI Safety Institute. "Lidé musí najít společnou řeč, protože kolektivní akce vyžaduje souhlas."

Kompromisní stroj

Demokratické iniciativy, jako jsou schůzky na radnici, kde jsou skupiny lidí žádány, aby sdílely své názory na politické otázky, zajišťují, aby politici slyšeli různé pohledy. Rozšiřování těchto iniciativ však může být obtížné, protože tyto diskuse se často omezují na malé skupiny, aby bylo zajištěno, že budou slyšet všechny hlasy.

Summerfield a jeho kolegové, zvědaví na výzkum možností velkých jazykových modelů (LLM), vypracovali studii, která měla vyhodnotit, jak by umělá inteligence mohla pomoci lidem s opačnými názory dosáhnout kompromisu.

Nasadili vyladěnou verzi předem vycvičené činčily DeepMind LLM, kterou nazvali „Habermasův stroj“, pojmenovanou po filozofovi Jürgenu Habermasovi, který vyvinul teorii o tom, jak mohou racionální diskuse pomoci řešit konflikty.

K testování svého modelu výzkumníci naverbovali 439 britských obyvatel, kteří byli rozděleni do menších skupin. Každá skupina diskutovala o třech otázkách týkajících se britských politických problémů a podělila se o své osobní názory na ně. Tyto názory byly poté vloženy do motoru AI, který generoval zastřešující prohlášení, která kombinovala pohledy všech účastníků. Účastníci byli schopni ohodnotit a kritizovat každé prohlášení, které pak AI začlenila do konečného shrnutí kolektivního pohledu skupiny.

„Model je trénován tak, aby vytvořil prohlášení, které má maximální podporu od skupiny lidí, kteří dobrovolně vyjádřili své názory,“ říká Summerfield. "Jakmile se model dozví, jaké jsou vaše preference ohledně těchto výroků, může vytvořit výrok, který s největší pravděpodobností uspokojí každého."

Kromě AI byl jako mediátor vybrán účastník. Byl také požádán, aby vytvořil shrnutí, které nejlépe zahrne názory všech účastníků. Účastníkům byla ukázána jak AI, tak zprostředkovatelova shrnutí a byli požádáni, aby je ohodnotili.

Většina účastníků hodnotila souhrny napsané umělou inteligencí jako lepší než ty, které napsal prostředník. 56 % účastníků preferovalo výkon AI, ve srovnání se 44 %, kteří preferovali lidskou sumarizaci. Externí recenzenti byli také požádáni, aby vyhodnotili souhrny a udělili souhrnům AI vyšší hodnocení z hlediska spravedlnosti, kvality a srozumitelnosti.

Výzkumný tým poté rekrutoval skupinu účastníků demograficky reprezentativních pro populaci Spojeného království pro virtuální setkání na radnici. V tomto scénáři se skupinová dohoda o sporných otázkách zvýšila poté, co interagovali s AI. Toto zjištění naznačuje, že nástroje umělé inteligence, pokud jsou integrovány do skutečného shromáždění občanů, by mohly usnadnit vedoucím představitelům vypracování návrhů politik, které zohledňují různé perspektivy.

„LLM by se dalo využít mnoha způsoby k podpoře úvah a převzetí rolí, které byly dříve vyhrazeny lidským facilitátorům,“ říká Ethan Busby, který na Univerzitě Brighama Younga v Provu v Utahu studuje, jak by nástroje umělé inteligence mohly zlepšit demokratickou společnost. "Vidím to jako vrchol práce v této oblasti, která má velký potenciál řešit naléhavé sociální a politické problémy." Summerfield dodává, že AI by dokonce mohla pomoci zrychlit a zefektivnit procesy řešení konfliktů.

Ztracené spojení

„Aplikace těchto technologií na deliberativní experimenty a procesy je opravdu potěšující,“ říká Sammy McKinney, který na University of Cambridge ve Velké Británii studuje deliberativní demokracii a její rozhraní s umělou inteligencí. Dodává však, že výzkumníci by měli pečlivě zvážit potenciální dopad AI na lidský aspekt uvažování. „Klíčovým důvodem pro podporu občanských úvah je to, že vytvářejí specifické prostory, ve kterých se lidé mohou navzájem stýkat,“ říká. "Co ztrácíme tím, že stále více odstraňujeme lidský kontakt a lidské usnadňování?"

Summerfield si uvědomuje omezení spojená s technologiemi AI, jako jsou tyto. "Necvičili jsme model, aby zasahoval do uvažování," říká, což znamená, že prohlášení modelu by také mohlo obsahovat extremistická nebo jiná problematická přesvědčení. Dodává, že pro pochopení její hodnoty je zásadní důkladný výzkum dopadu umělé inteligence na společnost.

"Připadá mi důležité postupovat opatrně," říká McKinney, "a pak podniknout kroky ke zmírnění těchto obav, kde je to možné."

1. Tessler, M.H. a kol., Science 386, eadq2852 (2024).

   
   Google Scholar

Stáhněte si bibliografii