AI-værktøj fremmer dialog mellem mennesker med modsatrettede meninger

AI-værktøj fremmer dialog mellem mennesker med modsatrettede meninger

Et chatbot-lignende værktøj drevet af kunstig intelligens (AI) kan hjælpe folk med forskellige synspunkter med at finde områder, hvor de er enige. Det viser et eksperiment med online diskussionsgrupper.

Modellen, udviklet af Google DeepMind i London, var i stand til at syntetisere divergerende meninger og producere resuméer af hver gruppes holdning, der tog forskellige perspektiver i betragtning. Deltagerne foretrak de AI-genererede resuméer frem for dem skrevet af menneskelige mæglere. Dette tyder på, at sådanne værktøjer kan bruges til at understøtte komplekse høringer. Undersøgelsen blev offentliggjort den 17. oktober i tidsskriftet Science 1.

"Du kan se det som et proof of concept, at du kan bruge AI, især store sprogmodeller, til at udføre nogle af de funktioner, der i øjeblikket udføres af borgerforsamlinger og deliberative meningsmålinger," siger Christopher Summerfield, medforfatter af undersøgelsen og forskningsleder ved UK AI Safety Institute. "Folk skal finde fælles fodslag, fordi kollektiv handling kræver samtykke."

Kompromis maskine

Demokratiske initiativer som rådhusmøder, hvor grupper af mennesker bliver bedt om at dele deres mening om politiske spørgsmål, sikrer, at politikerne hører en række forskellige perspektiver. Det kan dog være vanskeligt at opskalere disse initiativer, fordi disse diskussioner ofte er begrænset til små grupper for at sikre, at alle stemmer bliver hørt.

Nysgerrig efter forskning i mulighederne for store sprogmodeller (LLM'er), udviklede Summerfield og hans kolleger en undersøgelse for at evaluere, hvordan AI kunne hjælpe mennesker med modsatrettede meninger med at nå et kompromis.

De implementerede en finjusteret version af den fortrænede DeepMind LLM Chinchilla, som de kaldte "Habermas-maskinen", opkaldt efter filosoffen Jürgen Habermas, som udviklede en teori om, hvordan rationelle diskussioner kan hjælpe med at løse konflikter.

For at teste deres model rekrutterede forskerne 439 britiske indbyggere, som blev opdelt i mindre grupper. Hver gruppe diskuterede tre spørgsmål om britiske politiske spørgsmål og delte deres personlige meninger om dem. Disse udtalelser blev derefter ført ind i AI-motoren, som genererede overordnede udtalelser, der kombinerede alle deltageres perspektiver. Deltagerne var i stand til at bedømme og kritisere hvert udsagn, som AI’en derefter inkorporerede i et endeligt resumé af gruppens kollektive syn.

"Modellen er trænet til at producere et udsagn, der har maksimal støtte fra en gruppe mennesker, der har givet deres mening til kende," siger Summerfield. "Efterhånden som modellen lærer, hvad dine præferencer er om disse udsagn, kan den producere et udsagn, der med stor sandsynlighed vil tilfredsstille alle."

Ud over AI'en blev en deltager udvalgt som mediator. Han blev også bedt om at lave et resumé, der bedst inkorporerede alle deltageres synspunkter. Deltagerne fik vist både AI og mediatorens resuméer og blev bedt om at vurdere dem.

De fleste deltagere vurderede resuméerne skrevet af AI som bedre end dem skrevet af mægleren. 56 % af deltagerne foretrak AI-præstation sammenlignet med 44 %, der foretrak menneskelig opsummering. Eksterne anmeldere blev også bedt om at evaluere resuméerne og gav AI-resuméerne højere vurderinger for retfærdighed, kvalitet og klarhed.

Forskerholdet rekrutterede derefter en gruppe deltagere, som var demografisk repræsentative for den britiske befolkning til et virtuelt rådhusmøde. I dette scenarie steg gruppeenigheden om omstridte spørgsmål, efter at de interagerede med AI. Denne konstatering tyder på, at AI-værktøjer, når de integreres i en rigtig borgerforsamling, kunne gøre det lettere for ledere at udvikle politiske forslag, der tager forskellige perspektiver i betragtning.

"LLM kunne bruges på mange måder til at støtte overvejelser og påtage sig roller, der tidligere var forbeholdt menneskelige facilitatorer," siger Ethan Busby, der studerer, hvordan AI-værktøjer kan forbedre demokratiske samfund på Brigham Young University i Provo, Utah. "Jeg ser dette som toppen af ​​arbejdet på dette område, som har et stort potentiale til at løse presserende sociale og politiske spørgsmål." Summerfield tilføjer, at kunstig intelligens endda kunne hjælpe med at gøre konfliktløsningsprocesser hurtigere og mere effektive.

Mistede forbindelser

"Faktisk at anvende disse teknologier til deliberative eksperimenter og processer er virkelig glædeligt," siger Sammy McKinney, der studerer deliberativt demokrati og dets grænseflader med kunstig intelligens ved University of Cambridge, Storbritannien. Men han tilføjer, at forskere nøje bør overveje AI's potentielle indvirkning på det menneskelige aspekt af overvejelser. "En central grund til at støtte borgernes overvejelser er, at de skaber specifikke rum, hvor folk kan relatere til hinanden," siger han. "Hvad mister vi ved i stigende grad at fjerne menneskelig kontakt og menneskelig facilitering?"

Summerfield erkender de begrænsninger, der er forbundet med AI-teknologier som disse. "Vi trænede ikke modellen til at gribe ind i overvejelser," siger han, hvilket betyder, at modellens udtalelse også kunne indeholde ekstremistiske eller andre problematiske overbevisninger. Han tilføjer, at streng forskning i AIs indvirkning på samfundet er afgørende for at forstå dens værdi.

"Det forekommer mig vigtigt at gå forsigtigt frem," siger McKinney, "og derefter tage skridt til at afbøde disse bekymringer, hvor det er muligt."

1. Tessler, M.H. et al., Science 386, eadq2852 (2024).

   
   Google Scholar

Download bibliografi