Science最新封面：陰謀論的“兔子洞” 被AI大模型粉碎了

“陰謀論的兔子洞，一旦掉進(jìn)便很難再出來？”

在信息時代，毫無根據(jù)的陰謀論如同病毒般在全球范圍內(nèi)傳播，對社會信任、科學(xué)普及以及個人心理健康造成了嚴(yán)重危害。數(shù)據(jù)顯示，美國有超過 50% 的人口相信某種形式的陰謀論。

盡管學(xué)者們試圖通過揭露邏輯謬誤和普及科學(xué)知識等方式揭穿陰謀論，但這些干預(yù)措施缺乏互動性和針對性，大多無效。

如今，人工智能（AI）在破除陰謀論方面取得了新突破，開始大展拳腳——

由 AI 驅(qū)動的聊天機(jī)器人可以將陰謀論信眾（即使是那些最頑固的人）的錯誤信念平均減少 20%，且效果至少可以持續(xù) 2 個月，并在各種不相關(guān)的陰謀論以及不同的人口統(tǒng)計類別中都有效。

這一成果來自美國麻省理工學(xué)院和康奈爾大學(xué)聯(lián)合研究團(tuán)隊，他們通過提出一種利用 AI 聊天機(jī)器人來對抗虛假信息的新方法，試圖打破 “陰謀論信仰根深蒂固且無法改變” 這一觀念。

他們探討了 GPT-4 Turbo 等大語言模型（LLMs）是否能利用其強(qiáng)大的信息獲取能力，并通過使用定制的對話反駁，來直接回應(yīng)陰謀論信眾提出的具體證據(jù)，從而有效地揭穿陰謀論。

研究結(jié)果表明，LLMs 能夠應(yīng)對大量虛假信息的“攻擊”，并提供大量反證據(jù)，相較于人類難以處理的信息洪流，LLMs 或許可以無限期針對錯誤信息生成反駁。

相關(guān)研究論文以 “Durably Reducing Conspiracy Beliefs Through Dialogues with AI” 為題，以封面文章的形式發(fā)表在科學(xué)期刊 Science 上。

在一篇相關(guān)的前瞻性（perspective）文章中，Bence Bago 和 Jean-Fran?ois Bonnefon 寫道，“無論好壞，AI 都將深刻改變我們的文化。這項研究展示了生成式 AI 說服能力的潛在積極應(yīng)用。”

AI 成功粉碎陰謀論

在維基百科上，有關(guān)陰謀論（Conspiracy theory）的解釋是，“在其他解釋更有可能的情況下，將事件或現(xiàn)實(shí)情況解釋成邪惡而又強(qiáng)力的集團(tuán)在背后密謀的理論”。

這些理論一般由于缺乏更多可靠的證據(jù)而不可證偽，并且在邏輯上可能是自洽的，因此可能有相當(dāng)多的信眾。

信眾的陰謀論信念的形成受到多種心理機(jī)制的影響，盡管其荒謬性非常明顯，但出于對復(fù)雜世界的簡單化需求，以及對某些事件的不確定性的反應(yīng)，想要說服他們基于事實(shí)放棄毫無根據(jù)的信仰，而非從根本上改變他們的潛在心理和身份承諾，幾乎不太可能。

為此，研究團(tuán)隊利用 LLMs 可以訪問海量信息、與用戶進(jìn)行實(shí)時個性化交互的特點(diǎn)，探討了是否可以用足夠令人信服的證據(jù)來說服人們走出陰謀的“兔子洞”。

他們首先提出假設(shè)，基于事實(shí)、糾正性信息的干預(yù)措施可能看起來無效，僅僅是因?yàn)樗鼈內(nèi)狈ψ銐虻纳疃群蛡€性化。他們基于 GPT-4 Turbo 設(shè)計了一系列實(shí)驗(yàn)，招募了 2190 名陰謀論信眾作為參與者，測試 LLMs 是否能通過個性化對話有效打擊陰謀論。

圖｜人類參與者與 LLMs 的對話設(shè)計和流程。（來源：該論文）

首先，研究團(tuán)隊選擇了 774 名參與者，在讓他們描述自己所信奉的陰謀論和理由后，將他們分為干預(yù)組和對照組，分別與 LLMs 進(jìn)行對話。

干預(yù)組與 LLMs 進(jìn)行對話時，會進(jìn)行多次個性化互動，分享他們的觀點(diǎn)和所謂的“證據(jù)”，LLMs 則根據(jù)這些證據(jù)提供有針對性的反駁；而對照組的參與者與 LLMs 系統(tǒng)則就陰謀論無關(guān)的話題展開對話。

圖｜與 LLMs 對話可以持久地降低陰謀論信念，即使是在堅定的信眾中。（左）按研究 1 的條件（紅色：LLMs 試圖反駁陰謀論；藍(lán)色：與 LLMs 討論無關(guān)話題）和時間點(diǎn)劃分的人類參與者陰謀論的平均信念。（來源：該論文）

結(jié)果顯示，即使是對陰謀論深信不疑的參與者，通過 LLMs 的推理和證據(jù)也愿意改變信念，這進(jìn)一步強(qiáng)調(diào)了理性思考在修正錯誤信念中的作用；與 LLMs 對話不僅能影響具體的陰謀論，還能對其他不相關(guān)的陰謀理論產(chǎn)生額外效應(yīng)。

而且，LLMs 反駁陰謀論的準(zhǔn)確性極高，經(jīng)過專業(yè)事實(shí)核查員評估，99.2% 的反駁內(nèi)容被認(rèn)為是真實(shí)的，只有 0.8% 具有誤導(dǎo)性，且沒有任何虛假信息或明顯的偏見。

此外，通過不斷地修正問卷措辭，研究團(tuán)隊在兩輪實(shí)驗(yàn)中驗(yàn)證了這一結(jié)果的魯棒性。

該研究的創(chuàng)新之處在于：

實(shí)時交互：與傳統(tǒng)的靜態(tài)信息不同，這一研究利用 LLMs 設(shè)計實(shí)時對話實(shí)驗(yàn)，個性化地反駁參與者提出的陰謀論信念，這種互動方式能夠及時回應(yīng)人類參與者的疑問和反駁，提高干預(yù)的有效性；

個性化對話：LLMs 根據(jù)參與者的具體信念生成定制化的反駁內(nèi)容，使得干預(yù)更加有針對性和說服力；

直接反駁：LLMs 不僅提供事實(shí)信息，還會針對參與者引用的虛假證據(jù)立即提供真實(shí)數(shù)據(jù)并解釋其來源和可靠性。然而，必須警惕****的是，LLMs 可能會被用于推廣虛假信念，因此需要負(fù)責(zé)任的使用和適當(dāng)?shù)南拗?/strong>。