人工智慧造假的興起使越來越多的人比以往任何時候都更擔心錯誤資訊對選舉的影響，特別是因為 2024 年是民主的傑出一年。到12月底，將有50多個國家舉行選舉，包括美國、英國、印度、南非和墨西哥的高調民意調查，潛在選民總數超過20億。錯誤資訊的廣泛保護傘——包括所有虛假信息，無論是無意中傳播的還是有意欺騙的——都可能產生毀滅性的影響。大衛·亞當（David Adam）發表在最新一期《自然》(Nature)的<錯誤資訊可能會影響選舉，但不會像你想像的那樣>( Misinformation might sway elections — but not in the way that you think)指出，猖獗的深度偽造和虛假新聞經常被指責為影響選票的原因。研究表明，很難改變人們的政治觀點，但更容易推動他們的行為。(Rampant deepfakes and false news are often blamed for swaying votes. Research suggests it’s hard to change people’s political opinions, but easier to nudge their behaviour.)
錯誤資訊風險高於極端天氣事件甚至戰爭
今年1月，新罕布希爾州的一些美國選民收到了自動電話資訊，其中喬·拜登總統的聲音敦促他們不要在該州的民主黨初選中投票。然而，它實際上並不是拜登：該資訊是由人工智慧（AI）生成的。
世界經濟論壇（World Economic Forum）已將錯誤資訊列為未來兩年全球面臨的最大風險，高於極端天氣事件甚至戰爭。世界各地的政策制定者已經起草並通過了法律和措施，以應對日益嚴重的威脅。
儘管問題無疑是真實的，但錯誤資訊在選舉中的真正影響卻不太清楚。一些研究人員表示，錯誤資訊對民主構成的風險被誇大了。“我認為，如果你願意的話，對錯誤資訊有很多道德恐慌，”伊利諾伊州埃文斯頓西北大學的傳播和政策研究員埃裡克·尼斯貝特說。例如，一項研究表明，說服人們改變投票是出了名的困難。在媒體混亂中，任何一條資訊——無論是真的還是假的——如何滲透也遠不清楚。
我們所知道的和不瞭解的關於錯誤資訊如何在網上傳播
儘管如此，正如其他人所指出的那樣，錯誤資訊並不一定非要改變人們對政治的看法才能產生影響。例如，它可能會誤導人們何時何地投票，甚至誤導他們是否應該這樣做。此外，僅僅知道錯誤資訊的存在——並相信它是有影響力的——就足以讓許多人對從科學和醫療保健到公平選舉的強大系統失去信心和信任。
即使錯誤資訊只影響少數人，如果它促使他們採取行動，那麼這也會產生放大的影響。“我們可能不會期望對整個人口產生廣泛的影響，但它可能會對一小部分人產生一些激進的影響，這些人可能會造成很大的傷害，”哥本哈根大學（University of Copenhagen）研究社交媒體影響的政治學家格雷戈里·伊迪（Gregory Eady）說。
堅定不移的意見
世界經濟論壇（World Economic Forum）認為，將錯誤資訊列為地球最緊迫的優先事項是合理的，因為根據其《2024年全球風險報告》，錯誤資訊可能“從根本上擾亂幾個經濟體的選舉進程”，並“引發內亂和可能的對抗”。
歷史學家可以指出兩者的許多例子。在古羅馬，屋大維（被謀殺的尤利烏斯·凱撒的養子和繼承人）發起了一場誹謗運動，將他的競爭對手馬克·安東尼錯誤地描繪成叛徒，作為成功成為羅馬第一位皇帝的一部分。最近，錯誤資訊被歸咎於一系列社會和政治趨勢——從人們不願接種 COVID-19 疫苗和對移民的歧視加劇，到英國脫歐公投英國離開歐盟以及對氣候變化嚴重性的懷疑。
研究人員說，問題在於很難證明因果關係：確定任何給定的錯誤信息都會對人們的行為方式產生重大影響。“這通常是一個非常困難的問題，要瞭解錯誤資訊在現實世界中的影響，”Eady說。
遮罩有關COVID-19的資訊可能會助長錯誤信息的傳播
困難，但並非不可能。去年，Eady和他的同事們發表了一項這樣的實證分析的結果1，這考慮了一個備受矚目且有爭議的問題：俄羅斯消息來源在社交媒體平臺Twitter（當時稱為Twitter）上傳播的錯誤資訊在多大程度上影響了2016年美國大選？
毫無疑問，俄羅斯社交媒體帳戶冒充美國使用者，旨在分化美國選民，併為共和黨總統候選人唐納德·特朗普建立支援。伊迪和他的同事們表明，這些巨魔可能影響了數百萬人。但分析還表明，大部分錯誤資訊可能只有一小部分人看到，而且是那些已經自認為是共和黨人的人。
伊迪說，儘管世界似乎淹沒在錯誤資訊中，但與人們每天看到和聽到的其他新聞的海嘯相比，這隻是滄海一粟。伊迪發現，Twitter用戶接觸到的來自國內新聞來源和政界人士的帖子是其數百倍，尤其是在選舉臨近之際。
瑞士蘇黎世大學（University of Zurich）的實驗心理學家薩沙·阿勒泰（Sacha Altay）說，人們傾向於根據直覺、價值觀和信念來決定投票給誰，而不是根據資訊——無論這些資訊是否真實。阿勒泰說，特別是在美國的兩黨制中，人們傾向於強烈認同一方或另一方的價值觀。“我們應該從這樣一個前提開始，即任何類型的資訊都不太可能改變人們的決定，”他說。
搖擺不定的行為
研究人員和戰略家說，一種更有效的政治說服形式是，不要把重點放在讓人們改變主意上，而是讓他們按照自己現有的信念採取行動。
關於政治和公共衛生的錯誤資訊可能會產生這種影響，計算機科學家凱特·斯塔伯德（Kate Starbird）說，她是西雅圖華盛頓大學知情公眾中心的聯合創始人。如果錯誤資訊被公眾人物發現和放大，情況尤其如此，即使他們只在小社區中很突出。“這些社區可以對政治產生大規模影響，”她說。
例如，關於2020年美國總統大選有效性的錯誤資訊被一部分特朗普支援者放大和傳播，引發了2021年1月6日對美國國會大廈的襲擊。最近的一項研究2得出的結論是，在X（前身為Twitter）上近665,000名美國註冊選民的樣本中，僅超過2,100人就佔了有關這次選舉的假新聞的80%。Starbird補充說，近年來，佛羅里達州對麻疹疫苗接種的不信任日益增加，導致病例激增，而小團體則從事這一事業並傳播虛假事實。
對人們行為的同樣影響也適用於投票。例如，雖然說服人們改變效忠可能很困難，但說服他們根本不需要費心投票可能更容易。研究人員表示，有關選舉過程的錯誤資訊正在增加。“我們在越來越多的選舉中看到了這一點，”澳大利亞布裡斯班格裡菲斯大學（Griffith University）研究選舉虛假資訊的政治學家馬克斯·葛籣平（Max Grömping）說。“基本上，消息說，'哦，你知道，選舉被推遲了，下周，你不必出現。
去年，在澳大利亞就修改憲法以在議會中建立正式的土著代表機構的全民公決之前，就出現了一個例子。當時，網上流傳著錯誤資訊，稱公投不是強制性的，似乎是為了阻止選民投票。事實上，在澳大利亞，所有的投票都是強制性的。在這種情況下，投票率似乎沒有受到影響;略高於 2022 年全國大選。
拜登在1月份被深度偽造的機器人電話被追蹤到一位政治顧問，他說他試圖引起人們對此類錯誤資訊可能造成的潛在危害的關注。聯邦通信委員會現在正試圖對該顧問處以600萬美元的罰款。1月21日發出的惡搞電話在1月22日，即1月23日投票之前成為備受矚目的新聞。
人工智慧可能會助長這種欺騙行為
拜登的案例尤其表明，人們擔心人工智慧可能會助長這種欺騙行為，深度偽造使錯誤信息看起來更加逼真。加州大學伯克利分校（University of California， Berkeley）的研究員漢尼·法裡德（Hany Farid）正在跟蹤美國大選前夕的深度偽造案件。他網站上的例子包括拜登穿著軍裝的人工智慧圖像，似乎即將授權軍事打擊，以及據稱唐納德·特朗普會見黑人選民的一張圖像。
印度最近的選舉受到深度偽造的困擾，從已故的政治人物發表演講到寶萊塢演員向政黨提供虛假背書。在斯洛伐克，議會候選人米哈爾·希梅奇卡（Michal Šimečka）在2023年9月大選前夕發佈了關於購買選票和提高啤酒價格計劃的假音訊。
Nisbet說，人工智慧可能會增加錯誤資訊的數量，因為它降低了創建可信內容所需的技術技能水準。“但就像其他關於錯誤資訊的研究一樣，除非非常仔細地研究，否則很難做出任何實際的因果關係，”他說。
一些研究著眼於媒體類型（例如文本與圖像或視頻）是否會影響資訊的說服力。他們的結果喜憂參半。一些人確實認為圖像可能更有說服力：例如，在一項關於酒精和癌症的健康資訊的研究中，女性更有可能說，如果她們看到在敘述文本中添加圖像的社交媒體帖子，她們會少喝酒3.
人工智慧推動的競選活動就在這裡——規則在哪裡？
但劍橋麻省理工學院 （MIT） 的一個團隊在 2021 年的研究表明，圖像的說服力可能微乎其微。在研究中4，研究人員向人們展示了政治廣告和 COVID-19 消息的視頻剪輯或文字記錄。他們發現，當人們看到圖片時，他們更有可能相信一個事件真的發生了，而不僅僅是閱讀它。但是，在說服力的衡量標準上幾乎沒有差異，例如他們的態度是否因資訊而改變，或者他們是否傾向於分享資訊。
“僅僅因為視頻可能比文字更可信，並不意味著它在改變人們的想法方面明顯更好，”該研究的合著者、麻省理工學院政治學家亞當·貝林斯基（Adam Berinsky）說。
播下不信任的種子
隨著對錯誤信息的擔憂加劇，政策制定者一直在爭先恐後地跟上。近年來，許多國家通過了法律法規，聲稱可以解決錯誤信息問題，但這些法律和法規引發了對言論自由的擔憂。
例如，從今年1月起，在英國，如果人們發佈他們知道是虛假的資訊，意圖造成“不平凡的”傷害，可能會被處以罰款或幾個月的監禁。部長們表示，此舉明確旨在打擊「危險的虛假資訊和在線選舉干預」。
已經提出了幾項法案來限制美國的錯誤資訊。一些人會禁止欺騙性地使用人工智慧來描繪沒有發生或沒有說過的事情，而另一些人則呼籲更好地標記人工智慧生成的內容。這些標籤是否真的會影響人們對內容的評估，或者他們從接觸改變的媒體中得到的資訊，也不清楚5.
許多研究人員警告說，不祥的是，討論錯誤資訊上升趨勢的報導（可能包括這個）可能會產生與錯誤資訊本身相同的影響。“許多虛假宣傳活動旨在播下不信任的種子，”阿勒泰說。“當我們告訴人們虛假資訊有效並且錯誤資訊無處不在時，我們也在播下懷疑的種子，並降低對可靠來源的信任。
在許多國家，對從政治到科學和醫療保健等機構的信心肯定有所下降。今年早些時候，全球通信公司愛德曼（Edelman）的最新年度調查發現，英國人對英國政府的信任度已降至30%，這是自2012年以來的最低值。2023年，華盛頓特區的皮尤研究中心發現，57% 的美國人表示科學對社會產生了大部分積極影響。自 2021 年 11 月以來下降了 8 個百分點，自 COVID-19 爆發前以來下降了 16 個百分點。
“錯誤資訊是我們需要解決的一個嚴重問題，”尼斯貝特說，“但我們不想以一種實際上使事情變得更糟的方式進行溝通。