AI 徹底改變選舉: 全球政治與選舉活動如何運用 AI
主要發現
- AI已在全球的選舉活動中廣泛應用。深度偽造和聲音克隆已在三個主要場合的選舉中被使用：
- 由候選人自我推廣。
- 候選人攻擊和誹謗政治對手。
- 由外國國家行為者抹黑特定候選人。
- 深偽 Deep Fake材料（令人信服的AI生成音頻、視頻和圖像，欺騙性地偽造或改變政治候選人的外貌、聲音或行為）通常在選舉日期前不久散播，以限制事實查核者的回應機會。在選舉前幾小時禁止在主流媒體上進行政治討論的規定，使得無法受到挑戰的假新聞主導了媒體空間。
- 在AI驅動的選舉虛假信息運動中，音頻深度偽造目前的應用比涉及圖像和視頻的更廣泛且成功。
- 許多國家目前缺乏對製造材料的適當規範和法律。因此，這使得假音頻和視頻的傳播成為可能。
- 在大多數情況下，成熟且運作良好的民主國家報告的 AI 生成虛假信息的國內利用案例較少。
- 國家級的運動有能力散佈結構良好的虛假敘事並協調廣泛的虛假信息運動。
- 政治舞台充斥著AI生成的信息產品，遭受「說謊者的紅利」，使得政治人物能夠將真實的醜聞材料視為捏造。
背景
2024 年預計將成為全球民主過程的關鍵時刻，因為超過 20 億人在 50 個國家準備在選舉中投票。這股全球選舉浪潮包括美國、印度、墨西哥、歐洲議會和南非等國，隨著印尼、台灣和巴基斯坦已經完成的重要投票。這些選舉的集體結果將對全球未來的政治方向產生關鍵影響。
今年在生成式AI的複雜性和可及性方面的進展，加劇了人們對選舉過程完整性的擔憂。這些擔憂主要集中在虛假資訊活動上，特別是對新技術廣泛應用的恐懼，這些技術能夠製作和散播虛構的視頻和音頻內容，可能使公共話語脫離其事實根基，並降低公眾對民主機構的信任。
在我們九月份的出版物中，Tenten AI 回顧了生成式AI技術的進步對民主選舉所帶來的威脅。文章討論了AI如何能夠生成大量量身定制的內容，使其成為在政治領域中進行微針對和行為操控的強大工具。這種以低成本大規模生產個性化內容的能力，加上其在製作高度真實但虛假的視聽材料方面的潛力，引發了人們對未來政治話語可能會轉移對相關政治議題的關注的擔憂。
AI 在犯罪互聯網市場中交易高級工具的情況，這些工具結合了AI的能力來創建深度偽造和管理社交媒體帳戶。某個平台在俄羅斯的地下論壇上提供，利用AI自動化通過社交媒體平台（如 Instagram 和 Facebook）上的假冒帳戶分發內容。這個特定的平台能夠監控數百個帳戶，促進每日發帖，並擅長進行大規模的選舉影響活動。此外，還出現了多個專門從事深度偽造、RVC（基於檢索的語音轉換）和AI驅動的垃圾郵件的服務，利用這項技術繞過安全協議，並提高其針對個體的成功率。
潛在惡意的AI工具的可用性超越了暗網市場。目前有超過 3,000 個 GitHub 倉庫專注於深度偽造技術的開發和傳播，提供的服務價格低至每個視頻 2 美元。
選舉中AI深偽 Deep Fake技術的利用評估
先前對AI工具對選舉影響的討論大多基於對假設威脅的評估。隨著先進生成式AI工具的出現，外國國家和國內政治候選人都處於利用這些技術的有利位置。
在最令人擔憂的問題中，“深偽 Deep Fake”服務尤為突出，這些服務可以創造出高度真實但虛假的音頻或視覺內容。這些材料可以被國內的政黨和候選人，或外國代理人用來提升特定候選人或政黨在選舉中的機會，損害競爭對手，或一般性地削弱公眾對民主過程的信任。在國內，政治競爭者或其附屬機構可以利用深偽 Deep Fake技術和AI驅動的社交媒體平台來扭曲公眾輿論，對自己有利。內容創作的自動化以及管理龐大的虛構在線角色網絡的能力，使得影響力的規模達到了前所未有的程度，這使得維護選舉公正和透明的努力變得更加複雜。
目前有越來越多的證據顯示，全球各地的選舉中實際上存在對AI生成材料的剝削。我們回顧了 2023 年 9 月至 2024 年 2 月之間的 36 場國會、區域和總統選舉，發現至少有 10 起案例中有大量報導提到使用AI生成的材料進行虛假信息活動。我們的回顧主要集中在主流英語媒體的報導上，可能忽略了那些未能吸引國際媒體關注的小國家。專注於主流媒體報導也意味著我們無法檢測到所有在社交媒體上發布的AI生成材料，而僅能發現那些被報導為虛假信息並被媒體採訪的活動。
我們首先回顧我們的發現，然後進行分析和結論。
法國
法國的參議院選舉於 2023 年 9 月 24 日舉行，共有 348 個席位，其中 170 個席位受到競爭。我們沒有找到任何關於這次選舉中 AI 參與的高調報導，除了有一位來自「歐洲生態平等」政黨的參議員候選人承認使用 AI 來增強她的競選海報上的肖像。雖然這是一個個案，但它突顯了使用 AI 生成材料來改善候選人形象的情況。
圖 2 – 法國候選人的編輯海報（左），以及未編輯版本（來源： 泰晤士報）。
斯洛伐克
斯洛伐克的總選舉於 2023 年 9 月 30 日舉行，這場選舉在以親俄立場著稱的 SMER 黨和親歐洲的進步斯洛伐克黨之間展開了激烈的競爭。選舉前的最終民調 顯示 SMER 黨以 20.6%的支持率略微領先，進步斯洛伐克黨則以 19.8%緊隨其後。在選舉前僅剩兩天的時候，一段欺騙性視頻在社交媒體上出現，視頻中包含了一段經過篡改的音頻片段，據稱捕捉到了一位知名記者與進步斯洛伐克黨領袖米哈伊·希梅克之間的對話。在這段偽造的音頻中，希梅克似乎在 討論 影響選舉結果的策略，包括從該國弱勢的羅姆人群體中購買選票。該視頻迅速在社交網絡和電子郵件中傳播，特別是由一些與克里姆林宮有明顯聯繫的政治人物分享，包括前最高法院院長及前部長斯捷凡·哈拉賓和前國會成員彼得·馬爾切克。
儘管專家對該片段的真實性立即產生了懷疑，主流媒體反應卻相當緩慢，因為斯洛伐克有 48 小時的選舉前禁令，要求媒體和政治人物停止所有與選舉相關的溝通。這樣的結果實際上限制了事實信息的傳播，或至少揭露了深度偽造的內容。《Wired》還報導了另一段假音頻錄音，其中聽到Šimečka 提議將啤酒價格翻倍。
最終，SMER 獲得 22.9% 的選票勝利，而進步斯洛伐克則以 18% 的票數位居第二。
圖 3 – SMER-SSD 黨領袖羅伯特·費科與進步斯洛伐克黨領袖米哈伊·西梅克（路透社來源）。
波蘭
2023 年 10 月 15 日舉行的波蘭最近選舉標誌著該國政治格局的重大轉變。結束了法律與公正黨（PiS）八年的統治，反對派政黨獲得了足夠的席位以掌握權力。在選舉前的幾周，波蘭主要的反對派政黨公民平台（PO）因使用 AI 生成的音頻為電子郵件配音而受到批評，這些電子郵件據稱是在選舉前兩個月被洩露的。該視頻交替播放了真實的視頻片段和 AI 生成的音頻，波蘭總理馬泰烏什·莫拉維茨基朗讀所謂洩露電子郵件的部分內容。
圖 4 – 來自公民平台反對黨廣告的截圖，使用 AI 生成的音頻，波蘭總理馬泰烏什·莫拉維茨基朗讀洩露的電子郵件內容（來源： X）
阿根廷
阿根廷最近一次的總選舉於 2023 年 10 月 22 日舉行，結果意外且具有重要意義。自由意志主義候選人哈維爾·米萊在與庇隆主義經濟部長塞爾吉奧·馬薩的決選中贏得了總統職位。米萊獲得了近 56%的選票，這反映了對阿根廷經濟的不滿，該國經濟特徵為高通脹和貧困。
圖 5 – 在非官方 Instagram 帳號上發布的 Milei 的視頻和圖片‘iaxlapatria’（為祖國的 AI）。
AI 被廣泛用於兩位主要總統候選人，以創造深度偽造和操縱圖像來推動他們的競選活動。塞爾吉奧·馬薩的團隊利用 AI 製作了有利的深度偽造海報，並將米萊置於《發條橙》電影場景中，以負面形象描繪他，顯得有些失常。作為回應，米萊的團隊分享了 AI 生成的圖像，將馬薩描繪成中國共產黨領導人，而自己則是一隻卡通獅子，這些圖像獲得了超過 3000 萬的觀看次數。雖然米萊使用了自己的 X 帳戶，但一個名為“iaxlapatria”的非官方帳戶（意為“為祖國的 AI”）被用來分發風格化的 AI 生成圖像和視頻，對米萊進行負面描繪。
馬薩的競選團隊在一份聲明中表示，他們使用AI的目的是為了娛樂和表達政治觀點，而不是為了欺騙。在阿根廷的選舉中，AI的使用擴展到創造虛構的視頻，讓候選人看起來說了他們聲稱沒有說過的話，並將這些視頻插入到迷因中，還生成了引發對真實視頻真實性辯論的競選廣告。
在阿根廷選舉中，大規模使用AI主要展示了AI工具在創建競選材料方面的便利性，這些材料在過去需要創意團隊和數週的工作才能完成，但也有聲稱存在AI製作的音頻錄音。在初選的第一輪之前，互聯網上傳播了一些有爭議的音頻片段。這些錄音據稱包含了經濟部長候選人卡洛斯·梅爾孔尼安對女性的不尊重評論，以及以性交易作為交換的政府職位提議。這些錄音的真實性仍然存在爭議，並強調了充斥著AI產品的環境中的另一個特徵——“說謊者的紅利”——這使得政治人物可以將真實的醜聞材料視為捏造。
哥倫比亞
在 2023 年 10 月的哥倫比亞地區選舉中，對於可能通過AI製作的假音頻的擴散產生了擔憂，這些音頻針對政治候選人。候選人卡洛斯·費爾南多·加蘭和亞歷杭德羅·埃德爾，分別參加波哥大和卡利市市長選舉，受到這些所謂的AI生成音頻的影響，這些音頻在社交媒體平台上分享。一段音頻片段據稱是加蘭討論一項計劃，涉及支付和虛高的民調結果，以確保在選舉第二輪中與另一位候選人一起進入。這一錯誤信息很快被加蘭駁斥，他在 X 上強調了這些AI生成音頻的欺騙性。一段被歸因於波哥大市長候選人的音頻的來源追溯到一個已不存在的 TikTok 帳戶，這引發了對其真實性和傳播的質疑。Colombiacheck 是一個由哥倫比亞非政府組織 Consejo de Redacción 推動的調查新聞項目，分析了這些錄音並認定它們為可疑的AI深偽 Deep Fake技術。
圖 7 – 哥倫比亞波哥大市長候選人卡洛斯·費爾南多·加蘭否認其 X 帳戶上的音頻錄音的真實性 (來源 X).
印度
印度的總選舉將於 2024 年 4 月 19 日至 6 月 1 日舉行。在地方州選舉的前夕，該國出現了大量假音頻和視頻錄音的報導，這引起了所有政黨和更廣泛社會的關注。在 2023 年 11 月 30 日舉行的南印度特倫甘納州的早期選舉中，一段短視頻在選舉當天早上在社交媒體上迅速傳播。該視頻發布在國大黨的 X 頻道上，顯示執政黨領袖 KT Rama Rao 呼籲選民投票給國大黨，觀看次數超過 500,000 次。四個月後，該帖子仍然在線上。
其他報告包括早前流傳的 allegedly 假視頻，這些視頻展示了當地政治人物處於負面情境。在印度的泰米爾納德邦，DMK 黨的政治競選使用AI來“復活”已故的黨領袖穆圖維爾·卡魯納尼迪，至少製作了三段視頻演講，內容中他讚揚了現任黨領袖。在另一個場合， DMK 成員及財政部長帕拉尼維爾·提亞卡拉詹否認了一段有爭議的音頻錄音的真實性，該錄音中他指控其他黨員貪污。在 11 月的拉賈斯坦邦議會選舉中，國大黨首席部長候選人阿肖克·基赫洛特的團隊利用AI創建個性化的語音信息，通過 WhatsApp 發送，逐一以姓名向每位選民致意。
孟加拉國
孟加拉國的總選舉於 2024 年 1 月 7 日舉行。執政的人民聯盟在現任總理謝赫·哈西娜的領導下，獲得了連任第四個任期，參與投票的合格選民不到 40%。在V-Dem選舉民主指數中排名第 136位，得分為 0.274（滿分 1 分），幾乎沒有懷疑總理謝赫·哈西娜會再次當選。現任總理謝赫·哈西娜與主要反對派孟加拉國民族黨（BNP）之間的競爭激烈且具分裂性。在有關逮捕反對派領導人和活動家的報導中，根據《金融時報》報導，在美國的壓力下，親政府的新聞媒體宣傳了 AI 生成的虛假信息。在一段發布在 X 上的視頻中，一位 AI 生成的主播指責美國干涉孟加拉國的選舉，並將政治暴力歸咎於他們。另一段視頻中，一位反對派領導人建議他的政黨 BNP 應該對加沙保持“沉默”，以免惹怒美國，這種觀點在一個穆斯林人口佔多數的國家中可能會造成損害。 另一段假視頻描繪了一名英國國民黨成員在撒謊關於他的年齡。
據報導，假視頻是使用 HeyGen 生成的，這是一項美國服務，每月僅需 24 美元，還有以色列的 AI 視頻服務 D-ID。
台灣
最近在台灣的選舉將台灣與中國之間的緊張關係推向新高峰。賴清德以 40%的選票贏得選舉，使得反對中國並主張與美國建立更緊密夥伴關係的民進黨連任第三個任期。
在台灣官方的指控中，中國正在進行大規模的虛假信息運動，選舉前的幾個月充斥著有關AI生成的視頻和音頻的報導。根據台灣法務部，一段在 YouTube 上發布的假視頻聲稱賴清德有三位情婦。另一段假音頻呈現一位總統候選人嘲笑賴清德因為去美國“面試工作”而受到的嘲諷。一段假視頻描繪現任總統蔡英文鼓勵台灣公民購買加密貨幣。
圖 9 – 電子書《蔡英文的秘密歷史》的封面，將她描繪為貪污和放蕩不羈的形象（來源 X）。
在這場錯誤資訊運動的中心是一部 300 頁的電子書，標題為《蔡英文的秘密歷史》，其中包含對這個島國現任總統的虛假指控，並在社交媒體平台和電子郵件中流傳。該書出版後不久，Instagram、YouTube、TikTok 上出現了數十個視頻，這些視頻中使用 AI 生成的虛擬角色擔任新聞播報員，將內容報導為直新聞。這本書已成為“生成式 AI 視頻的劇本”。
中國據稱並不是創造虛假信息，而是充當放大器，尋找關鍵材料，並利用其工具和網絡來提高社交網絡上負面內容的可見度。
巴基斯坦
巴基斯坦的 2024 年選舉於 2 月 8 日舉行，經歷了一段政治動盪和延遲，預計將有利於前總理納瓦茲·謝里夫領導的穆斯林聯盟（PML-N），該黨獲得軍方支持。前總理伊姆蘭·汗的巴基斯坦泰利克-伊-伊沙克（PTI）黨在 2022 年被罷免，入獄並被取消參選資格。數千名 PTI 成員被監禁，幾乎所有高層領導人都受到壓力退出政治。在選舉期間，該黨的大部分成員都被監禁，但伊姆蘭·汗的黨仍然成功利用AI創建並傳播支持獨立候選人的信息，根據他從監獄傳遞給律師的筆記製作演講。這些視頻在識字率約為 62%的國家中具有更大的意義。在投票前幾小時，一段假音頻錄音流傳於社交媒體，內容是汗呼籲他的追隨者抵制選舉。但儘管當局的干擾，獲得汗的 PTI 支持的獨立候選人仍贏得了 266 個國會席位中的 93 個。 無論反對派的意外成功如何，這一點在汗的AI生成的演講中已經宣布，未來的聯盟被預期將作為軍方的“初級夥伴”運作。
圖 10 – 前總理伊姆蘭·汗的AI生成勝利演講（YouTube）。
印尼
印尼總統和國會選舉於 2024 年 2 月 14 日舉行，涉及超過 2 億名合格選民。在三位主要候選人中，有兩個競選活動廣泛使用AI工具來創造“友好的形象”和競選材料，此外還有專門設計的官方聊天機器人用於與潛在選民進行對話。
_
圖 11 – AI 生成的藝術作品，描繪印尼總統候選人普拉博沃·蘇比安托。
請提供要翻譯的文本_channelnewsasisa).
然而，AI在許多情況下也被用來製作視頻和音頻作為虛假信息。這些包括一段視頻 顯示 現任總統喬科·維多多（Joko Widodo）講普通話，試圖激起對他的接班人普拉博沃·蘇比安托（Prabowo Subianto）的反華情緒，因為普拉博沃選擇了喬科的長子作為他的副手。兩段假視頻展示了候選人 普拉博沃 和 阿尼斯 流利地講阿拉伯語，而他們兩人都不會講。其意圖很可能是將他們呈現為具有強大伊斯蘭聯繫的多語言者。
候選人安尼斯·巴斯維丹出現在一段假音頻錄音中，被他的政黨主席責罵。在另一個假“復活”的案例中，一段由AI生成的視頻顯示已故總統蘇哈托（2008 年去世）在推廣支持普拉博沃總統競選的政黨戈爾卡。該視頻達到超過 470 萬次觀看，並在戈爾卡黨副主席厄爾溫·阿克薩發布後傳播到 TikTok、Facebook 和 YouTube，並附有一條說明，指出該視頻是使用AI製作的。印尼法律目前禁止誹謗，但並未明確禁止製作和散播假材料。
圖 12 – 前蘇哈托的 AI 生成視頻，由一位高級政治家發布在 X 上.
美國
一通假冒拜登總統的自動電話在新罕布什爾州流傳，恰逢初選投票前，呼籲民主黨人不要投票，並將他們的選票留到十一月的總選舉。隨著這一事件的發生，美國聯邦通信委員會禁止由AI生成的自動電話。
英國
儘管並非在即將選舉的情況下，英國發生了兩起涉及 AI 生成的虛假信息材料描繪政治人物的事件。
根據研究，在 Facebook 上推廣了超過 100 個模仿首相瑞希·蘇納克的深度偽造付費視頻廣告。這些廣告觸及了超過 400,000 人，並將首相呈現為服務於私人商業利益。
圖 13 – 假視頻廣告描繪英國首相支持一款投資應用程式。
在另一事件中，倫敦市長薩迪克·汗因一段在網上流傳的深偽 Deep Fake音頻片段而捲入一個嚴重的情況，該片段中他在停戰日之前發表了煽動性言論，並支持 2023 年 11 月的親巴勒斯坦示威活動。這段模仿汗聲音的人工智能生成音頻貶低了紀念周末，並優先考慮親巴勒斯坦的遊行，導致抗議者之間的緊張局勢加劇和衝突。這段假錄音於 11 月 9 日分享，距計劃活動僅兩天，迅速傳播，包括在極右團體中，並在社交媒體上引發了對市長的仇恨評論激增。
圖 14 – 倫敦市長薩迪克·汗（來源：BBC）。
倫敦警方 表示 假音頻“並不構成犯罪”。卡漢先生 說 這項法律對於應對AI假冒產品“並不合適”，因為音頻創作者“逃脫了懲罰”。他還對缺乏立法來解決這類深度偽造表示擔憂，特別是在選舉或社區動盪等敏感事件期間。
討論
在我們對 36 個選舉期間的回顧中，我們看到AI的能力被用來創造音頻和視頻材料，至少在三分之一的案例中引起了公眾的注意。在某些情況下，候選人利用AI來製作自己的信息，或創造針對競爭對手的負面材料。在其他情況下，外國實體使用AI創造內容，對某些候選人產生負面影響，同時普遍播下不信任的種子。
考慮到可用的工具和服務的多樣性，以及它們在某些國家的實際運用，其他情況下缺乏AI證據的情況非常引人注目。像馬爾地夫和馬達加斯加這樣的小型選舉事件，可能因為這些國家的規模、語言或對其結果缺乏國際關注而在此類分析中被忽視。然而，在法國、加拿大（曼尼托巴）、德國（巴伐利亞和黑森）、希臘、新西蘭、厄瓜多爾和芬蘭的選舉中，媒體並未報導有關AI使用的投訴證據。這些國家在民主指數中排名相對較高（例如，V-Dem 2023 v2x_api 排名分別為 11、20、16、38、7、60 和 14）。在公眾信任獨立媒體的國家，散播虛假信息的可能性可能會降低。根據哈佛虛假信息評論的一篇文章，在這種情況下，大多數人主要消費主流來源的內容（而非社交媒體），因此即使虛假信息看起來多麼令人信服，他們也僅僅是邊緣地接觸到這些虛假信息。
虛假信息運動已被識別為專制社會中的一個基本工具。即使在民主國家，虛假信息的高水平也與專制化的開始有關。因此，利用AI工具進行虛假信息的情況在專制國家、缺陷民主國家以及受到專制政權針對的國家中可能會更為普遍。
在許多情況下，AI被用來生成傳統上由競選工作人員或雇用的媒體顧問製作的材料。這在從阿根廷到印尼的例子中都很明顯。這些工具的一個積極方面是它們被用來繞過言論自由的限制，例如為巴基斯坦被監禁的政治領袖汗提供一個面孔和聲音，或為白俄羅斯的沉默反對派提供一個聲音的顯著嘗試。然而，我們必須警告，旨在活化競選理念的工具經常導致誤導性的應用，例如讓已故領袖的話語支持當前政治人物，這種策略在印尼和印度被採用，或在波蘭出現的未經驗證的電子郵件。
圖 15 – 雅斯·加斯帕達爾，白俄羅斯的AI候選人（belsat.eu）。
利用AI來“揭露”對立候選人的“真實”觀點，往往會偏向於錯誤資訊的領域。在阿根廷，馬薩競選團隊創造了一段米萊“解釋”他對人類器官市場的願景的深度偽造視頻，而在波蘭，反對派則將洩露的電子郵件內容進行了動畫處理。
當政治人物和競選活動創造有關對手的負面內容時，他們經常避免通過官方渠道發佈，而是使用匿名實體進行傳播。在某些情況下，例如阿根廷的“iaxlapatria”Instagram 帳號，這些來源很容易被識別。然而，也有政治黨或政治人物本身回應這些材料的情況。許多政治黨或知名政治人物在印尼、印度和斯洛伐克等國家發佈或推廣虛假信息的例子層出不窮。針對這些分發者可能比專注於原創創作者更可行且有效地對抗 AI 生成的假材料。
在我們檢視的一些案例中，創作者顯然意圖通過捏造有關對手的內容來傳達誤導性信息。這一策略在印度的特倫甘納邦、斯洛伐克、哥倫比亞和巴基斯坦都有觀察到。AI生成的捏造內容通常會在關鍵事件（如選舉）之前的短時間內進行分發。主流媒體需要時間來核實事實，而如果這類內容在事件或選舉前不久發布，其真實性可能只有在損害已經造成後才會被駁斥。正如我們所見，選舉前的禁令有效地使主流媒體沉默，但並不影響捏造內容的傳播渠道。
在我們審查的虛構“錄音”案例中，大多數涉及音頻錄音而非視頻。儘管高級視頻工具如 OpenAI 的文本轉視頻Sora已經出現，並具備從書面提示生成高質量視頻的能力，但音頻處理技術已經成熟，並隨時可供使用。這些音頻技術在我們檢查的大多數與選舉相關的虛假信息的嚴重案例中得到了有效利用。除了其可獲得性外，音頻錄音提供的上下文較少，使其更難以識別為虛構，即使使用先進的分析方法。
圖 16 – 來自 Sora（OpenAI）的 AI 生成視頻截圖。
在許多國家，法規尚未適應這項新技術所帶來的挑戰。在英國，警方宣稱發布一段虛假的倫敦市長音頻錄音並不構成犯罪。在印尼，性質積極的虛假材料是合法的，因為現有法規僅禁止負面誹謗，而不禁止虛假的讚美。鑑於對AI濫用案例的經驗，我們預期法規將會演變。看看美國，在新罕布什爾州發生虛假自動電話的事件後，迅速建立了新的法規。
在選舉背景下，AI利用的最後一個類別涉及外國干預。在過去六個月中，最引人注目的案例發生在台灣。本報告中提到的電子書被用作隨後深度偽造製作的起點。一旦這本書出現，其他人便可以抓住不同的元素，然後用來製作自己的虛假信息，導致一個多面向的共同敘事。
此外，已強調放大現有假冒物品的重要性。這種放大是通過直接影響現有社交平台或利用已存在的社交實體網絡來重新發布特定信息來實現的。
外國影響力利用AI的劇本正展現在我們眼前。
結論
AI 能力在最近的選舉中被廣泛利用，但選民受到影響的程度以及這對選舉結果的影響仍然存在爭議。選民可能足夠敏銳，能看穿試圖影響他們的行為；無論如何，民主並不僅僅依賴於公眾獲得有關事務的全面、準確和最新的信息。民主 依賴 於公眾對其機構和選舉過程的信任。負責維護這種信任的機構必須繼續對抗虛假信息。值得鼓舞的是，儘管最近有被利用的情況，但完全發展的民主國家，在那裡獨立媒體受益於言論自由，迄今為止對虛假信息的努力表現出顯著的韌性。