中青報·中青網記者 王梓
在許多國家，計算機工程師和關注技術發展的政治人士多年來一直警告稱，成本低廉、獲取門檻低、功能日漸強大的人工智慧（AI）工具，很快就能製造出以假亂真的圖像、視頻和音頻。在人的操縱下，AI可能欺騙選民，進而影響選舉。
似乎就在不久前，合成的虛假圖像還多半是粗糙、難以令人信服的，社交媒體上傳播的虛假信息總是很快就被「打假」。人們相信，AI帶來的「深度偽造」至少幾年後才會出現。
美聯社報導稱，如今，複雜的生成性AI工具能在幾秒鐘內「克隆」某人的聲音和形象，製造出大量「假料」。只要綁定強大的社交媒體算法，AI就可以迅速鎖定受眾進行傳播，以前所未見的規模和速度破壞選舉。
「競選的骯髒伎倆又要刷新下限了。」美聯社寫道。
美國將在2024年舉行總統選舉。多國媒體預測，這將成為美國第一場廣泛使用AI工具的選舉，民主黨與共和黨都會將AI技術用於宣傳、籌款等活動。
以往需要競選團隊耗費大量時間準備的宣傳材料，AI能在極短時間內完成。風頭正勁的聊天機器人ChatGPT只需幾秒鐘，就能生成一份措辭華麗的演講稿。
技術專家警告稱，由於美國陷入政治極化，加上美國前總統川普輸掉2020年大選後抨擊選舉被「操縱」，許多選民對政壇和主流媒體的信任度大打折扣。有人可能利用這一點，用AI技術製造混亂。
據美國《紐約時報》報導，美國新聞可信度評估與研究機構News Guard和為數碼調查提供資源與培訓的Shadow Dragon公司都在5月發布報告稱，大量所謂的「新聞網站」和虛假用戶利用AI工具在網上發布虛假內容，比如捏造新聞事件和名人死亡的消息。
News Guard聯合創始人史蒂文·布里爾稱，該機構發現，有125個網站的內容完全或大部分由AI工具編寫，內容涵蓋新聞、醫療資訊、生活類文章等。
Shadow Dragon的研究人員通過篩查AI工具容易產生的錯誤和預設回復來尋找虛假內容，結果發現，在主流網站、社交媒體平台甚至電商平台的評論區中，都存在虛假內容。一篇關於俄烏衝突的文章中直白地寫著：「作為AI語言模型，我不能提供帶有偏見或關於政治的內容。」
布里爾指出，民眾很難知道自己看到的「新聞」是由誰提供的，這類虛假內容進一步降低了人們對新聞媒體的信任度。「新聞消費者對新聞來源的信任度越來越低，部分原因是，他們難以區分哪些消息可靠，哪些不可靠。」
據美國《今日美國》報和法新社報導，今年年初，一段「拜登與川普對噴」的假音頻在社交媒體上火了。3月，各國社交媒體上瘋傳「川普被警察拖走、關進監獄」的合成照片。4月，拜登宣布將參加大選後，共和黨全國委員會立刻發布了一條由AI生成的短視頻，展示「有史以來最弱的總統」拜登連任後「美國大亂」的景象：非法移民衝破邊界關卡，湧入美國；金融市場崩潰，華爾街陷入恐慌……
人們對這些「PS痕跡明顯」的內容一笑而過，但在專家眼中，它們是給美國社會的一次預警。拜登2020年競選團隊的首席技術官丹·伍茲警告，美國需要為應對「大規模虛假信息運動」做好準備。
AI對選舉的影響力令專家們不安：生成性AI工具能迅速產出競選電郵、視頻等宣傳材料，冒充候選人、誤導選民。「共和黨全國委員會承認自己用了AI，但其他人……不會承認。」美國網絡安全公司Forcepoint全球首席技術官佩特科·斯托揚諾夫說。
美聯社設想了一些「AI陷阱」：用總統候選人的聲音製作假音頻，指示選民在錯誤的日期投票；冒充候選人承認「犯罪」，或發布種族主義言論；散布和新聞報導截圖相似的圖片……「如果（假的）埃隆·馬斯克打電話給你，讓你投票給某位候選人，怎麼辦？很多人會照辦。」美國艾倫人工智慧研究所創始人奧倫·埃齊奧尼對美聯社說。
眾議員伊維特·克拉克擔心，AI工具可能被用來在大選期間煽動暴力。「我們必須跟上技術的發展，這很重要。我們必須設置一些『護欄』。」她說，「只要一瞬間，AI就能欺騙人們。在忙碌的生活中，人們沒有時間去檢查每一條信息。被武器化的AI破壞力極強。」
5月30日，非營利組織人工智慧安全中心發布了一封聯名公開信，稱「降低AI帶來的滅絕風險應成為全球優先事項，與大流行病、核戰爭等風險同等對待」。信中只有簡短的一句話，獲得了來自多國的超過350名科技行業領袖與專家聯署。
美國加州大學伯克利分校信息學院教授漢尼·法里德提醒人們，不要忽略另一種威脅：AI能輕易「製造」現實，也就能輕易否定現實：總統候選人被曝出了不當言論？不用慌，「甩鍋」給音頻造假就行。
責任編輯：賈曉靜,張丹珊
來源：中國青年報客戶端