◎ 文 《法人》雜誌全媒體記者 李韻石
近年來，隨著AI技術的快速發展，電信詐騙手段開始翻新，帶來了一定程度的風險隱患，AI換臉、AI換聲都成為了詐騙新手段，AI技術一時成為了一把雙刃劍。
AI技術增大反詐騙難度
據媒體報導，4月20日，福建省福州市某科技公司法人代表郭先生接到好友微信視頻電話，其間對方稱在外地競標，需要公對公帳戶過帳430萬元保證金，希望借郭先生公司的帳戶走帳。
基於好友之間的信任，加上視頻聊天確定了身份，郭先生將430萬元轉給「好友」。隨後，郭先生撥打好友電話，才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。
5月25日，北京信息產業協會元宇宙專家委員會主任龔才春接受《法人》記者採訪時表示，使用人工智慧技術換臉最早出現於深度偽造技術（DeepFake）。該技術不僅可以實現照片換臉，還能實現視頻的換臉。其先進性讓大家意識到人工智慧給生活帶來方便的同時，也帶來了極大倫理和法律等社會問題。
除了利用AI換臉進行詐騙外，利用語音合成技術（TTS，Text to Speech）進行詐騙也時有發生。據公開報導，某公司財務小王接到領導電話，要求立刻給供應商轉款兩萬元，並將轉帳信息以郵件形式發送。由於「老闆」的聲音十分逼真，小王在轉款完成後才發現被騙。
龔才春說，歷經幾十年發展的語音合成技術已經達到較高水平。最近隨著深度學習技術在語音合成方面的應用，使用一兩分鐘音頻就可以對他人語音進行建模，從而實現模仿他人聲音說任何話。
龔才春說，通過利用人工智慧技術，詐騙實施者在精準信息獲取、詐騙腳本設計、通信聯絡誘導、資金支付轉移等方面的能力都有了很大提高，這為治理電信詐騙帶來了新挑戰。
個人生物信息泄露致AI換臉技術濫用
教授林愛珺曾在《AI換臉的技術風險與多元規制》一文中表示，AI換臉技術涉及的人臉信息包括人臉生物特徵及人臉模板，屬於個人生物識別信息，具有高度敏感性。
個人信息保護法規定，「個人敏感信息」指自然人的人格尊嚴受到侵害或者人身、財產安全受到危害的個人信息，包括生物識別、金融帳戶、行蹤軌跡及未滿14周歲的未成年人個人信息等。人臉生物識別信息是對面部特徵的識別信息，即生物識別信息的一種，也歸屬於「個人敏感信息」。
在AI換臉過程中，對人臉生物識別信息的採集、存儲以及使用全鏈條生產模式是該技術運行的底層邏輯，一旦發生技術操作失誤、黑客入侵事件或監管不力將引發安全風險。
林愛珺認為，AI換臉技術的濫用加劇了安全風險。AI換臉在當下幾乎成為一種無門檻使用技術，往往作為一種娛樂手段與社交媒體音視頻傳播相結合，在網絡上大肆運用。用戶出於娛樂休閒的目的，利用AI換臉技術製作短視頻，並將其上傳至網絡，但對於運用AI換臉技術採集自身人臉生物識別信息的過程一無所知，更對其中生物信息採集及泄露的風險毫無察覺。
龔才春也表示，過去三年，社會各界曾多次圍繞人工智慧技術濫用對個人隱私的泄露展開激烈討論，人工智慧模型的訓練需要大量數據，許多公司瘋狂採集各類數據，但這些數據大都與公司提供的服務沒有直接關聯。加上我國公民隱私保護意識不強，導致隱私泄露多發，且AI詐騙案件有所抬頭。
防AI騙局須多方協作
對於如何防止AI詐騙的發生，記者5月25日採訪了北京市京師（上海）律師事務所律師李文玲。她告訴記者，完善有關法律、提高有關企業對個人信息的保護力度和群眾隱私的自我保護意識能有效避免AI詐騙發生。
李文玲說：「目前，我國缺乏對人臉替換、人聲合成等行為違法性和造成後果責任承擔的相關法律法規，但有關部門已經在逐步加大對該類行為的約束。」
2023年1月10日，由國家網信辦、工信部和公安部聯合公布的《網際網路信息服務深度合成管理規定》正式施行，要求「深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。」
在企業方面，抖音近日發布《關於人工智慧生成內容的平台規範暨行業倡議》（下稱倡議），提出抖音發布者應對人工智慧生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。此外，抖音還提出「元數據標識」規範，並建議這一標識元數據可被其它工具和平台識別。
對個人而言，李文玲建議，要在網絡活動中保持清醒，避免陷入虛假宣傳，更重要的是面對AI詐騙，必須保持防範意識。首先，應當做到保護信息，提高警惕。對任何人，都不要輕易透露身份證、銀行卡、驗證碼等，不要輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。
其次，確認身份時應多重驗證。如果有人自稱「熟人」「朋友」或「領導」等，並通過社交軟體、簡訊以各種理由誘導匯款，或涉及網絡轉帳交易行為時，務必通過電話、視頻、見面等多種途徑核驗對方身份，不要未經核實輕易轉帳匯款。最後，如果不慎被騙或發現可疑情形，應當注意保留證據，並立即撥打反電信詐騙電話及時報警。
李文玲表示，未來隨著更多法律及規範出台，制度設計會更加完善和精準，立法也會更加健全，利用AI換臉技術的違法空間必將得到有效遏制。
責編｜白 馗
編審｜崔曉林
校對｜張 波 張雪慧