AI換臉還是AI「偷臉」？
近期，「AI換臉」的應用範圍越來越廣，但存在濫用之嫌，甚至利用「AI換臉」「AI換聲」等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮，例如偽造不雅視頻、換臉詐騙等。其中特別提到，近期由包頭警方發布的一起使用AI技術進行電信網絡詐騙的案件。福州某科技公司的法人代表郭先生在接到「好友」的微信視頻後，為「好友」提供了430萬元的「過帳資金」。
「AI換臉」詐騙的消息傳來，也引發了一定程度的公眾焦慮。例如，有媒體援引第三方說法，認為「AI詐騙成功率接近100%」。儘管這一概率數字明顯缺少數據支撐，但在諸多案例的影響下，人們開始擔憂人工智慧技術的詐騙陷阱。
首先，應明確的是，從人工智慧用於詐騙的技術可行性以及我國反詐的基礎設施情況看，利用人工智慧進行詐騙的案例雖然開始增多，但遠未達到遍地蔓延的狀態。
一方面，人工智慧換臉需要完整獲取用戶的音頻、完整面部等較多隱私數據，使用該技術進行詐騙的成本和門檻相對較高，短期內很難如電話電信詐騙等大規模蔓延。
另一方面，針對類似的電信詐騙，公安機關、網絡平台均已建立相對完整的防控攔截機制，這些機制仍將繼續發揮著保護層的作用。因此，在包頭的案例中，在受騙者及時報警後，警方10分鐘便追回了300多萬元的資金。
值得一提的是，除了佯裝「熟人臉」實施詐騙，AI換臉還出現在了直播帶貨中。最近，有網友在社交平台發文吐槽，她在逛某短視頻軟體的時候刷進了某品牌的直播間，直播間中的女主播正在熱情推銷商品，但這位女主播看起來似乎有點眼熟，直播彈幕中也有網友表達了相同的困惑，「主播像佟麗婭。」
除了在這個牌子的直播間，也有網友刷到了其他「明星臉」的主播，「昨天我刷到殷桃，好嚇人啊。」「我還看過一個一直用楊冪的臉的。」「上次還刷到了劉亦菲呢。」如此誇張，堪稱「換臉譜」！
甚至網上出現了一些「換臉直播」教程，教程發布者聲稱實時變臉軟體可以幫助用戶輕鬆「變臉」，極大地助力引流賣貨。
要用「法」打敗「魔法」
如此以假亂真，讓人防不勝防。「AI換臉」的法律邊界到底在哪？
生成式人工智慧的普及，的確不斷降低語音、面部合成偽造技術的門檻。「AI換臉」、「AI翻唱」等應用爆火網絡，想必網友們已經不再陌生。近年來，AI狂潮之下，「換臉」已從最初的娛樂向直播等多個應用場景擴展。點進直播間，用戶還以為是哪個明星在帶貨，仔細一看，卻發現是主播進行了「AI換臉」，這以假亂真的程度讓觀看直播的用戶直呼「被詐騙」。
無論是「AI孫燕姿」，還是主播利用AI換「明星臉」直播帶貨，都說明這一技術正在大規模普及應用。現階段，一個有基礎網絡軟體使用知識的人，均可藉助人工智慧工具輕鬆完成「信息偽造」，不論是模仿企業發布新聞稿，還是模仿個人的語音，甚至是進行換臉。
虛擬世界也不是法外之地，「AI換臉」的巨大隱患正是版權問題。對此，民法典明確規定，任何組織或者個人不得以醜化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但是法律另有規定的除外。
說起來，這些主播未必不知道自己的行為侵犯了明星的肖像權。然而，如今直播間競爭激烈，很多主播不得不通過一系列「博眼球」的操作來「求關注」，以獲得更高流量，吸引更多客源，獲取經濟價值。不過這些隨意「換臉」的主播既「未經他人同意」，又「以營利為目的」，顯然已經涉嫌違法，當心「吃不了兜著走」。
針對人工智慧生成內容識別難、侵權問題多發等特點，今年4月，國家網際網路信息辦公室發布《生成式人工智慧管理辦法（徵求意見稿）》，要求尊重智慧財產權、商業道德，不得利用算法、數據、平台等優勢實施不公平競爭。
人工智慧的浪潮滾滾而來，虛擬和現實的邊界不再清晰。人們在享受著科技進步為現實世界帶來的紅利同時，也很容易迷失在虛擬世界製造的假象中。如果缺乏應有規束，AI換臉則可能打開潘多拉魔盒。因勢利導，使其趨利避害，這是我們要全力做到的。