近期
人工智慧等話題層出不窮
引發網友熱議
如果用AI技術「復活」去世的人
你會得到怎樣的回應呢？
有一位網友就做到了
他用AI技術
讓去世的奶奶和自己重新對話
……
01
用AI虛擬奶奶
B站UP主吳伍六是一位上海的00後視覺設計師。前段時間他發布了一段視頻，視頻中，吳伍六用AI工具生成了奶奶的虛擬數字人，並和奶奶進行了對話。
視頻里，「奶奶」講著湖北的方言，頭髮花白，像她生前一樣「嘮叨」。光看表情，可以說是惟妙惟肖。
因為非常思念奶奶，吳伍六和奶奶聊了很多，比如升職加薪，比如最近的身體狀況。
他說的每一句話，奶奶都會仔細聆聽，或是點頭，或是眨眼，一一給予回應，還不時發出爽朗的笑聲。
02
AI是如何做到的
在視頻中，吳伍六還原了「復活」奶奶的整個過程。
首先是頭像。吳伍六選擇了當下主流的AI繪畫軟體Midjourney，並上傳了奶奶的照片。
之後再用文字細化某些面部特徵。比如皺紋、眼眸、髮型和神態。
下一步是音頻。這一步的素材基本來自於過去的電話錄音、錄像視頻或者微信語音。吳伍六將過去奶奶的電話音頻上傳給了AI，並用音頻編輯軟體AU進行調整，將音頻切割成若干秒的短句，方便標註。
最後將處理好的音頻打包放入語音合成系統中去，利用該系統，吳伍六就可以嘗試輸入文本轉語音了。
接著最關鍵的一步——生成虛擬數字人。通過D-ID，用戶可以生成數字虛擬人，並和他們展開交流。
在左側選擇頭像，右側上傳文本或音頻即可。
網站上奶奶的形象栩栩如生，音頻也完美還原了奶奶的「鄉音」。搭配上右側拉家常一般的聊天內容，宛如和奶奶面對面視頻通話一樣。
值得注意的是，奶奶的這些「回復」是吳伍六藉助時下大熱的ChatGPT生成的。
他告訴ChatGPT，「我很想我的奶奶，你能不能模仿她的口吻來和我交談？」
藉助對奶奶的回憶，吳伍六也竭盡全力地讓ChatGPT更像他的奶奶。
03
「虛擬生命」引發網友討論
有網友看完視頻很感動，想起了自己失去的親人，認為這樣能寄託哀思，非常有意義。
想製作這類「AI奶奶」，必須要有身故者生前的音頻才能還原語言，有網友因此後悔沒有好好保存親人的音頻數據。
也有網友認為，沒必要把已故親人做成AI，「親人感覺就是被操縱的電子玩偶，你想讓它怎麼說就怎麼說」。
還有網友認為，生活應該向前看，不應過度沉浸在悲思中。
更有網友擔心，這種技術如果被用在不法用途上……「以後有人借錢，視頻確認都不好使了。」
04
吳伍六發聲：
只是給自己一個心理安慰
看到網友的討論，吳伍六發文介紹了自己製作這段視頻的初衷：只是希望用AI技術填補與奶奶沒有好好告別的遺憾。希望大家珍惜當下，現實的陪伴永遠是最重要的。
記者隨後採訪到了吳伍六，他說，之所以用AI「復活」奶奶，是因為自己不能接受奶奶的突然離去。吳伍六從小由奶奶帶大，與奶奶的感情很深，「以前我遇到事都會和奶奶說，現在我也不知道和誰說了，其實我還是很想和奶奶說。」
吳伍六平時從事AI工作，因此他想到了用AI「復活」奶奶。他導入了奶奶生前的照片，製作出了奶奶的動態頭像，又將奶奶生前的通話音頻導入AI，訓練AI模擬出奶奶的聲音和語氣。
他告訴記者，自己知道自己做的這件事情只能給自己一個心理安慰。他明白，呈現出來的始終是一個虛幻的影像，「但怎麼說呢，只要是能再看一看奶奶，再說幾句話也是好的。」
吳伍六介紹，以目前AI的技術水平，只要樣本足夠多，面容、聲音、語氣這些都可以達到相似度90%以上。「但目前AI在思維模式上只能達到50%，它沒法像人類一樣思考。」這件事的本質就是要求AI當演員，去扮演一個人，相貌聲音它都能模仿得非常好，但就目前的科學水平來說，它還無法模仿一個人的靈魂。「我和『奶奶』只能簡單溝通，說複雜的話，AI就理解不了了。」
05
當AI「復活」逝者：
帶來慰藉，也引發爭議
目前，已有不同類型的技術可將去世親人重現在生者面前，但AI技術的進步和使用，也帶來了倫理甚至是法律上的爭議。
近期，隨著CHATGPT的流行，眾多AI技術業內人士、哲學家和心理學家也開始反思AI技術的利弊。
義大利都靈大學哲學家及專注於數字文化中死亡問題的作家大衛·西斯托（Davide Sisto）認為，在某些方面，通過AI技術「復活」的虛擬數字人物只是歷史上人們尋求與逝者保持聯繫或交流方式的一種延伸，「雖然照片可以用靜態的方式代替死者，但當今的AI技術賦予了逝者數位化的『永生』能力」。
清華大學人工智慧國際治理研究院副院長、公共管理學院教授梁正此前接受媒體採訪時則表示：「有的人希望逝者『復活』，對他們來說在生活沮喪的時候能聽到親人的聲音有一種積極的意義，有利於精神上的振作，情感上的慰藉。但是對於一些不能夠辨別真假的未成年人或者老年人來說，長期依靠科技，會產生『依賴感』，如何控制人工智慧帶來的風險，還有待考量。」
06
用AI技術「復活」親人照片
各國是這樣應對的
上海政法學院人工智慧法學院院長楊華介紹說：「『復活』照片是利用了一種名叫『深度偽造（Deepfake）』的技術。通過將圖片或視頻合併疊加到源素材上進行樣本學習，將聲音、表情及動作進行拼接，經過『換臉』，老照片也就『動』了起來。」
說到這裡，大家是否想到了之前特別火的「螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈」？
相信不少人都被這個魔性的音樂配合著誇張扭動的變臉視頻刷屏了，而這款利用AI技術的換臉軟體在2021年2月底衝上蘋果App Store免費榜第一僅幾天，就因涉及隱私安全等問題於2021年3月2日凌晨從App Store中國區悄然「下架」。
對此，楊華表示，這項AI技術在國外是受到限制的，有些國家甚至明令禁止對某些人的面容進行「深度偽造」。美國是最早提出對「深度偽造」技術進行立法的國家，與「深度偽造」技術直接相關的法案最多，而且從聯邦到各州政府層面均有部署行動。2018年12月，美國參議院提出《2018年惡意偽造禁令法案》，違反並造成嚴重後果的，將面臨10年監禁。在應對「深度偽造」技術上，歐盟則主要通過個人信息保護和虛假信息治理等法律法規來從法律層面限制人工智慧偽造技術的應用。
而在我國，2021年3月18日，國家網信辦和公安部也聯合針對涉「深度偽造」技術的應用，指導部分地方網信部門、公安機關依法約談了11家企業。
針對「深度偽造」技術的出現和應用是否存在法律隱患？楊華表示，這項技術其實潛在涉及著當事人的人格權、肖像權與名譽權等相關問題。肖像權作為人格權的一個組成部分，是每一位公民都享有的一項權利，無論當事人是否在世。
楊華還表示：「許多人會在不同場合下運用與情景、心境相匹配的表情，倘若通過『深度偽造』，一些本該嚴肅的場合卻讓當事人大笑，可能涉及到對其名譽權的損害，存在更大的風險。」
07
法學專家表示
「深度偽造」易致個人信息泄露
中國刑法學研究會副會長、上海市法學會刑法學研究會會長劉憲權認為，人臉識別技術應用的場景越來越廣泛，與此同時，法律隱患也越來越大，十分容易造成個人信息泄露。
上海政法學院人工智慧法學院院長楊華表示，無論是逝者家屬自願找到商家要求對逝者照片進行AI修復，還是一些有心人士進行帶有其他目的的操作，如果追究起來，都會面臨法律問題，只是涉及到法律責任承擔的大小比重如何分擔。倘若發現自己的照片遭到「深度偽造」，可以主張追究偽造者的法律責任，若照片中的當事人已經去世，其繼承人有權代為行使法律責任。
民法典第九百九十四條規定：死者的姓名、肖像、名譽、榮譽、隱私、遺體等受到侵害的，其配偶、子女、父母有權依法請求行為人承擔民事責任；死者沒有配偶、子女且父母已經死亡的，其他近親屬有權依法請求行為人承擔民事責任。
劉憲權還表示，單純從目前的情況來看，並未存在侵權問題。如果用AI技術進行換臉或對當事人進行惡搞，但未經過當事人或其家屬的同意，或將面臨侵犯當事人名譽權等法律風險。甚至，如果將「換頭術」運用到人臉識別中，進行財產處理等，還有可能涉及到刑事犯罪。
有律師表示，上述情況主要涉及死者家屬的精神損害問題，無論是支付寶、微信等支付APP，還是小區里廣泛應用的人臉識別技術，都可能存在法律隱患。規範人臉識別技術迫在眉睫，應從立法層面對能夠採集人臉樣本的系統進行管理，規範人臉識別採集的權限，杜絕技術的濫用。
（來源：南方日報、新智元、《揚子晚報》、大河報、極目新聞、南方+客戶端、法治日報、網信江門）