近日，「AI孫燕姿」翻唱歌曲走紅。孫燕姿本人回應：人類無法超越AI，做自己已然足夠。
ChatGPT的橫空出世引發了公眾對個人信息安全的隱憂：用手機下載一個app，花三秒鐘勾選所有權限，包括聲音、臉部識別、通訊錄、相冊、定位......我們的聲形、行蹤、偏好等隱私瞬間被吸入大數據的洋流。人工智慧的發展是否讓我們失去了隱私權? AI生成人臉和聲音的紅線在哪裡？在數字社會中，我們擁有哪些個人信息權利？澎湃問吧邀請上海政法學院佘山學者特聘崗教授徐偉，一起聊聊AI時代下個人隱私問題。
點擊圖片即可提問
AI時代的隱私權
@籃球場上的播音生：AI一定會涉及到個人隱私嗎？
徐偉：AI如果想實現「懂你」「好用」的效果，就必須收集和利用用戶的個人信息，就會涉及隱私和個人信息保護。
@昨日的世界：為什麼現在所有app都在想方設法地獲取個人信息？個人信息是不是越來越有價值了？
徐偉：你的觀察非常準確，隨著算法和算力的提升，個人信息的價值也越來越高，因為對個人信息的處理能夠實現越來越多的功能和目的。
@Puzz康：有些遊戲軟體下載後，會有彈窗要求獲取「健康」數據的權限，不勾選就沒法玩，這合法嗎？
徐偉：《個人信息保護法》第6條規定：處理個人信息應當具有明確、合理的目的，並應當與處理目的直接相關，採取對個人權益影響最小的方式。收集個人信息，應當限於實現處理目的的最小範圍，不得過度收集個人信息。
因此，健康數據並非遊戲軟體的必要個人信息，遊戲公司不能以獲取健康數據作為使用遊戲的前提。
孫燕姿回應「AI孫燕姿」
@伊莉莎白的鴨：如果我的聲音和臉被人拿去AI合成怎麼辦？未來這會是合法的事情嗎？
徐偉：人的聲音和臉是表徵人的重要信息，而法律始終以保護人的自由和尊嚴為圭臬。因此，除非經過你的明確同意，否則未經許可的聲音和人臉使用都不會是合法行為。未經許可使用他人聲音和人臉的，個人可以通過肖像權、個人信息權等來主張。
如何合理發展AI
@讚美虛無：在AI騰飛的未來，飽受人們關注的隱私權會不會漸漸被弱化和遺忘？
徐偉：AI時代，隱私只會越發重要，而非被弱化和遺忘。因為若缺失了對隱私的保護，人的自由與尊嚴在AI時代將不復存在，這樣的AI發展不應是人類所追求的未來。我們始終應牢記，人本身才是目的，AI只是手段。
@sholincong：針對AI的發展，銀行通信等行業如何通過信息化手段加強管控？如果出現此類業務風險，對受害人應該如何給予保護和申訴，對於破壞者如何界定和處罰？
徐偉：AI發展帶來的影響是全方位的，不僅銀行通信行業，其他各行業也都要強化數據合規。若企業侵害了自然人的個人信息等權益，除了企業自行提供的投訴通道外，我國民事、行政和刑事領域都為受害人提供了救濟。比如民事方面受害人可提起侵權的訴訟，行政領域可向網信辦等投訴，刑事方面可能構成侵害公民個人信息罪等。
@烏龍：義大利之前為何很剛地宣布禁用ChatGPT？歐洲在人工智慧的發展上顯得保守，是因為隱私權嗎？
徐偉：義大利禁用ChatGPT主要是基於對用戶隱私和個人信息被不當處理的擔憂。歐洲並非不想發展人工智慧，隱私也只是影響人工智慧發展的因素之一，從產業和技術的角度來看，人工智慧的發展需要數據、算法、算力等多方面的支撐，歐洲在這些方面的積累有所欠缺，想在人工智慧領域發力並不容易。
@小兔兔：AI技術條件下，有可能建立數字身份證嗎？
徐偉：數字身份證主要涉及身份綁定和驗證等技術，嚴格而言，這與AI技術相關但並無必然關聯。數字身份證的應用，有賴於我國行政管理服務改革，我國居民身份證電子證照服務機制的建立。