關於深度合成技術
這些知識你需要了解
這段時間，ChatGPT聊天機器人風靡全網，刷新了人們對於聊天工具的認知。
但是大家知道嗎？關於這項聊天工具的背後，其實就是深度合成技術在現實生活中的具體應用。
什麼是深度合成技術？
指利用深度學習、虛擬實境等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。
近日，國家網際網路信息辦公室、工業和信息化部、公安部聯合發布《網際網路信息服務深度合成管理規定》，也從規範深度合成服務出發開創了新興算法治理的先河。
一
深度合成技術包括什麼？
文本技術
篇章生成、文本風格轉換、問答對話等對文本內容進行生成或者編輯的技術。例如文檔轉換軟體等。
語音技術
隨著技術的不斷積累、疊代，人工智慧有望推動經濟社會發展，釋放發展紅利，賦能美好未來。
文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術。例如語言更改功能軟體等。
非語音技術
音樂生成、場景聲編輯等生成或編輯非語音內容的技術。例如音樂製作軟體等。
生物特徵技術
人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特徵的技術。例如AI人臉生成軟體等。
非生物特徵技術
圖像生成、圖像增強、圖像修復等生成或編輯圖像、視頻內容中非生物特徵的技術。例如一鍵AI繪畫卡通頭像軟體等。
數字虛擬技術
三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術。例如手機3D建模軟體等。
二
哪些行為不得做？
01
不得制、復、發、傳法律法規
禁止的信息
任何組織和個人不得利用深度合成服務製作、複製、發布、傳播法律、行政法規禁止的信息。
02
不得從事法律、法規禁止的活
動
任何組織和個人不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。
03
不得制、復、發、傳虛假新聞
信息
深度合成服務提供者和使用者不得利用深度合成服務製作、複製、發布、傳播虛假新聞信息。
三
哪些行為必須做？
01
信息安全主體責任、管理制度、技術保護措施
深度合成服務提供者應當落實信息安全主體責任，建立健全用戶註冊、算法機制機理審核、科技倫理審查、信息發布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。
02
管理規則、平台公約等一般性要求
深度合成服務提供者應當制定和公開管理規則、平台公約，完善服務協議，依法依約履行管理責任，以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。
03
真實身份信息認證
深度合成服務提供者應當基於行動電話號碼、身份證件號碼、統一社會信用代碼或者國家網絡身份認證公共服務等方式，依法對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務使用者提供信息發布服務。
04
信息內容審核義務
深度合成服務提供者應當加強深度合成內容管理，採取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核。
05
構建識別違法不良信息特徵庫、對違法不良信息的處置措施
深度合成服務提供者應當建立健全用於識別違法和不良信息的特徵庫，完善入庫標準、規則和程序，記錄並留存相關網絡日誌。
深度合成服務提供者發現違法和不良信息的，應當依法採取處置措施，保存有關記錄，及時向網信部門和有關主管部門報告；對相關深度合成服務使用者依法依約採取警示、限制功能、暫停服務、關閉帳號等處置措施。
06
建立健全闢謠機制
深度合成服務提供者應當建立健全闢謠機制，發現利用深度合成服務製作、複製、發布、傳播虛假信息的，應當及時採取闢謠措施，保存有關記錄，並向網信部門和有關主管部門報告。
07
便利用戶投訴、舉報義務
深度合成服務提供者應當設置便捷的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結果。
08
應用程式分發平台的安全管理
網際網路應用商店等應用程式分發平台應當落實上架審核、日常管理、應急處置等安全管理責任，核驗深度合成類應用程式的安全評估、備案等情況；對違反國家有關規定的，應當及時採取不予上架、警示、暫停服務或者下架等處置措施。
09
訓練數據和生物識別信息安全管理要求
深度合成服務提供者和技術支持者應當加強訓練數據管理，採取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定。
深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意。
10
技術管理要求
深度合成服務提供者和技術支持者應當加強技術管理，定期審核、評估、驗證生成合成類算法機制機理。
深度合成服務提供者和技術支持者提供具有以下功能的模型、模板等工具的，應當依法自行或者委託專業機構開展安全評估：
（一）生成或者編輯人臉、人聲等生物識別信息的；
（二）生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的。
11
「隱式標識」義務
深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當採取技術措施添加不影響用戶使用的標識，並依照法律、行政法規和國家有關規定保存日誌信息。
12
「顯著標識」義務
深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況：
（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；
（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特徵的編輯服務；
（三）人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特徵的編輯服務；
（四）沉浸式擬真場景等生成或者編輯服務；
（五）其他具有生成或者顯著改變信息內容功能的服務。
深度合成服務提供者提供前款規定之外的深度合成服務的，應當提供顯著標識功能，並提示深度合成服務使用者可以進行顯著標識。
（來源：公安部網安局）