中新經緯4月12日電 (魏薇 馬靜)ChatGPT引發的合規性問題正成為業界關注的焦點。
11日，國家網際網路信息辦公室(下稱網信辦)發布通知，就《生成式人工智慧服務管理辦法(徵求意見稿)》(下稱《意見徵求稿》)向社會公開徵求意見。
近日，中國支付清算協會也發布了《關於支付行業從業人員謹慎使用ChatGPT等工具的倡議》。
國內不少金融機構已在試水布局生成式人工智慧。業內人士認為，金融機構使用ChatGPT等工具，應先進行可控範圍的評估，同時提升數據保護意識，加強對客戶的信息保護。
為生成式人工智慧立規矩
「中國支付清算協會向行業發出倡議正當其時，對整個金融行業和從業人員都是一次提醒，具有較強的針對性。」招聯首席研究員董希淼對中新經緯說。
中國支付清算協會表示，近期，ChatGPT等工具引起各方廣泛關注，已有部分企業員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數據泄露等風險。為有效應對風險、保護客戶隱私、維護數據安全，提升支付清算行業的數據安全管理水平，根據有關法律規定，中國支付清算協會向行業發出倡議。
「從金融安全的角度看，特別是要上傳隱私類數據時，要非常慎重。」清華大學新聞學院元宇宙文化實驗室主任、教授瀋陽對中新經緯表示，最近ChatGPT在多個國家已經被警示或者被禁用，日本也在和Open AI進行討論，要強化對隱私的保護。ChatGPT本身有隱私泄露的風險、數據安全的風險、價值觀偏見的風險、還有環保方面的壓力。
一位支付機構的從業人員在接受中新經緯採訪時指出，ChatGPT能夠極大地提高工作效率，但對於金融、支付等嚴監管行業來說，其帶來的數據泄露、虛假信息、智慧財產權合規等風險不容忽視。
在談到數據泄露和安全問題時，博通分析金融行業資深分析師王蓬博在接受中新經緯採訪時強調，金融行業對於個人信息和相關的商業數據特別敏感，更應該注意這方面的問題。
王蓬博分析稱，ChatGPT是一個人工智慧技術驅動的自然語言處理工具，需要對資料庫不斷更新，運行邏輯是通過大量的文本收集、數據訓練回答客戶問題，而金融從業者若想使用ChatGPT則需要添加內容數據做訓練，需要經過數據不斷填充才能進化，就一定會存在金融數據隱私及安全問題，即使用戶是無意識的行為，也非常有可能造成個人信息和數據的泄露。個人信息的收集、使用和傳輸都面臨著安全挑戰。
金融數據跨境風險也是業內關注的焦點。中國社會科學院金融研究所金融科技研究室主任尹振濤稱，「支付機構其實擁有大量的用戶信息和敏感信息，以及涉及國家安全的重要數據，包括支付數據，如果不加強管理，部分信息上傳至境外伺服器，其實是非常大的隱私泄露事件。」
中國人民大學國際貨幣研究所研究員、獨立國際策略研究員陳佳對中新經緯分析稱，境外API與中國支付行業在數據海關問題上的風險漏洞尚未破題。中國支付行業經過多年來的發展積累了大量客戶群體的核心數據，包括個人信息、產行業信息、支付信息，並在依法合規獲得渠道授權條件下得以接入國家金融資料庫，這些數據的物理地址都在境內且接受數據和算力海關的監管。
「相比之下，包括ChatGPT在內的幾乎全部海外API開發工具的伺服器、資料庫和算力中心都在境外。」陳佳指出，如果中資支付機構過度依賴這類API，幾乎無法避免商業數據甚至客戶隱私信息跨境出關的問題。由於API每一次調用不知不覺間可能涉及天量隱私數據，支付行業機構將防不勝防，監管技術亦將短期內高度承壓。因此清算協會提出謹慎使用是立足當前行業發展實際的審慎之舉。
金融機構應加強信息保護
在王蓬博看來，金融機構要想使用類似的產品，起碼先進行可控範圍的評估，做好預防措施以後再進行應用。預計在數據安全相關法律法規的政策框架範圍內，未來有可能出台相關補充監管政策，比如數據分級保護制度、數據跨境審核機制等等。
中央財經大學證券期貨研究所研究員、內蒙古銀行研究發展部總經理楊海平在接受中新經緯採訪時建議，監管部門對金融機構圍繞ChatGPT等工具的業務應用進行充分的沙箱測試，結合測試結果，以金融科技倫理規範、數據治理規範、金融安全等考量為依據，形成監管意見，並採取下一步的監管行動。
董希淼指出，對金融機構而言，下一步應從三個方面加強客戶信息保護：第一，在思想上，要高度重視客戶信息保護。應將保護個人信息的理念內化於銀行血液中，以最嚴格的標準和最嚴密的措施確保客戶信息安全。第二，在管理上，應建立信息資料庫分級授權管理制度。根據個人信息的重要程度、業務需要、敏感程度等，實行分級管理。在個人信息處理過程中，應在技術上對客戶信息複製、查詢有硬約束，比如建立分級審批、雙人控制等要求。第三，在機制上，加強金融信息安全保護的宣傳教育。一方面，應開展員工內部培訓，在工作中強化對用戶信息的保護意識；另一方面，應當未雨綢繆，將加強信息保護等融入消費者教育內容，提高消費者金融素養和自我保護能力。
專家呼籲實現自主可控的大語言模型
儘管生成式人工智慧在使用上還存在一定風險，但中新經緯注意到，ChatGPT風起，一些金融機構也已先行布局或「放言」要使用這類人工智慧技術，涉及領域包括智能客服、投研、投顧、量化交易、風險管理等。在多家券商2022年度報告或業績說明會上，人工智慧+金融既是提及的未來發展方向，也是投資者們提問的話題之一。
近日，東方財富董事長其實在業績說明會上回答投資者提問時表示，已經陸續研發了東方財富金融數據AI智能化生產平台、多媒體智能資訊及互動平台系統等多個人工智慧相關項目，並在公司部分產品及服務中進行了具體應用。
銀行方面，在工商銀行2022年業績會上，工商銀行副行長張文武表示，對於人工智慧的研發應用，工商銀行一直高度重視。從技術實力看，工商銀行已經建成了自主可控、功能完備的企業級人工智慧平台。從研發應用看，工商銀行一直在探索適合金融業的大規模應用，近期與頭部科技機構合作，在國內同業中率先推出人工智慧金融行業通用模型，初步探索出超大規模通用模型應用於金融行業的實踐。
百信銀行最近則上線了首個3D數字營業廳，百信銀行行長李如東認為，未來3-5年，「AIGC+數字人」將成為服務用戶的主流形態，內容生產力和精準營銷能力大幅提升，陪伴式的用戶服務將成為標配。
險企方面，中國太保在2022年度報告中也提到，將基於大數據基礎和技術全面加快經營管理的數位化轉型步伐，尤其加大ChatGPT等人工智慧前沿創新應用落地。
「ChatGPT及類ChatGPT產品在金融業應用場景豐富，如果符合風控和合規要求，將在滿足客戶需求、提升風控能力、降低經營成本等方面發揮積極作用，應用前景十分廣闊。」董希淼表示，金融機構應高度關注人工智慧等前沿技術和應用，以核心客戶需求為導向，適時加大前瞻性投入和布局，持續提高金融科技發展水平，加快推進和深化數位化轉型，不斷提高客戶服務能力和客戶體驗，提升為實體經濟服務質效。
《意見徵求稿》指出，國家支持人工智慧算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟體、工具、計算和數據資源。
瀋陽呼籲，中國自己的ChatGPT產品和大模型本地化部署是一個刻不容緩的現實需求，需要加大投入力量，快速縮小和國外的技術差距，實現自主可控的大語言模型，這是當下要高度重視的問題。
陳佳認為，未來中資API一旦破題，將實現科技倫理與理論創新，科技工具與產業鏈融合，科技監管與行業自律創新的全面配合。在結合中國一貫堅持從嚴監管、科技向善、自主創新的原則，支付行業在與中資API合作過程中，就可以規避新一代人工智慧超速發展引發的科技倫理、監管缺位和發展超速的系統性問題，另一方面亦有利於中國金融科技和支付行業以我為主厚積薄發，實現不超速不失速的平衡發展，更好的將科技成果服務於人民群眾。
(更多報導線索，請聯繫本文作者魏薇：vivi1257@163.com)(中新經緯APP)
(文中觀點僅供參考，不構成投資建議，投資有風險，入市需謹慎。)
中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。
責任編輯：李中元