封面新聞記者 吳雨佳
最近，#AI繪畫有多離譜#的相關話題火上熱搜，比如明明是歡喜的結婚照，被 AI 繪畫軟體加工後，新郎被「掛」在牆上，剩下新娘一人；少女和狗的合影中，作為主角的少女被AI繪畫理解成了「狗」。看上去，AI繪畫軟體的「理解力翻車」是源於高維數據合成任務十分複雜，導致生成結果不可控，出現了各種搞笑的錯誤。但是，在醫療、自動駕駛等多種領域的「AI翻車」會產生嚴重的問題，比如誤診耽誤治療、高速行駛的自動駕駛車輛識別錯誤引發交通事故。
如何從底層構建更穩定的AI，避免AI大翻車？11月30日，7位來自阿里巴巴、清華大學、上海交大等公司和高校的90後和00後研究者分享他們在對抗學習、貝葉斯深度學習、異常檢測、魯棒評估、噪聲學習、魯棒動態圖學習、偏微分方程求解等方向上發表的研究成果，共同探討如何打造更加安全可靠的智能技術，這些研究成果均被AI頂會NeurIPS收錄。
毛瀟鋒是阿里巴巴人工智慧治理與可持續發展研究中心（AAIG）的一名算法工程師。進入阿里以來，他最重要的工作就是研究如何通過對抗訓練來增強AI的魯棒性，這些研究能力被應用在非常接地氣的直播和圖片內容審核中。在實際應用中，直播攝像頭的光線變化、主播對商品的快速晃動等因素都會對抗AI對違規商品的識別，如果AI識別的穩定性難以保障，漏過違規商品，最終受損的還是消費者。
《利用離散對抗訓練增強視覺表徵》是毛瀟鋒的分享議題。「如果把圖片拆成一個個像素，對某個或者多個像素點進行修改，往往可能引起AI無法識別，我所做的工作就是對AI進行對抗訓練，讓它不糾結於少量不引起圖片本質內容的像素級別的改變，AI模型依然認出這張圖片表達的含義。」毛瀟鋒解釋道：「就像我今天戴了眼鏡，但這並不妨礙我還是我。」他認為，將這種能力用於平颱風控後，能更好地守護消費者的安全。
董胤蓬是清華大學計算機系的一名95後博士後研究員，已發表30多篇頂級國際期刊和會議論文，主要專注於深度學習魯棒性的研究。他本次的分享集中在3D世界的視角變化對AI視覺識別產生的影響。董胤蓬舉例：「這項研究與自動駕駛場景密切相關，如果前車車輛發生車禍，自動駕駛車輛可能以非常不正常的視角拍攝了圖片或視頻，從而影響識別和判斷，我關心的是，在3D空間裡，如果拍攝視角或者其他視覺條件出現變化，AI是否能正確識別，從而避免車禍發生。」
「希望通過研究分享，讓大家關注真實世界的安全性問題。我想知道，AI 用它的『眼睛』看世界時，是否處於非常穩定和精準的狀態。」 董胤蓬強調道。
00後的劉松銘是清華大學的在讀本科生。在他的研究中，他試圖利用物理信息機器學習方法解決結構優化等廣義上的「安全」問題。
劉松銘選取了燃料電池組、飛機機翼等場景介紹：「假如我們要建模一個安全穩定可靠的電池，需要模擬電池的動態，比如它的溫度或電流分布，這是一個物理問題，但我想用數學的辦法探索，然後通過神經網絡求解。」他希望用「AI」探索廣義的科學問題，包括解決至關重要的安全問題，讓AI研究者從交叉學科中找尋思路。
【如果您有新聞線索，歡迎向我們報料，一經採納有費用酬謝。報料微信關注：ihxdsb，報料QQ：3386405712】