首屆頂科協獎解讀|從喬丹獲獎看多學科交叉融合對機器學習重要性

澎湃新聞 發佈 2022-09-29T17:03:35.310580+00:00

·麥可·喬丹教授是機器學習領域的先驅,通過在機器學習、概率學、統計學以及圖模型這四者間建立聯繫,為機器學習奠定了數學與計算基礎。

·麥可·喬丹教授是機器學習領域的先驅,通過在機器學習、概率學、統計學以及圖模型這四者間建立聯繫,為機器學習奠定了數學與計算基礎。他是真正將機器學習用於特定主題模型,如文本分析、圖像分析的開創者之一。過去十年裡,機器學習在諸多領域的應用得到爆炸式發展,如自動駕駛汽車、X光片分析、蛋白質摺疊預測等,都離不開基於喬丹研究所塑造的理論框架。

9月29日,2022年第一屆世界頂尖科學家協會獎(以下簡稱「頂科協獎」,WLA Prize)在上海揭曉。其中「智能科學或數學獎」被授予美國計算機科學與統計學家麥可·I·喬丹(Michael I. Jordan),以表彰他「對機器學習的理論基礎及其應用作出了根本性貢獻」。每位獲獎者獲得獎金1000萬元人民幣。

美國加州大學伯克利分校電子工程與計算機科學系、統計學系傑出冠名教授麥可·I·喬丹。

麥可·I·喬丹出生於1956年,是美國國家科學院院士、美國國家工程院院士和美國藝術與科學院院士,現任加州大學伯克利分校電子工程與計算機科學系、統計學系傑出冠名教授。主要研究方向為人工智慧、生物系統與計算生物學、控制、智能系統和機器人、信號處理、機器學習等。

「麥可·喬丹教授是機器學習領域的先驅,通過在機器學習、概率學、統計學以及圖模型這四者間建立聯繫,為機器學習奠定了數學與計算基礎。這些領域的相互聯繫,不僅有助於促進機器學習領域的研究和發展,同時還提升了相關領域研究工作的質量和數量。」頂科協獎「智能科學或數學獎」遴選委員主席、2017年圖靈獎得主約翰·軒尼詩(John Hennessy)教授介紹。

機器學習是人工智慧的基石,喬丹在機器學習領域工作了近30年,是真正將機器學習用於特定主題模型,如文本分析、圖像分析的開創者之一。過去的十年裡,機器學習在諸多領域的應用得到爆炸式發展,如自動駕駛汽車、X光片分析、蛋白質摺疊預測等,都離不開基於喬丹研究所塑造的理論框架。

「機器學習是人工智慧和數據科學的核心技術之一,計算機科學、統計學、數學優化等多學科交叉融合為機器學習提供了堅實的基礎。麥可·歐文·喬丹(Michael Irwin Jordan)指出了機器學習與統計學的深刻聯繫,並長期致力於推動兩個學科的深度交叉融合。」清華大學長聘副教授龍明盛對澎湃新聞(www.thepaper.cn)表示。2014年,龍明盛在清華大學王建民教授的指導下獲得博士學位後,即到加州大學伯克利分校師從喬丹院士從事博士後研究工作。

IEEE高級會員、河海大學教授、物聯網工程研究所所長韓光潔博士對澎湃新聞表示:「麥可·I·喬丹教授是人工智慧與機器學習領域的開創者與領路人,其在專業領域的貢獻不言而喻,更培養出多位領域風向標級的專家學者。尤其值得尊敬和讚譽的是,相較於產業賦能帶來的資本收益,喬丹教授更為關注數據驅動方法對民生的改善。」

從心理學到統計學、認知科學

1978年,喬丹完成路易斯安那州立大學心理學學士學位,決定努力成為一名數學心理學家,並開始在亞利桑那州立大學攻讀數學和統計學碩士學位。然而,喬丹很快意識到他不想只是為了分析數據而學習統計學,還想為了建立新模型並探索統計推斷與人類思維的關係。

碩士畢業,喬丹與加州大學聖地亞哥分校的一些教師會面後發現了認知科學的新興領域,「我有一種啊哈的體驗。在那個時代,這是一個新領域,它實際上是關於將數學和科學應用於人類思考方式的問題,這啟發了我。」

此後不久,喬丹師從美國國家科學院院士、心理學和認知科學教授大衛·魯梅爾哈特(David E.Rumelhart),攻讀認知科學博士學位。

那時候魯梅爾哈特正專注於兩個話題:一個是神經網絡的新興領域,並涉及製作類腦計算的數學模型,以更好地理解人類的推理、決策、記憶和語言使用。另一個研究領域涉及製作人體運動模型,以更好地了解人類用來移動四肢的潛在神經控制系統。

喬丹最初的重點是後一個主題,「我對控制理論很感興趣,因為我試圖了解人類如何做出動作,如果他們做出不正確的動作,他們將如何調整自己的動作,以及人類如何學習移動以操縱世界上的物體。」控制理論基於構建被控制的動態系統的模型,使用喬丹已經熟悉的統計建模思想。然後,他使用優化理論從模型中提取實現預期目標所需的適當控制信號。「在我轉向運動控制以外的其他主題很久之後,這種統計數據和優化的結合繼續成為我工作的特點。」他說。

在喬丹的博士生涯即將結束時,他開始覺得有必要回到推理和決策方面更廣泛的問題上,並感覺到他的統計和控制理論觀點需要通過計算機科學提供的算法觀點來增強。因此,在1985年完成認知科學博士學位後,喬丹前往麻薩諸塞大學擔任人工智慧領域的博士後研究員。

如何看待人工智慧的應用

「當我開始從事人工智慧工作時,似乎有很多關於推理的工作,但沒有太多關於學習的工作。」喬丹回憶道,「我的一個想法是推理和學習可以互相幫助,所以你不必學習你能推理的東西,學習可以避免做複雜的推理。這是減少不確定性的同一枚硬幣的兩面。因此,隨著時間的推移,我試圖越來越多地關注學習算法,而不僅僅是人類如何學習,還有機器如何學習。」

博士後的研究工作結束後,喬丹在麻省理工學院工作了十年,從助理教授晉升到麻省理工學院腦與認知科學系的終身職位。1998年,他加入加州大學伯克利分校任教,擔任電子工程與計算機系和統計學系教授、實時智能決策計算平台實驗室(RISELab)共同主任、統計人工智慧實驗室(SAIL)主任、統計系系主任。

喬丹自稱是位統計學家,對於機器學習領域的研究,他曾在一次採訪中表示,「他們認為統計學過時了,無關緊要。但我投入了數十年的時間研究缺失變量模型、因果推斷、不確定性量化、高維回歸和稀疏等問題。這些課題後來都流行了起來,由機器學習研究者發揚光大。」

對於人工智慧技術落地應用的問題,喬丹曾直言,人工智慧技術並不是放之四海皆準的,需要針對不同的場景、約束條件、數據量、數據類型、目標等情況進行設計。我們不能簡單粗暴地應用技術,需要更加了解要解決的問題本身,有的放矢。

「我們要學會跳出學術界,始終記得自己不僅僅是數學家,也是現實社會中湧現出的現實問題的解決者。我們可能要構建預測、分配、經濟、交通、商業、法律、娛樂等領域的系統,解決其中的優化、經濟、計算、平台等問題。」喬丹說。

喬丹認為,研究者們需要考慮自己終生追求的事業,但也需要明白:你不可能只做一件事情。「在我的生涯中,至少花費了30%的時間學習新事物,它們可能在未來與我有關。我看過很多視頻,甚至讀過一些有趣的本科生水平的書籍。我並不期望它們能立刻讓我產生研究思路。可能過了5年、10年,我才會看到它們與我現在思考問題的聯繫。」

北大斯坦福校友、現賓夕法尼亞大學的蘇煒傑教授對喬丹印象最深刻的是他學習新領域新思想的巨大熱忱。今年66歲的喬丹,還保持著睡前閱讀其他學科專著的習慣,近幾年的重點是經濟學專著。蘇煒傑提到,機器學習的發展離不開來自應用數學、統計學、神經科學和經濟學等學科方法和思想的注入。喬丹對這些傳統學科和新興交叉領域有著多年的思想積累和沉澱,這就不難解釋為什麼他能長期引領著機器學習的發展。

混合專家模型、貝葉斯網絡

回顧喬丹的職業生涯,他的突出貢獻在於成功連接了計算機科學和統計學這兩個學科,包括統計推理和學習的變分方法、基於圖模型和貝葉斯非參數化的推理方法,以及統計風險和計算複雜性之間的權衡特徵。

喬丹也涉獵優化和機器學習的交叉領域,因開發了基於梯度的優化和抽樣的連續時間模型,以及用於優化的分布式系統上的工作而聞名。

喬丹還構建了機器學習和控制理論間的關聯研究,為強化學習理論、基於學習的模型預測控制和人類運動控制的最優化原理做出了貢獻。

喬丹還率先將微觀經濟概念與機器學習相結合,開發了激勵學習者分享數據的學習方法,並展示了如何將契約理論用於統計推理,為基於學習的匹配市場研究做出卓越貢獻。他同時致力於推動機器學習在單分子成像、蛋白質建模、基因重組建模和自然語言處理等高影響力領域的應用。

「喬丹的研究有一個很大的特點,即具備非常嚴格的數學基礎。」龍明盛對澎湃新聞(www.thepaper.cn)說到。他早期將循環神經網絡發展為一個認知模型,還提出了混合專家模型,後者迄今已被廣泛應用於神經網絡基礎模型的結構設計。但統計學風格占據了他後來研究工作的主導。他推動了貝葉斯網絡、概率圖模型和期望最大化算法在機器學習領域的流行,形式化了概率近似推理的變分方法並構建其理論基礎。

「近年來,他的研究轉移到一些公眾知曉度不高,但是卻非常重要的方向,比如數學優化中的主要理論問題,為當前主流優化算法奠定了基礎。」龍明盛說。

同時,喬丹對計算機科學的貢獻也體現在教育方面。他指導了80多名博士生和60多名博士後研究人員,這一群體目前活躍在世界領先的學術機構,帶領行業向前發展。

對於喬丹的指導風格,龍明盛的第一印象就是高屋建瓴。「喬丹實驗室的研討會是別具一格的,可能聽懂都不容易。他們不會去討論一些現在流行和時髦的東西,而是會去深入探討一些很基本的問題,這些問題的價值可能會在多年後才被證明。比如當時我在喬丹實驗室的時候,大家一個學期學習了4本經典著作,包括高維統計學、大規模因果推斷等,這無疑為實驗室同學們打下了非常重要的理論基礎。」

第二點是入木三分,對我們討論起來的任何一個問題他都能迅速抓住其關鍵點,讓人不免好奇他腦袋中的知識海洋的寬度和深度。

第三點是親力親為,在科研的關鍵環節喬丹從不會缺位,比如一個研究工作的概念論證、基本數學模型建立等。「我在伯克利發表的第一篇論文是關於遷移學習的基礎算法,在實驗室前往聖克魯茲開展Summer Retreat的兩天時間裡,喬丹在LaTeX源文上非常細緻地修改,大到基本概念,小到遣詞造句,在Chaminade Resort海邊的上千處改動至今仍讓人記憶猶新。」

獲得頂科協獎的意義

在獲得頂科協獎之前,喬丹曾獲IEEE約翰· 馮·諾依曼獎章(2020)、國際人工智慧聯合會議卓越研究獎(IJCAI)(2016)、魯梅爾哈特(David E.Rumelhart)獎(2015),以及ACM/AAAI艾倫·紐厄爾獎(2009)等。2016年,他被Semantic Scholar評為計算機科學領域最具影響力學者,同年《科學》的報導稱他是世界上最有影響力的計算機科學家之一。

喬丹此次獲頒的頂科協獎「智能科學或數學獎」,旨在盡力挖掘那些尚未獲得圖靈獎或阿貝爾獎等最高獎項的候選人。

「與一些歷史悠久的傳統科學領域相比,計算機科學是一個相對新興的領域,還沒有得到國際最高獎項的認可,因為這些大獎本身的歷史比計算機科學技術要久遠得多。」約翰·軒尼詩教授表示,頂科協獎「智能科學或數學獎」的設立旨在宣傳一系列對我們的未來至關重要但可能還沒有得到大獎認可的科技領域,以此促進相關技術的發展,同時希望更多年輕人了解這個領域有多麼廣泛,並且有很多人正在這個領域從事著偉大的工作。

頂科協獎是由世界頂尖科學家協會發起,世界頂尖科學家發展基金會承辦,紅杉中國獨家捐贈的國際性科學大獎,於2021年11月1日在第四屆世界頂尖科學家論壇上正式宣布創設。

頂科協獎每年頒發一次,目前設立了「智能科學或數學獎」「生命科學或醫學獎」兩個單項獎,單項獎金金額為1000萬元人民幣,躋身全球獎勵金額最高的科學獎項之列,同個獎項最多可由4名獲獎者共同獲獎並分享。

首屆頂科協獎獲得者麥可·I·喬丹(Michael I. Jordan)簡介:

教育經歷:

1978年 路易斯安那州立大學 心理學學士

1980年 亞利桑那州立大學 數學碩士

1985年 加州大學聖地亞哥分校 認知科學博士

工作經歷:

1986-1988年,麻薩諸塞大學計算機和信息科學系 博士後研究員

1988-1998年,麻省理工學院腦與認知科學系 助理教授、副教授、教授

1998年至今,加州大學伯克利分校電子工程和計算機科學系、統計系 教授

2015-2017年,加州大學伯克利分校統計系 主任

2017年至今,加州大學工業工程與運籌學系 教授

2018年至今,北京大學 名譽教授

2019年至今,清華大學 名譽教授

主要獎項和榮譽:

2004年,國際數理統計學會勳章講座講師

2009年,ACM/AAAI艾倫·紐厄爾獎(美國計算機協會ACM、美國人工智慧促進會AAAI )

2010年,美國國家科學院院士

2010年,美國國家工程院院士

2011年,美國藝術與科學院院士

2011年,國際數理統計學會奈曼講座

2015年,魯梅爾哈特獎(國際認知科學學會CSS)

2016年,國際人工智慧聯合會議卓越研究獎(IJCAI)

2020年,約翰·馮·諾依曼獎(電氣與電子工程師協會IEEE)

2021年,米切爾獎(國際貝葉斯分析學會,ISBA)

2021年,烏爾夫·格林納德隨機理論與建模獎(美國數學會, AMS)

2022年,國際數理統計學會首屆格雷絲·沃赫拜講座講師

關鍵字: