2023頂科協(xié)獎智能科學(xué)或數(shù)學(xué)獎揭曉,他們追求極致優(yōu)化引發(fā)一場算法革命
2023年世界頂尖科學(xué)家協(xié)會獎“智能科學(xué)或數(shù)學(xué)獎”今天(9月14日)在滬揭曉,來自美國、比利時的兩位科學(xué)家因在凸優(yōu)化理論方面的一系列開創(chuàng)性工作而獲獎,他們將共同分享1000萬元獎金。首屆頂科協(xié)獎“智能科學(xué)或數(shù)學(xué)獎”得主邁克爾·I·喬丹代表遴選委員會對兩位科學(xué)家的貢獻作了介紹。他表示,作為優(yōu)化理論領(lǐng)域的領(lǐng)軍人物,兩位獲獎?wù)叩难芯恳l(fā)了一場算法革命,使優(yōu)化算法得以應(yīng)用于現(xiàn)代應(yīng)用中的大規(guī)模問題,并推動了新計算平臺的發(fā)展。
他們建立的優(yōu)化復(fù)雜性理論和一系列加速算法,加深了我們對優(yōu)化的可能性和“最優(yōu)優(yōu)化方式”的理解。優(yōu)化理論是過去30年來對數(shù)學(xué)以外的領(lǐng)域產(chǎn)生最重大影響的學(xué)科,已在控制系統(tǒng)、經(jīng)濟學(xué)、信號處理、機器學(xué)習(xí)、資源分配、能源管理、供應(yīng)鏈和金融等領(lǐng)域得到廣泛應(yīng)用,為這些領(lǐng)域所需的實用算法設(shè)計和實際應(yīng)用等提供了概念基礎(chǔ)和原理依據(jù)。
獲獎?wù)甙柨ǖ稀つ琢_夫斯基、美國佐治亞理工學(xué)院工業(yè)與系統(tǒng)工程學(xué)院講席教授尤里·涅斯捷羅夫、比利時法語魯汶大學(xué)運籌學(xué)與計量經(jīng)濟學(xué)研究中心、數(shù)學(xué)工程系名譽教授、高級科學(xué)研究員獲獎
理由“表彰他們在凸優(yōu)化理論方面的一系列開創(chuàng)性工作,包括自協(xié)調(diào)函數(shù)和內(nèi)點法的理論、優(yōu)化的復(fù)雜性理論、加速梯度算法設(shè)計以及在魯棒優(yōu)化方面的方法論進展等。”獎項解讀邁克爾·I·喬丹(頂科協(xié)獎首屆智能科學(xué)或數(shù)學(xué)獎得主)優(yōu)化理論是過去30年來對數(shù)學(xué)以外的領(lǐng)域產(chǎn)生最重大影響的學(xué)科,已在控制系統(tǒng)、經(jīng)濟學(xué)、信號處理、機器學(xué)習(xí)、資源分配、能源管理、供應(yīng)鏈和金融等領(lǐng)域得到廣泛應(yīng)用,為上述眾多領(lǐng)域所需的實用算法設(shè)計和實際應(yīng)用等提供了概念基礎(chǔ)和原理依據(jù)。
在這個成果不斷涌現(xiàn)的時代,阿爾卡迪·涅米羅夫斯基博士與尤里·涅斯捷羅夫博士一直是優(yōu)化理論領(lǐng)域的領(lǐng)軍人物。他們的研究引發(fā)了“一階算法革命”。自此,優(yōu)化算法得以應(yīng)用于現(xiàn)代應(yīng)用中的大規(guī)模問題,并推動了新計算平臺的發(fā)展,以支持這些算法。他們建立的優(yōu)化復(fù)雜性理論和一系列加速算法,加深了我們對優(yōu)化的可能性和“最優(yōu)優(yōu)化方式”的理解。他們在魯棒優(yōu)化和隨機優(yōu)化方法上的貢獻對于控制理論和統(tǒng)計學(xué)等領(lǐng)域至關(guān)重要。阿爾卡迪·涅米羅夫斯基博士與尤里·涅斯捷羅夫博士在職業(yè)早期發(fā)展了內(nèi)點法理論,這是一項堪稱里程碑的工作。
他們的理論提出了一個被稱為自協(xié)調(diào)性的基本屬性,因而擴展了內(nèi)點法的應(yīng)用范圍和使之高效。這一概念進展是巨大的:他們展示了如何將數(shù)百個具有復(fù)雜證明和彼此間無關(guān)聯(lián)的復(fù)雜算法描述成一個簡單而優(yōu)雅的統(tǒng)一框架。此外,他們能夠毫不費力地將許多先前已知的內(nèi)點方法擴展到覆蓋比傳統(tǒng)線性規(guī)劃和二次規(guī)劃更廣泛的問題集。在他們的工作之前,人們普遍認為內(nèi)點算法的高效性可能依賴于線性規(guī)劃或二次規(guī)劃這類特殊問題的某些特性。但是阿爾卡迪·涅米羅夫斯基博士與尤里·涅斯捷羅夫博士發(fā)展的算法框架和分析非常清楚地表明了內(nèi)點法的擴展應(yīng)用范疇,包括擴展的邊界和內(nèi)容。
一個特別重要的擴展被稱為半定規(guī)劃。 它已經(jīng)廣泛用于計算機科學(xué)中,作為解決離散和困難組合問題的松弛方法。阿爾卡迪·涅米羅夫斯基博士(與Yudin的合作研究)發(fā)展了基于信息的優(yōu)化復(fù)雜性理論,也為優(yōu)化學(xué)和理論計算機科學(xué)架構(gòu)了額外的重要聯(lián)系。 該理論結(jié)果為基于某些原理設(shè)計的任意算法在求解一類特定的優(yōu)化問題時的復(fù)雜度提供下界,其早期是應(yīng)用是基于梯度設(shè)計的算法求解光滑的凸優(yōu)化問題。阿爾卡迪·涅米羅夫斯基博士的理論表明有比最速下降算法收斂速率更快的算法,而最速下降算法在過去被視為是求解優(yōu)化問題最有效的梯度法。尤里·涅斯捷羅夫博士通過設(shè)計一系列加速梯度算法解決了這個難題,不僅證明了這些算法加快了最速下降算法的收斂速度,還證明了這些算法達到了阿爾卡迪·涅米羅夫斯基博士最優(yōu)法的復(fù)雜度下界。這一系列的研究工作極具洞察力和富有成效,為解決各類問題提供了一系列基準速率和實現(xiàn)這些速率的優(yōu)化算法。
>>>人物小傳阿爾卡迪·涅米羅夫斯基
出生于俄羅斯莫斯科,曾就讀于莫斯科國立大學(xué)機械與數(shù)學(xué)學(xué)院數(shù)學(xué)專業(yè)。他的研究興趣集中在優(yōu)化理論和算法,重點研究領(lǐng)域包括研究復(fù)雜性理論、開發(fā)非線性凸規(guī)劃的高效算法、不確定性優(yōu)化、凸優(yōu)化的工程應(yīng)用以及非參數(shù)統(tǒng)計。在他 50 多年的職業(yè)生涯中,與他人合作撰寫了 6 本研究專著和 150 多篇與以上課題相關(guān)的期刊論文。涅米羅夫斯基教授在連續(xù)優(yōu)化方面的貢獻包括:建立了各類凸規(guī)劃的基于信息的復(fù)雜性理論,并開發(fā)了橢球算法(與戴維·B·尤丁 David B. Yudin 合著);為確定性和隨機性凸優(yōu)化開發(fā)了鏡像下降算法;創(chuàng)建了凸規(guī)劃的一個多項式時間算法,即內(nèi)點法理論(與尤里·涅斯捷羅夫 Yurii Nesterov 合著);研究了魯棒優(yōu)化(與阿哈隆·本-塔爾 Aharon Ben-Tal 合著)和非參數(shù)統(tǒng)計。在過去十年中,他與阿納托利·尤季茨基共同開展的研究側(cè)重于在統(tǒng)計推論的設(shè)計和分析中使用凸分析。
教育經(jīng)歷1970 年,蘇聯(lián)莫斯科國立大學(xué)數(shù)學(xué)碩士1974 年,蘇聯(lián)莫斯科國立大學(xué)數(shù)學(xué)博士1990 年,蘇聯(lián)部長會議最高學(xué)位評定委員會數(shù)學(xué)全博士 (正博士)工作經(jīng)歷1973-1987 年,莫斯科自動設(shè)備研究所研究員1987-1993 年,蘇聯(lián)/俄羅斯科學(xué)院中央經(jīng)濟數(shù)學(xué)研究所研究員1993-2006 年,以色列理工學(xué)院(Technion)工業(yè)工程與管理學(xué)院講席教授2005 年至今,美國佐治亞理工學(xué)院工業(yè)與系統(tǒng)工程學(xué)院講席教授主要獎項與榮譽1982 年,德爾波特·雷·富爾克森獎,與列昂尼德·哈奇揚(Leonid Khachiyan)、戴維·B·尤丁(David B. Yudin)共同獲獎(國際數(shù)學(xué)優(yōu)化學(xué)會 MOS、美國數(shù)學(xué)學(xué)會 AMS)1991 年,喬治·B·丹齊格獎,馬丁·格羅舍爾(Martin Gr?tschel)共同獲獎(國際數(shù)學(xué)優(yōu)化學(xué)會 MOS、國際工業(yè)與應(yīng)用數(shù)學(xué)協(xié)會 SIAM)2003 年,約翰·馮·諾依曼理論獎,與邁克爾·J·托德(Michael J. Todd)共同獲獎(運籌學(xué)和管理學(xué)研究協(xié)會 INFORMS)2017 年,美國國家工程院院士2018 年,美國人文與科學(xué)院院士(注:American Academy of Arts and Sciences又譯為“美國藝術(shù)與科學(xué)院”)2019 年,諾伯特·維納應(yīng)用數(shù)學(xué)獎(美國數(shù)學(xué)學(xué)會 AMS、國際工業(yè)與應(yīng)用數(shù)學(xué)協(xié)會 SIAM)2020 年,美國國家科學(xué)院院士尤里·涅斯捷羅夫尤里·涅斯捷羅夫教授四十年來一直是凸優(yōu)化領(lǐng)域的全球領(lǐng)軍人物。他的首批重要成果與快速梯度法(FGM)有關(guān),這些成果如今越來越重要,在機器學(xué)習(xí)和人工智能領(lǐng)域得到越來越多的應(yīng)用。其后,他與阿爾卡迪·涅米羅夫斯基(Arkadi Nemirovski)教授合作,在凸優(yōu)化的多項式時間算法的內(nèi)點法理論方面獲得了根本性的突破。根據(jù)這一理論,任何凸優(yōu)化問題都可以用二階方法在多項式時間內(nèi)求解,并為其可行域賦予一個自協(xié)調(diào)障礙。通過對初始問題的重置,可以得到一個好的自協(xié)調(diào)障礙。這是結(jié)構(gòu)優(yōu)化的第一個例子,成功與標(biāo)準的黑箱優(yōu)化相媲美。該理論被擴展到二階錐優(yōu)化上,以支持最有效的方法來解決線性矩陣不等式,線性矩陣不等式是現(xiàn)代控制理論的主要工具。涅斯捷羅夫教授的進一步突破與光滑技術(shù)有關(guān)。其研究表明,它基于可用光滑函數(shù)逼近不可微凸函數(shù),并用快速梯度法極小化新目標(biāo)。通過快速梯度法(FGM)最小化可微凸函數(shù),可以獲得一種算法,超過黑盒算法復(fù)雜度下限幾個數(shù)量級。近年來,涅斯捷羅夫教授正在研究高階方法的高效版本。三次正則化牛頓法(New Cubic Regularization of Newton Method)成為第一個可推導(dǎo)復(fù)雜度下界,并研究最優(yōu)的二階算法。而增強泰勒多項式凸性的重要結(jié)果,為發(fā)展具有收斂速度更快的高階張量方法鋪平了道路。目前,一些正在實施的三階方法已成為優(yōu)化領(lǐng)域最高效的方法。教育經(jīng)歷1977 年,蘇聯(lián)莫斯科國立大學(xué)應(yīng)用數(shù)學(xué)碩士1984 年,蘇聯(lián)控制科學(xué)研究所應(yīng)用數(shù)學(xué)博士2014 年,俄羅斯莫斯科物理技術(shù)學(xué)院應(yīng)用數(shù)學(xué)全博士(正博士)工作經(jīng)歷1977-2000 年,俄羅斯科學(xué)院中央經(jīng)濟數(shù)學(xué)研究所初/高級研究員1992-1993 年,瑞士日內(nèi)瓦大學(xué)客座教授1993-2000 年,比利時法語魯汶大學(xué)運籌學(xué)與計量經(jīng)濟學(xué)中心(CORE)客座教授2000 年至今,比利時法語魯汶大學(xué)數(shù)學(xué)工程系(INMA)、運籌學(xué)與計量經(jīng)濟學(xué)研究中心(CORE)教授、正教授、名譽教授及高級科學(xué)研究員主要獎項與榮譽2000 年,喬治·B·丹齊格獎(國際數(shù)學(xué)優(yōu)化學(xué)會 MOS、國際工業(yè)與應(yīng)用數(shù)學(xué)協(xié)會 SIAM)2009 年,約翰·馮·諾依曼理論獎(運籌學(xué)和管理學(xué)研究協(xié)會 INFORMS)2009 年,查爾斯·布羅伊登獎(《優(yōu)化方法和軟件》期刊最佳論文)2014 年,國際工業(yè)與應(yīng)用數(shù)學(xué)協(xié)會(SIAM)杰出論文獎2016 年,歐洲運籌學(xué)協(xié)會(EURO)金獎2018-2023 年,歐洲研究理事會(ERC)高級研究基金2021 年,歐洲科學(xué)院院士2022 年,美國國家科學(xué)院院士2022 年,弗雷德里克·W·蘭徹斯特獎(運籌學(xué)和管理學(xué)研究協(xié)會 INFORMS)作者:許琦敏圖片:WLF提供責(zé)任編輯:任荃*文匯獨家稿件,轉(zhuǎn)載請注明出處。
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。