中國網(wǎng)/中國發(fā)展門戶網(wǎng)訊 在全球迎來前所未有之大變局的時代背景之下， ChatGPT在2022年底一經(jīng)推出便掀起新一輪人工智能（AI）浪潮。以?ChatGPT?為代表的大模型技術(shù)影響空前深遠(yuǎn)，正推動?AI技術(shù)從特定應(yīng)用和游戲等領(lǐng)域進(jìn)入人們?nèi)粘Ｉ睿蔀榍星袑崒嵉纳a(chǎn)力工具，人類社會的智能化革命已經(jīng)拉開帷幕。

圖靈獎得主?Jim Gary?認(rèn)為科學(xué)研究經(jīng)歷了經(jīng)驗范式、理論范式、計算范式、數(shù)據(jù)驅(qū)動范式等?4種范式。當(dāng)前，許多科學(xué)家認(rèn)為科學(xué)研究正在迎來新的范式，即第五范式。第五范式以虛實交互、平行驅(qū)動的?AI技術(shù)為核心，以智聯(lián)網(wǎng)和區(qū)塊鏈構(gòu)建基礎(chǔ)，考慮人的價值和知識的融入。在產(chǎn)業(yè)方面，第五范式也稱為工業(yè)?5.0。而?AI?驅(qū)動的科學(xué)研究（AI for Science，AI4S），更是新范式在基礎(chǔ)科研的深度體現(xiàn)。

近期，科學(xué)技術(shù)部會同國家自然科學(xué)基金委員會啟動“人工智能驅(qū)動的科學(xué)研究”（AI for Science）專項部署。本文通過概述?AI4S?發(fā)展現(xiàn)狀、分析典型?AI?應(yīng)用范例，進(jìn)一步探討?AI4S范式創(chuàng)新之路。

AI4S發(fā)展現(xiàn)狀簡述 

近幾年來，在深度學(xué)習(xí)等?AI?技術(shù)的推動下，AI4S?在數(shù)學(xué)、物理學(xué)、生物醫(yī)學(xué)、材料科學(xué)等領(lǐng)域取得了許多令人矚目的成績。

數(shù)學(xué)領(lǐng)域。2017?年以來，科學(xué)家嘗試使用機(jī)器學(xué)習(xí)、ResNet、seq2seq?模型等技術(shù)求解偏微分方程，獲得了更快更準(zhǔn)的結(jié)果。2021?年，DeepMind開發(fā)了啟發(fā)數(shù)學(xué)家直覺靈感的機(jī)器學(xué)習(xí)框架，幫助數(shù)學(xué)家和?AI?研究人員在?Knots?理論方面發(fā)現(xiàn)新定理，證明了已提出?40?年之久的?Kazhdan-Lusztig?多項式。2022?年?10?月，同樣是?DeepMind?在?Nature?發(fā)文，推出在?AlphaZero（前身是著名的?AlphaGo）基礎(chǔ)上開發(fā)的AlphaTensor，并通過強(qiáng)化學(xué)習(xí)找到了矩陣相乘的最快算法。DeepMind?的系列工作，為?AI?驅(qū)動的數(shù)學(xué)研究（AI for Math）提供了可供參考的新范式。

物理領(lǐng)域。AI?方法除了用于實驗數(shù)據(jù)處理和分析之外，還幫助科學(xué)家設(shè)計實驗、優(yōu)化參數(shù)。20世紀(jì)?90?年代，高能與核物理學(xué)界就使用神經(jīng)網(wǎng)絡(luò)和符號?AI?輔助研究。2014?年，人工神經(jīng)網(wǎng)絡(luò)贏得了?ATLAS?實驗中識別希格斯玻色子的挑戰(zhàn)。2015?年，歐洲核子研究組織?CERN?成立了機(jī)器學(xué)習(xí)工作組來處理大型強(qiáng)子對撞機(jī)（LHC）產(chǎn)生的海量數(shù)據(jù)。2022?年2?月，DeepMind?在?Nature?上發(fā)表了其工作：通過深度強(qiáng)化學(xué)習(xí)對托卡馬克等離子體進(jìn)行磁控。2022?年?8?月，物理學(xué)家使用人工神經(jīng)網(wǎng)絡(luò)找到了質(zhì)子中存在隱性內(nèi)含粲夸克（intrinsic charm quarks）的證據(jù)，這一發(fā)現(xiàn)可能會改寫量子色動力學(xué)的教科書。 

生物醫(yī)學(xué)領(lǐng)域。AlphaFold?是?AI4S?領(lǐng)域最成功的代表。從?2016?年開始，DeepMind?構(gòu)建?AI?系統(tǒng)來挑戰(zhàn)蛋白質(zhì)三維結(jié)構(gòu)預(yù)測任務(wù)。AlphaFold?將預(yù)測誤差縮小到原子尺度，而計算時間從數(shù)年縮減到數(shù)分鐘，顯著提升了效率。DeepMind?宣布其?2?億個蛋白質(zhì)結(jié)構(gòu)預(yù)測向世界各地的科學(xué)家提供開放訪問，這對加速藥物研究具有重大意義。除?AlphaFold?外，華盛頓大學(xué)開發(fā)的?RoseTTAFold、中國科學(xué)技術(shù)大學(xué)研發(fā)的?SCUBA等模型，也在該領(lǐng)域不斷突破。

材料科學(xué)領(lǐng)域。2011?年，美國提出“材料基因組計劃”（MGI），旨在解碼材料的不同組成成分和性能的對應(yīng)關(guān)系，借助高通量計算、大數(shù)據(jù)、AI等技術(shù)，有效縮短了材料研發(fā)周期、降低了研發(fā)成本。2016?年?Nature?發(fā)布了美國哈弗福德學(xué)院和普渡大學(xué)的研究成果，科研人員利用機(jī)器學(xué)習(xí)算法，用“失敗”的實驗數(shù)據(jù)預(yù)測了新材料合成，這啟示機(jī)器學(xué)習(xí)等?AI?技術(shù)成為材料科學(xué)的重要研究方式。

正如我們所見，AI?在科學(xué)研究中的角色隨著深度學(xué)習(xí)的繁榮而發(fā)生了變化。早期，AI?方法只是作為輔助工具，幫助分析實驗數(shù)據(jù)。如今，AI?方法已成為更復(fù)雜任務(wù)（如定理證明、結(jié)構(gòu)設(shè)計和知識發(fā)現(xiàn)）實現(xiàn)過程中的關(guān)鍵技術(shù)。AI?還在不斷拓展學(xué)科領(lǐng)域，“人工智能驅(qū)動的科學(xué)研究”專項部署重點面向數(shù)學(xué)、物理學(xué)、化學(xué)、天文學(xué)等基礎(chǔ)學(xué)科，必將為這些學(xué)科快速發(fā)展帶來新契機(jī)。 

熱點背后的AI范式分析

在算法、數(shù)據(jù)、算力三大引擎的驅(qū)動下，深度學(xué)習(xí)時代下的?AI?研究進(jìn)展迅速，AlphaGo、AlphaFold、ChatGPT?等成為?AI?發(fā)展歷史上一座座里程碑。分析這些案例特點，總結(jié)成功經(jīng)驗，對于?AI?后續(xù)的創(chuàng)新和應(yīng)用具有十分重要的啟發(fā)意義。

AlphaFold?研究范式

DeepMind?推出的?AlphaFold?系列是?AI4S?的最成功的代表之一，尤其是第二代?AlphaFold2?在?2020?年全球蛋白質(zhì)結(jié)構(gòu)預(yù)測比賽（CASP14）中拔得頭籌，蛋白質(zhì)三維結(jié)構(gòu)預(yù)測準(zhǔn)確性接近實驗結(jié)果。AlphaFold2?的目標(biāo)是根據(jù)輸入的一維氨基酸序列預(yù)測蛋白質(zhì)的三維結(jié)構(gòu)，其成功可以歸因于領(lǐng)域知識與深度學(xué)習(xí)前沿技術(shù)的融合。

從深度學(xué)習(xí)的角度來看，AphaFold?2?有?3?個亮點。① AlphaFold?2?淘汰了第一代所采用的卷積神經(jīng)網(wǎng)絡(luò)（CNN）特征提取結(jié)構(gòu)，替換為基于注意力機(jī)制的性能更強(qiáng)的Evoformer。② AlphaFold?2?不是簡單的單向處理流程，而是采用了循環(huán)迭代優(yōu)化。③ AlphaFold?2?同時使用帶標(biāo)簽和未帶標(biāo)簽的數(shù)據(jù)進(jìn)行網(wǎng)絡(luò)訓(xùn)練，并融入含噪自蒸餾處理。整體來看，AlphaFold?2?是一個包含多種算法和學(xué)習(xí)策略的系統(tǒng)化方法。

從知識融合的角度來看，相對于神經(jīng)網(wǎng)絡(luò)模型層面的創(chuàng)新，多元知識的表示和融合在?AphaFold?2?中扮演著更為關(guān)鍵的角色。①蛋白質(zhì)結(jié)構(gòu)預(yù)測是一個專業(yè)方向，科學(xué)家通過數(shù)十年的研究積累了寶貴的知識和數(shù)據(jù)。ApphaFold?2?使用了?2?種類型的數(shù)據(jù)集：一種是序列數(shù)據(jù)集，如?UniRef?90、BFD、MGnify?等。基于“同一位置的氨基酸在物種間是不變的，2?個不同位置的氨基酸同步變化”這一領(lǐng)域知識，AlphaFold?2?從遺傳序列數(shù)據(jù)庫中搜索并構(gòu)建多序列比對（MSAs），而?MSA?的質(zhì)量決定了 ApphaFold?2?的預(yù)測準(zhǔn)確性；另一種是結(jié)構(gòu)數(shù)據(jù)集，如?PDB?和?PDB70?等。ApphaFold?2?從這些結(jié)構(gòu)數(shù)據(jù)集中搜索并構(gòu)建殘基之間關(guān)系的配對（pair）表示。通過這種方式，一維氨基酸序列通過領(lǐng)域知識和數(shù)據(jù)集進(jìn)行擴(kuò)充，形成?2?個二維關(guān)系表示。② Evoformer?接收?MSA?和?Pair?表示，在行、列?2?個維度進(jìn)行注意力計算，完成?2?種表示的交叉融合。需要注意的是，在配對（pair）表示的注意力計算中引入了幾何知識，即氨基酸之間的距離要滿足三角不等式約束。③在結(jié)構(gòu)預(yù)測模塊中，利用三維空間結(jié)構(gòu)平移和旋轉(zhuǎn)等變的知識，ApphaFold?2?引入了不動點注意力（IPA）計算。根據(jù)?IPA?輸出的殘基相對位移和旋轉(zhuǎn)，AlphaFold?2?進(jìn)一步預(yù)測原子的空間位置。④引入?OpenMM?中的?Amber?力場優(yōu)化工具，以確保輸出的三維結(jié)構(gòu)滿足立體化學(xué)約束。

從對?AphaFold?2?研究范式的分析可以看出，其特點是深度學(xué)習(xí)技術(shù)與各類知識的有機(jī)融合，涵蓋了知識、數(shù)據(jù)、算法、算力這?4?種第三代?AI?的核心要素。因此，圍繞深度學(xué)習(xí)，研究知識獲取、知識表示、知識集成、知識利用，即知識自動化方法，探索“知識-學(xué)習(xí)”協(xié)同組織形式，開發(fā)協(xié)助?AI4S?研究的系統(tǒng)化基礎(chǔ)框架，應(yīng)當(dāng)?shù)玫?AI?界和科學(xué)界的共同重視和大力投入。

ChatGPT?研發(fā)范式

自?2022?年?11?月起，ChatGPT?掀起新一輪?AI?全球浪潮。ChatGPT?因其能夠進(jìn)行多輪對話、承認(rèn)錯誤、反駁錯誤前提和拒絕回答不恰當(dāng)?shù)膯栴}而享有盛譽(yù)。ChatGPT?在回答問題的準(zhǔn)確性和邏輯完整性方面超越了現(xiàn)有的聊天機(jī)器人，在遵守道德、倫理、法律方面也有很好的表現(xiàn)。ChatGPT?是?OpenAI?近年來研發(fā)的一系列?GPT?模型在對話場景的實例，有?3?個技術(shù)特征。

ChatGPT?基于大規(guī)模預(yù)訓(xùn)練語言模型，即著名的?GPT-3?系列（GPT-3.5）。在過去的幾年里，大規(guī)模的預(yù)訓(xùn)練模型發(fā)展迅速。大規(guī)模預(yù)訓(xùn)練模型通過學(xué)習(xí)大量的公開數(shù)據(jù)，將學(xué)習(xí)到的知識存儲在大規(guī)模參數(shù)之中，不斷刷新多個領(lǐng)域中多數(shù)任務(wù)的最高性能紀(jì)錄，是通向通用人工智能的可行路徑。

ChatGPT?使用人類反饋強(qiáng)化學(xué)習(xí)（RLHF）在?GPT-3.5?上進(jìn)行微調(diào)。微調(diào)是包含?2?個數(shù)據(jù)集的過程，共有?3?步：第一步，由?2?個?AI?訓(xùn)練師基于給定采樣提示（prompt）通過對話生成人類演示數(shù)據(jù)集，用于?GPT-3.5?微調(diào)訓(xùn)練，結(jié)果稱為有監(jiān)督微調(diào)模型（SFT）。第二步，通過?AI?培訓(xùn)師和聊天機(jī)器人之間的對話收集比較數(shù)據(jù)集，對?SFT?模型輸出的多個結(jié)果，由?AI?培訓(xùn)師給出從最好到最差的打分排序。之后，用這個排序數(shù)據(jù)集訓(xùn)練強(qiáng)化學(xué)習(xí)的獎勵模型，此過程也是有監(jiān)督的方式。第三步，使用近端策略優(yōu)化（PPO）算法，由獎勵模型生成?reward，通過強(qiáng)化學(xué)習(xí)進(jìn)一步微調(diào)?SFT?模型。第二步和第三步重復(fù)多次，最后得到?PPO?模型，即?ChatGPT。

GPT?模型按照“開發(fā)-部署”的理念迭代完善。將初步開發(fā)完成的模型部署上線，為用戶提供測試服務(wù)，由此收集用戶與模型的交互數(shù)據(jù)作為進(jìn)一步優(yōu)化模型的基礎(chǔ)。開發(fā)（學(xué)習(xí)）和部署（應(yīng)用）形成閉環(huán)，這種迭代優(yōu)化策略在降低語言模型誤用風(fēng)險方面起著至關(guān)重要的作用。

ChatGPT?范式再次展示了預(yù)訓(xùn)練大型模型的強(qiáng)大功能，凸顯了人類在引導(dǎo)大模型遵循人類規(guī)則方面的重要作用。由此可見，針對大模型的微調(diào)、上下文學(xué)習(xí)、指示學(xué)習(xí)、提示學(xué)習(xí)是?AI?的重要研究方向。

探索AI4S研究新范式

AI?本身的研究范式也在不斷轉(zhuǎn)變。自?AI?誕生之初，人們基于幾個基本假設(shè)（如獨立同分布、Markov屬性等），使用初級方法（如?Perceptron等）解決簡單的問題（如簡單的二元分類、回歸等），并由此產(chǎn)生了?3?種基本范式——監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。但面對復(fù)雜問題時，這些基本范式存在局限性。因此，隨著新的算法（BP?算法、分層訓(xùn)練等）和模型（CNN、長短期記憶人工神經(jīng)網(wǎng)絡(luò)?LSTM?等）的出現(xiàn)，AI?逐漸發(fā)展出主動學(xué)習(xí)、遷移學(xué)習(xí)、終身學(xué)習(xí)等新范式。近年來，AlphaGo?和?ChatGPT?等前沿進(jìn)展以其革命性的成就引領(lǐng)了新一輪的范式轉(zhuǎn)變。從范式轉(zhuǎn)變的角度看待人工智能的發(fā)展，對促進(jìn)探索?AI4S?創(chuàng)新應(yīng)用具有重要價值，為此，以下從算法、模型、數(shù)據(jù)、知識、人的角色等方面進(jìn)行分析。

算法

算法是人工智能的基石。典型?AI?新范式中使用的算法不僅限于機(jī)器學(xué)習(xí)，還涉及整個人工智能領(lǐng)域，包括搜索和推理。例如，AlphaGo?的主干是蒙特卡洛樹搜索（MCTS）算法。近年來出現(xiàn)的新算法，例如受熱力學(xué)啟發(fā)的擴(kuò)散模型（Diffusion Model），在AI生成內(nèi)容（AIGC）領(lǐng)域顯示出巨大潛力。由此可以看出，Science for AI?對?AI?算法創(chuàng)新也具有重要意義，應(yīng)得到同?AI4S?一樣的重視。

模型

機(jī)器學(xué)習(xí)模型的創(chuàng)新是推動人工智能發(fā)展的核心要素。尤其是神經(jīng)網(wǎng)絡(luò)新架構(gòu)：從?M-P?模型到?Perceptron，從?LeNet?到?ResNet，從?LSTM?到?Transformer。AlphaGo?以?CNN?為主干網(wǎng)絡(luò)，用于提取棋局特征、輔助走棋決策和棋局評估。AlphaFold?2?用Transformer（EvoFormer）替換?CNN?模型，這是其性能相比第一代有巨大提升的主要原因之一。ChatGPT?建立在基礎(chǔ)模型（GPT-3）之上，充分利用了大規(guī)模預(yù)訓(xùn)練語言模型的力量。利用大模型的規(guī)模效應(yīng)，研究利用?prompt?等方法引導(dǎo)大模型釋放內(nèi)在能力，是?AI4S?重要方向之一。

數(shù)據(jù)

數(shù)據(jù)是深度學(xué)習(xí)的三大核心驅(qū)動力之一，但存在標(biāo)簽數(shù)量少、標(biāo)注成本高、分布不平衡、隱私保護(hù)等問題。主動學(xué)習(xí)、溯因?qū)W習(xí)、對比學(xué)習(xí)、平行學(xué)習(xí)和遷移學(xué)習(xí)等學(xué)習(xí)范式，能夠在一定程度上克服數(shù)據(jù)標(biāo)注的不足；而多任務(wù)學(xué)習(xí)、遷移學(xué)習(xí)、元學(xué)習(xí)和終身學(xué)習(xí)，在一定程度上能克服不同任務(wù)之間存在數(shù)據(jù)不平衡問題；聯(lián)邦學(xué)習(xí)可用來解決數(shù)據(jù)安全和隱私問題。

新范式在數(shù)據(jù)的使用方面有更多亮點，Syn2Real和?Sim2Real?等數(shù)據(jù)生成方法得到越來越多的重視。例如，AlphaGo?首先在人類棋局上訓(xùn)練策略，通過自我對弈產(chǎn)生更多的數(shù)據(jù)來訓(xùn)練更強(qiáng)大的策略網(wǎng)絡(luò)，進(jìn)而產(chǎn)生更多的數(shù)據(jù)來訓(xùn)練強(qiáng)大的價值網(wǎng)絡(luò)。AlphaFold?充分利用遺傳數(shù)據(jù)和結(jié)構(gòu)數(shù)據(jù)，還通過自蒸餾的方式使用未標(biāo)注數(shù)據(jù)來彌補(bǔ)標(biāo)注數(shù)據(jù)的不足。ChatGPT?使用人類的演示數(shù)據(jù)來微調(diào)?GPT-3.5，并通過?prompt?在聊天機(jī)器人和?AI?訓(xùn)練師之間生成更多的數(shù)據(jù)，進(jìn)一步訓(xùn)練獎勵模型將數(shù)據(jù)生成過程自動化。這些范式具有一個共同特征，即它們在缺乏標(biāo)記數(shù)據(jù)時嘗試生成數(shù)據(jù)以提高性能。

知識

AI?基本范式很少顯式引入知識，但在模型設(shè)計（如?CNN）時引入的偏差（bias）也可以看作是先驗知識。中級范式通常有?3?種引入知識的方式：①直接（如主動學(xué)習(xí)）或間接（如課程學(xué)習(xí)）通過學(xué)習(xí)策略的設(shè)計來提高學(xué)習(xí)性能；②使用從先前任務(wù)或其他任務(wù)（數(shù)據(jù)）中學(xué)到的知識來幫助新的學(xué)習(xí)任務(wù)。例如，多任務(wù)學(xué)習(xí)、遷移學(xué)習(xí)、元學(xué)習(xí)、平行學(xué)習(xí)等；③整合上述?2種方法，設(shè)計并維護(hù)一個專門的知識庫來輔助學(xué)習(xí)過程。例如，終身學(xué)習(xí)和溯因?qū)W習(xí)等。

目前，大多數(shù)機(jī)器學(xué)習(xí)范式都采用知識的嵌入表示，以便將知識融合到學(xué)習(xí)過程中；但其中有?2個例外，即終身學(xué)習(xí)和歸納學(xué)習(xí)，它們具有獨立的知識庫。我們還發(fā)現(xiàn)反饋對于學(xué)習(xí)中的知識獲取、整合和自動化至關(guān)重要。高級范式高度依賴知識，例如，AlphaGo?首先利用人類棋手的經(jīng)驗（可看作一種知識）訓(xùn)練策略網(wǎng)絡(luò)，然后利用圍棋規(guī)則（也是一種知識）通過強(qiáng)化學(xué)習(xí)改進(jìn)策略，進(jìn)一步通過自我對弈生成大量棋局。AlphaFold?整合了生物學(xué)家的發(fā)現(xiàn)，以及來自遺傳學(xué)、數(shù)學(xué)和化學(xué)領(lǐng)域的知識，這種高級范式是知識密集型的代表，為?AI4S?的進(jìn)一步研究提供重要參考。ChatGPT?的基礎(chǔ)是大規(guī)模預(yù)訓(xùn)練語言模型（GPT3），可以看作是從海量數(shù)據(jù)中提煉出來的隱性知識庫，而提示工程（prompt engineering）是引導(dǎo)大模型生成內(nèi)容并對齊到人類會話風(fēng)格、倫理和規(guī)范的過程。

運(yùn)用知識的能力很大程度上決定了學(xué)習(xí)能力。然而，將知識整合到機(jī)器學(xué)習(xí)的過程中具有很大挑戰(zhàn)，知識的獲取、表示、集成、利用等環(huán)節(jié)通常需要人類的參與。“人工智能驅(qū)動的科學(xué)研究”專項部署強(qiáng)調(diào)圍繞藥物研發(fā)、基因研究、生物育種、新材料研發(fā)等需求，而知識融入這些專業(yè)性強(qiáng)的?AI4S?領(lǐng)域中尤為突出。為此，將大模型打造為知識工廠，研究服務(wù)于科學(xué)家的知識自動化方法，將是推動高效?AI4S?的重要保障。

人的因素

在深度學(xué)習(xí)之前，依賴于人類的特征工程在?AI?研究中起著決定性的作用。特征工程既費(fèi)時又低效，而深度學(xué)習(xí)解決了這個問題。深度神經(jīng)網(wǎng)絡(luò)能夠自動、準(zhǔn)確、高效地提取特征，由此，端到端學(xué)習(xí)模型越來越受歡迎。然而，在某些應(yīng)用中，人扮演著重要的角色，如提出要求、設(shè)定目標(biāo)、提供知識、實施控制、執(zhí)行評估等。因此，端到端學(xué)習(xí)不是最終目標(biāo)，不能簡單地將人類從機(jī)器學(xué)習(xí)過程中移除。人類在環(huán)（human-in-loop）模式的價值在?ChatGPT?的成功中顯而易見，其中來自人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）發(fā)揮了關(guān)鍵作用。

除以上因素之外，開展?AI4S?研究的組織方式也是不可回避的重要問題。當(dāng)前，國際上多種針對產(chǎn)品開發(fā)的?DAO（分布式開放自主組織）和針對基礎(chǔ)研究的?DeSci（分布式開放科學(xué)運(yùn)動）正蓬勃興起，特色就是利用智能科學(xué)與技術(shù)（IST），基于區(qū)塊鏈和智能合約的數(shù)字組織和數(shù)字治理。ChatGPT?的誕生本質(zhì)上也是得益于這種模式，DeSci?和?DAO?也值得我們關(guān)注。

（作者：王飛躍，中國科學(xué)院自動化研究所；繆青海，中國科學(xué)院大學(xué)人工智能學(xué)院；編審：楊柳春，《中國科學(xué)院院刊》供稿）