楊淨 蕭簫 發自 凹非寺量子位 | 公眾號 QbitAI百度新研究 登上瞭Nature子刊。科技公司捲到學術圈頂刊上不算稀奇。但這次有點不同尋常。研究領域與生物領域直接相關 百度計算生物研究登Nature子刊！結果超斯坦福MIT，落地製藥領域 - 趣味新聞網

楊淨 蕭簫 發自 凹非寺

量子位 | 公眾號 QbitAI

百度新研究，登上瞭Nature子刊。

科技公司捲到學術圈頂刊上不算稀奇。

但這次有點不同尋常。

研究領域與生物領域直接相關，接收該論文的期刊Nature Machine Intelligence（NMI），影響因子達到瞭16.649。

除瞭專業度保障，研究的實驗結果也超越MIT斯坦福。

而且更關鍵的在於，跟後者大部分“産學研”模式不同。

百度是實打實自己獨立搞齣來的――

作者全部來自螺鏇槳PaddleHelix，百度生物計算團隊。

嗯，還是可復現的那種，目前GitHub上已經開源瞭完整代碼（地址可在文末獲取）。

研究人員錶示，相關部分項目已經實現瞭商業化落地。

來看看究竟是一項什麼樣的研究。

小分子3D結構被AI整明白瞭

此次百度聚焦的研究，是小分子化閤物性質預測。

簡單來說，通過小分子結構來預測其性質，幫助藥物研發的早期探索，從而解決該領域成本高、時間長、成功率低等難題。

小分子藥物結構有良好的空間分散性，其化學性質也更有助於成藥，因此相較於大分子藥物（蛋白質、核酸等）在藥物研發上更有優勢。市場上大部分藥物也屬於小分子藥物。

但即便有先天優勢，麵臨的特殊挑戰也不小。

最大的挑戰，莫過於小分子的篩選空間實在是太大瞭。

早前Nature一篇研究錶明，小分子藥物研發篩選數量在10的60次方。

什麼概念呢？作者形容，“比太陽係的原子數量還要多”。

要在這樣一個龐大「小分子宇宙」中尋求閤適的候選藥物，高效準確的化閤物錶徵就起到關鍵作用。

基於這樣的背景下，研究團隊此次的研究提齣瞭幾何增強型的分子錶徵方法，簡稱GEM。

這個方法主要包含兩個部分：基於空間結構的圖神經網絡GNN、以及多個幾何級彆的自監督學習。

不難看齣，本次研究的亮點在於空間、幾何。

據介紹，這是業界首次將空間結構引入到化閤物建模當中。

之所以這樣強調，跟他們要解決的問題不無關係，那就是讓AI也能理解小分子的3D結構。

個中原因，需要從現有錶徵方式說起。

目前研究主要有兩種錶徵方式：基於序列的一維錶徵和基於圖形的錶徵。

一個以字符串作為輸入，利用序列模型比如RNN和Transformer來學習分子錶徵，但存在一些明顯的局限性，比如字符串語法難以理解，兩個相鄰的原子在文本序列上可能相距甚遠；字符串的一個小變化可能導緻分子結構的大變化。

另一個則與今天的研究相關――GNN建模，以圖作為輸入，每個原子是一個節點，每個化學鍵是一個邊。

嗯，就跟化學書那樣式兒的。

但多數研究隻停留分子的二維信息，忽略瞭三維空間結構。

這也不難理解，畢竟要想準確獲得分子的三維結構信息其實並不容易。

要是所選描述三維結構的參數一旦不理想，其性能可能上述兩種錶徵方法更糟，還將麵臨魯棒性不足和預測性能不理想等問題。

但即便如此，三維結構信息卻很關鍵，因為往往決定瞭分子的物理化學性質及生物活性的不同。

最典型的例子，就是高中學的同分異構體。

以二氯乙烯為例，它就有順反式結構，因為幾何結構不同，導緻二者的水溶性不同。

還有像順鉑和反鉑（二氯二氨閤鉑），順鉑是一種流行的抗癌藥物；但反鉑有毒卻沒有抗癌活性。

既然如此，那就來看看這項研究是如何解決的。

首先來看圖神經網絡，本次研究人員提齣瞭一種GeoGNN。每個分子的輸入包含兩個圖，可同時模擬原子、鍵和鍵角的影響。

第一個圖，即二維結構圖，也叫做原子-化學鍵圖，仍以原子為節點，鍵為邊。

第二個圖，化學鍵-鍵角圖，則是以鍵視作節點，鍵角視作邊。

GeoGNN經過多輪迭代學習原子和鍵的錶徵嚮量，為瞭連接兩個圖，化學鍵作為每一輪迭代中圖G和圖H的橋梁進行信息互通。

最後通過匯集原子錶徵得到分子錶徵，用來化閤物性質預測。

為瞭更好的學習分子空間知識，除瞭以幾何信息作為輸入，進一步地，研究團隊設計瞭多項自監督學習任務。

比如，預測化學鍵的長度、化學鍵組成的鍵角、兩兩原子之間的距離。

其中，鍵長和鍵角描述化閤物的局部結構，兩兩原子之間的距離更關注化閤物的全局結構。

局部結構的，就隨機挑選某個原子中心（圖中的N）的子圖進行遮蓋，預測化學鍵的鍵長和之間的鍵角。

全局結構的，則是預測原子距離矩陣中的元素。

預訓練過程中，團隊從一個公開數據集Zinc1522中，抽取2000萬個未標記的分子來訓練GeoGNN。

其中90%的分子用來訓練，其餘分子進行測試。

最終結果顯示，在當前公認化閤物性質預測數據集MoleculeNet21的15個基準數據集中，與現有方法比較，得到瞭14個SOTA結果。

其中，像與毒性相關的數據集tox21、toxcast，以及HIV病毒數據集，GEM的錶現比其他模型要好，比如騰訊的GROVER、斯坦福的PretrainGNN以及MIT的D-MPNN等。

總體而言，百度的GEM模型，在迴歸任務上相對現在方法提升8.8%，在分類任務上相對提升4.7%。

可以看到，在迴歸數據集上的結果比分類數據集上的改進更大。團隊猜測，因為迴歸數據集的重點是預測量子化學和物理化學特性，而這與分子幾何結構高度相關。

進一步地，團隊研究瞭GeoGNN在沒有預訓練的情況下，在迴歸數據集上的錶現有何影響。

結果與現有的GNN架構比較，其中包含常用GNN架構、結閤三維分子幾何的架構以及分子錶徵架構。

與以往最優結果相比，總體改進7.9%。

此外，在自監督學習方法上的消融實驗也證明瞭基於空間結構的自監督學習方法的有效性。

該項目已經在GItHub上開源。

據介紹，除瞭在學術期刊亮相外，研究團隊透露，這項研究在藥物研發領域已經實現商業化落地，在閤作夥伴的早期藥物篩選管綫上得到應用。

未來，這項技術還有更多可預見的應用價值，比如像化閤物成藥性預測、小分子的藥物篩選、藥物聯用等具體場景。

再拓展一點，沒準兒在蛋白質、核酸等領域，也能構建基於大分子的錶徵模型，有助於更多藥物研發。

事實上，百度這次在Nature子刊上的亮相，帶來計算生物領域的新進展。

情理之外，卻是意料之中。

不為大多數人所知道的是，百度在計算生物上的探索，其實早已開啓。

曾在GNN頂賽上超越DeepMind

早在2018年，百度就正式啓動瞭計算生物方嚮的研究。

著名的RNA二級結構開源算法LinearFold，將新冠預測從原來的55分鍾提速至27秒（接近120倍），就是百度的研究成果之一。

2020年12月，百度正式將自己研究的一係列生物計算相關技術進行瞭集成，發布瞭螺鏇槳（PaddleHelix）。

這是一個囊括瞭各種各樣“AI+計算生物”開源工具的生物計算平台，基於百度飛槳框架開發，可以被用於藥物研發、疫苗設計和精準醫療等領域。

而這次的研究，正是來自百度螺鏇槳團隊。

在發錶這項研究之前，螺鏇槳團隊就已經在包括像KDD、NeurIPS、IEEE BIBM等頂會上發錶過不少“AI+生物”的研究成果。

例如，一篇用采用多任務學習訓練ML模型進行藥物虛擬篩選的研究，就於去年年底被生物信息與生物醫學頂會IEEE BIBM 2021接收；

除此之外，包括蛋白質、mRNA也有不少研究成果，例如一篇基於蛋白質序列預測蛋白質間相互作用的多模態預訓練模型就入選MLCB的Spotlight；

關於圖神經網絡預測分子性質的相關模型，則更是在全球性的頂會賽事上取得過數一數二的成績。

例如，去年6月KDD CUP與OGB（Open Graph Benchmark）聯閤舉辦瞭首屆圖神經網絡大賽OGB-LSC，共有包括DeepMind、微軟、螞蟻金服等來自全球的500多個著名高校&機構參與。

其中，OGB是圖神經網絡的通用性能評價基準數據集，素有“圖神經網絡的ImageNet”之稱；KDD CUP則是目前數據挖掘領域水平最高的頂尖國際賽事。

這場比賽一共分為三場，包括大規模節點分類、大規模圖關係預測和化學分子圖性質預測。

在化學分子圖性質預測賽事中，百度螺鏇槳生物計算團隊取得瞭亞軍的成績，冠軍來自MSRA和北大等高校機構聯閤團隊，第三名則是DeepMind。

這還隻是三場GNN比賽中，與生物計算相關的那場。

在同一賽事的另外兩場圖神經網絡比賽，節點分類和圖關係預測中，螺鏇槳生物計算平台背後的百度飛槳框架，又接連取得瞭2個冠軍，同樣超越瞭DeepMind等團隊。

這些模型與研究並非“紙上談兵”，有不少成果都已經被落地。

例如，百度與斯微生物閤作，針對LinearDesign的mRNA疫苗序列設計算法進行瞭生物實驗，證明模型的關鍵指標超齣基準序列20倍，在疫苗研發中確實有更高的實用價值；

隨後百度也與藥企賽諾菲簽訂協議，將LinearDesign用於優化mRNA疫苗的設計研發。

至於更早的研究LinearFold開源算法，則已經被上百傢企業用於疫苗設計研究中。

種種跡象都在錶明，百度進軍生物計算並非一日之談。

恰恰相反，這項發錶在Nature子刊上的研究，正是它在生物計算方麵布局瞭很多年的成果力證。

數據爆炸下的生物科技

百度走的生物科技這條路，其道不孤。

放到整個更大的計算生物領域來看，不止是百度，這幾年的國內外科技公司，包括騰訊、阿裏、英特爾、三星、榖歌母公司Alphabet等，其實都在加大布局。

這也與當前所處的科技生長態勢有關――生物領域的發展，恰好趕上瞭數據爆炸的時代，以及AI對過去研究方式的變革。

從技術應用來看，典型代錶之一就是AI+新藥研發。

數據驅動導嚮的深度學習技術，給傳統的新藥研發帶來瞭大量的潛力。

製藥領域有一個知名的反摩爾定律：每隔9年，投資10億美元産齣的上市新藥就減少一半。更為常見的是，首創藥物（First-in-Class）占獲批新藥總數量不足一半。

相比之下，利用AI則能在包括用ADMET來做性質預測以篩選藥物等在內的步驟中，節省大量的人力和物力，包括輝瑞、阿斯利康等傳統藥企，也開始紛紛增加AI研發投入、或是尋求與AI公司進行閤作。

而AI+新藥研發，還隻是生物科技爆發中的一小部分技術應用。

放大到整個行業來看，科技對生物領域的促進，本身就正在成為不可抵擋的趨勢之一。

此前量子位智庫發布的“2021十大前沿科技趨勢”中，與生物相關的技術突破就占據瞭接近一半：

除瞭利用AI助力新藥研發以外，還有CRISPR基因編輯、侵入式腦機接口的落地應用、利用AI預測蛋白質結構的模型AlphaFold2。

從産業來看，像百度這樣的AI公司重倉研究，反過來又說明瞭AI給生物科技領域帶來的潛力和價值。

2018年開始，百度就研發RNA二級結構預測等算法，到後來李彥宏親自創立百圖生科公司，再到與傳統藥企賽諾菲等閤作進行算法研究落地；

李彥宏也不止一次強調過自己對這一領域的看好：

依靠生物計算引擎，能夠有效利用大量的生物數據，把藥物發現的“大海撈針”變成“按圖索驥”。

不止百度。春江水暖總是技術公司先知。

榖歌母公司Alphabet就在不久前，宣布成立一傢新公司Isomorphic Laboratories，研究如何將AlphaFold2在AI+新藥研發方嚮的能力進行商業化落地。

OpenAI也在嘗試利用AI模型，訓練齣能夠診斷疾病和預測復雜蛋白質結構等能力的復雜係統……

AI+生物科技，正在成為産業界落地趨勢的一種新“共識”。

21世紀是生物的世紀。誠不我欺？

論文鏈接：

https://www.nature.com/articles/s42256-021-00438-4

GitHub鏈接：

https://github.com/PaddlePaddle/PaddleHelix/tree/dev/apps/pretrained_compound/ChemRL/GEM

參考鏈接：

[1]https://moleculenet.org/datasets-1

[2]https://paddlehelix.baidu.com/

[3]https://www.nature.com/articles/549445a

― 完 ―