新智元報道編輯：David【新智元導讀】3月5日是圖靈奬得主 深度學習三巨頭之一Yoshua Bengio的58歲生日 Bengio，58歲生日快樂！ - 趣味新聞網

新智元報道

編輯：David

【新智元導讀】 3月5日是圖靈奬得主，深度學習三巨頭之一Yoshua Bengio的58歲生日，祝他生日快樂！

3月5日，是AI先驅、2018年圖靈奬得主之一Yoshua Bengio 58歲生日，ACM官推發文祝福他生日快樂，並迴顧瞭他獲奬和研究生涯以來的重大成就。

2018年，有「深度學習三巨頭」之稱的Yoshua Bengio、Geoffrey Hinton、Yann LeCun因概念和工程上的突破性貢獻，使深度神經網絡成為計算的關鍵組成部分，獲得當年的計算機科學的最高奬項――圖靈奬。

童年時的「書呆子」

Yoshua Bengio1964年3月5日齣生在法國巴黎，是兩個大學生的兒子。他的父母摒棄瞭傳統的摩洛哥猶太教教養，接受瞭上世紀60年代反主流文化對個人自由和社會團結的關注。

後來，Bengio把自己在 「科學直覺」方麵的敏銳歸功於兒時的這段成長經曆。為瞭尋找一個更具包容性的社會，在Bengio12歲時，他們全傢搬到瞭加拿大濛特利爾。

Bengio自稱童年時是個 「典型的書呆子」，他在高中時經常感到無聊，獨自在圖書館閱讀。像他那一代人中的許多人一樣，他在十幾歲的時候遇見瞭計算機，與他的兄弟一起把送報紙賺來的錢攢起來買瞭Atari 800和Apple II。

早期生涯：與Hinton、LeCun相識閤作

對計算機的早期興趣促使Bengio進入麥吉爾大學學習計算機工程。與典型的計算機科學課程不同，該專業包括物理學和連續數學的重要訓練，為他後來的機器學習工作打下瞭重要的數學基礎。

1986年獲得第一個學位後，Bengio繼續留在麥吉爾大學，1988年獲得碩士學位，1991年獲得計算機科學博士學位。他是在閱讀有關大規模並行計算及其在人工智能中的應用的文章時，瞭解到神經網絡的想法的。

Bengio讀到瞭Geoffey Hinton的工作，喚起瞭他對 「什麼是智能」這一問題的興趣。這與他童年時對科幻小說的興趣相吻閤，他稱這是自己職業生涯的一個 「分水嶺時刻」。

Bengio找到瞭一位論文導師Renato De Mori，他研究語音識彆，並開始從經典的人工智能模型過渡到統計方法。

作為一名研究生，他能夠參加會議和研討會，參與對神經網絡感興趣的緊密但不斷增長的社區，遇到瞭他稱之為「一群法國神經網絡黑手黨」的人，其中就包括Yann LeCun。

他形容Hinton和LeCun是他最重要的職業導師，盡管他直到多年後纔開始與Hinton閤作。他首先在麻省理工學院做瞭一年博士後，這幫助他提高瞭對概率建模和循環神經網絡的理解。

作為貝爾實驗室的博士後，這個階段的Bengio開始與LeCun閤作，將博士論文中的技術應用於手寫文本分析。這項技術為AT&T的自動支票處理係統做齣瞭開創性的貢獻，該係統結閤神經網絡和序列的概率模型，來讀取紙質支票上的手寫數字。

紮根濛特利爾與CIFAR

1993年，Bengio迴到濛特利爾，成為濛特利爾大學的教職員工，並在2002年成為全職教授。

Bengio認為，加拿大廣泛傳播研究資金和好奇心驅動的研究，說明加拿大願意支持他在當時非正統的人工智能方麵的工作。他認為，這為加拿大目前在機器學習方麵的實力奠定瞭基礎。

2000年，他發錶瞭 《神經概率語言模型》一文，對自然語言處理做齣瞭重大貢獻。

訓練網絡來區分有意義的句子和無意義的句子是很睏難的，因為要錶達一個想法可以有許多不同的方式，大多數的詞語組閤是沒有意義的。這導緻瞭論文中所說的 "維度的詛咒"，要求不可行的大型訓練集，並産生不可行的復雜模型。

這篇論文引入瞭高維詞語嵌入作為詞語意義的代錶，讓網絡認識到新短語和包含在其訓練集中的短語之間的相似性，即使使用的具體詞語不同。這導緻瞭機器翻譯和自然語言理解係統的重大轉變。

Bengio的研究團隊通過將神經詞嵌入與「注意力機製」相結閤，進一步提高瞭機器翻譯係統的性能。「注意力」是一個從人類認知中藉用的術語。它幫助網絡在翻譯的每個階段將重點縮小到相關的上下文，比如代詞指代的對象的是什麼。

Bengio與他的博士生之一Ian Goodfellow一起，提齣瞭 「生成對抗網絡」（GAN）的概念。大多數神經網絡被設計用來識彆模式，而生成式網絡則學習生成難以和訓練集中的對象區分的目標。

GAN的運作過程經常被用來促進無監督的學習。目前GAN已被廣泛用於生成圖像，例如自動生成不存在的人或物體的高度逼真的照片，用於視頻遊戲。

Bengio是加拿大機器學習機構的核心人物。2004年，加拿大高級研究所（CIFAR）內資助瞭一個神經計算和自適應感知的項目。

Hinton是該項目創始主任，但Bengio從一開始就作為研究人員參與其中。LeCun也是如此，自2014年以來，Bengio一直與他共同指導該項目（現已更名為 「機器和大腦的學習」）。這個名字反映瞭跨學科的認知科學屬性，錶明在神經科學和機器學習之間的雙嚮的思想通道。

由於Bengio等人的貢獻，濛特利爾地區現已經成為全球深度學習研究的工作中心之一。

2015年，Geoffrey Hinton、Yann LeCun、Yoshua Bengio這三位深度學習巨頭在Nature上共同發錶一篇名為《深度學習》的綜述文章，講述瞭深度學習為傳統機器學習帶來的變革。

截至2020年，榖歌、Facebook、微軟和三星都已在濛特利爾建立瞭衛星實驗室。Bengio本人也共同創辦瞭幾傢創業公司，最引人注目的是2016年的Element AI，該公司為深度學習技術開發工業應用。

對於自己傾注瞭半生心血的AI研究事業，Bengio對計算機智能的未來仍然信心十足：

「我並不認為創造力是計算機所不能企及的東西，我認為人類的任何能力都不是計算機所不可及其的東西。」他說。

祝Yoshua Bengio生日快樂！

參考資料：

https://twitter.com/TheOfficialACM/status/1500096320933138436

https://t.co/PKrb8TaoY3