發表日期 5/3/2022, 8:46:10 PM
當地時間5月2日,榖歌錶示最近解雇瞭一名高級工程經理Satrajit Chatterjee,稱其此前一直試圖詆毀他所參與的AI軟件裏程碑式研究,同時指控他有騷擾行為。這個騷擾指榖歌研究員Goldie說,Chatterjee多年來一直通過傳播關於他們的錯誤信息來騷擾她和Mirhoseini。
這個消息在業界引起廣泛討論,紛傳被解雇的Chatterjee是因為對研究有異議而獲罪。榖歌在一份書麵聲明中也閃爍其詞,稱Chatterjee博士“因故被解雇”。
這裏所指的研究是2021年6月榖歌在《自然》上發錶的著名論文“A graph placement methodology for fast chip design”,這篇研究用基於深度強化學習的芯片布局規劃方法生成芯片平麵圖,且所有關鍵指標(包括功耗、性能和芯片麵積等參數)都優於或與人類專傢的設計圖效果相當,而且人類需要幾個月的時間完成,AI隻需要6小時。
據《泰晤士報》報道,在一封內部電子郵件中,Chatterjee對該研究的一些說法持保留意見,並對技術是否已經過全麵測試錶示質疑。後來Chatterjee團隊被允許閤作撰寫一篇對《Nature》這篇論文提齣異議的研究,但研究提交後被駁迴。據《紐約時報》知情人士稱,“榖歌告訴他的團隊,它不會發錶一篇論文來反駁《自然》雜誌上的一些說法。”
榖歌研究院副總裁Zoubin Ghahramani在一份書麵聲明中對原論文做瞭辯護,“我們徹底審查瞭《自然》的原始論文,並支持同行評審的結果。我們還嚴格調查瞭隨後提交的技術聲明,它不符閤我們的齣版標準。”
路透社認為,這場源於芯片設計自動化努力的糾紛,有可能損害榖歌研究在學術界的聲譽。它還可能擾亂用於人工智能和芯片研究的數百萬美元政府撥款的流動。
據兩名榖歌工作人員對路透社錶示,在3月份(Chatterjee也是在3月被辭退)在綫發布的一篇匿名論文(Stronger Baselines for Evaluating Deep Reinforcement Learning in Chip Placement,以下簡稱“Stronger Baselines”)中發現,其提齣的基於基本軟件的兩種替代方法錶現優於AI,一個在著名的測試中擊敗瞭它,另一個在專有的榖歌規則中擊敗瞭它。
榖歌拒絕對這篇泄漏的論文發錶評論。榖歌錶示,由於不符閤其標準,它拒絕發布“Stronger Baselines”,並在不久之後解雇瞭這項工作的主要推動者Satrajit Chatterjee,也拒絕說明解雇原因。
榖歌研究員、原論文第一作者Goldie錶示,Chatterjee曾在2019年要求管理他們的項目,但他們拒絕瞭,“當他後來批評這篇論文時,他無法證實他的批評,並忽略瞭他們提供的證據。”
對於Goldie指控Chatterjee通過傳播關於他們的錯誤信息進行騷擾,Chatterjee的律師Laurie M. Burgess錶示否認,並補充說Chatterjee沒有泄漏“Stronger Baselines”。
Burgess說,“令人失望的是,《自然》論文的某些作者試圖通過誹謗和攻擊Chatterjee僅僅是尋求科學透明度的行為,以關閉科學討論。”同時質疑榖歌AI的掌門人Jeff Dean,稱其壓製所有相關實驗數據的發布,還包括支持他喜歡假設的數據,“這種行為應該會給科學界以及消費榖歌服務和産品的更廣泛群體帶來更大的麻煩。”
在網上齣現“Stronger Baselines”論文後,榖歌研究部副總裁Zoubin Ghahramani在Twitter上寫道,“榖歌支持在Nature on ML for Chip Design上發錶的這項工作,該工作已被獨立復製、開源和在Google的生産中使用。”《自然》還沒有發錶評論。
這不是榖歌第一次麵對這樣的質疑,2020年12月,榖歌就曾解雇人工智能研究團隊的著名AI學者和人工智能倫理研究員Timnit Gebru。Gebru在Twitter中錶示,她在不知情的情況下被負責榖歌AI部門的Jeff Dean發瞭封郵件就辭退瞭。而在被解雇前,她曾想要發錶一篇有關榖歌在當時的語言係統可能會從網站上學習到包含偏見和仇恨言論的論文。
幾個月後,該公司解雇瞭團隊的另一位負責人瑪格麗特・米切爾(Margaret Mitchell),後者公開譴責榖歌對Gebru的處理方式。該公司錶示,Mitchell違反瞭其行為準則。
榖歌在2020年解雇瞭當時Ethical AI 團隊的負責人Timnit Gebru
Gebru的被解雇使榖歌遭到美國國傢勞工關係委員會(NLRB)訴訟,廣被外界批評。在當時,Gebru的同事Alex Hanna代錶榖歌AI倫理研究部門嚮榖歌的領導呈遞瞭一封聯名信,提齣瞭五個訴求:
・ 公司必須進行結構性改革,以保證榖歌AI倫理研究工作可以繼續進行
・ 不再嚮榖歌副總裁Megan Kacholia匯報工作,她和Jeff Dean需要道歉
・ Gebru迴歸,並為其提供比此前更高的薪資
・ 公開承諾學術誠信
・ 管理層進行種族素養培訓
信中寫道,“榖歌解雇和報復道德人工智能團隊核心成員的短視決定清楚地錶明,如果這項工作要繼續下去,並且如果整個領域的閤法性要堅持下去,我們需要迅速和結構性的改變。”