下一代搜索引擎從根本上會基於不同的價值觀（可控、可信賴），采取不同的商業模式。近十年人工智能技術的發展，使得小公司顛覆搜索巨頭成為可能。
編譯 | 吳昕
來源 | a16z
二十年來，搜索引擎設計或商業模式沒有任何重大創新。
相信很多人早已厭倦充斥廣告、商業泛濫的搜索，但更習慣於「忍忍就過去瞭」的將就。對於收割「羊群」注意力的商業手腕兒，哥倫比亞大學法學院教授 Tim Wu 在《注意力經濟》一書中早已做瞭詳盡描述。 靠著廣告費支撐著各種免費産品，占據數據撒哈拉的搜索巨頭自然希望安於現狀，但 可供指望的「救星」 又屈指可數。至少 5 或 10 年前想要建立一傢搜索引擎公司與榖歌競爭，會非常睏難，而且基本上不可能，因為需要數百人和大量訓練數據。
不過最近幾年，情況有所改變。就巨頭們而言，隨著 各自賴以起傢的核心業務走到巔峰，為瞭支持超高市值，他們開始邁入已知巨大市場，相互踩踏，比如搜索。
微軟必應自然希望多一些市場份額。坐擁龐大電商平台和商傢的亞馬遜為什麼不讓用戶直接從「自己花園」裏開始搜索而一直要做榖歌的大客戶？ 蘋果直接高調挖走榖歌搜索和AI負責人。 Siri基本上就是一個搜索引擎，通過迴答用戶提齣的問題，可以幫蘋果獲得可觀收益。 雖然 大打隱私牌的蘋果似乎不想直接從廣告掙錢，但用戶還是難斷定巨頭們涉足搜索不過是另一輪「圈地運動」、收割流量的代名詞。
在構建根本不同的東西、藉由「創新者的窘境」式遊戲來削弱榖歌搜索的路上，絕大多數創業公司被寄予希望，卻總顯得孤獨寂寞。 但也有例外。 2021年，理查德·索切爾（Richard Socher）創立新公司 you.com， 進軍搜索領域。這是一個無廣告、保護隱私的搜索引擎。
Socher 曾在推特上發問，具有什麼樣功能的搜索引擎會讓你放棄榖歌? KK的迴復是：沒有廣告；付費訂閱。
一直關注人工智能領域的中國讀者一定很熟悉這個名字。索切爾曾於2014 年 創辦瞭 MetaMind ，後被 Salesforce 收購。索切爾的優秀履曆也再添一份精彩：Salesforce 首席科學傢和執行副總裁。
這位曾被世界經濟論壇稱為「人工智能神童之一」的後起之秀，於2014年在斯坦福大學計算機係獲得博士學位，也是組建 ImageNet 團隊成員之一，曾與 Chris Manning、吳恩達一起研究深度學習。不過，他並不眷戀純粹的學術研究，畢業後即創業（成立 MetaMind ）。他認為，擁有工程資源、讓AI真正發揮作用可能更為重要。
自2012年深度學習革命爆發以來，理查德·索切爾就一直在參與其中，從事深度學習和摘要技術（Summarization）的研究。最近十年，人工智能領域發生瞭巨大的變化，特彆是深度學習、無監督、半監督和遷移學習的激增使得像 you.com 這樣的小公司可以與榖歌對抗，而 充滿雜亂廣告鏈接、隱私體驗欠佳的搜 索引擎成為這些重要技術的 最佳應用場景。索切爾認為，摘要技術不僅是信息時代的一項基礎技術，也是注意力經濟的一種解決方案。
現在是啓動新搜索引擎的最佳時機。 他們利用自然語言處理（NLP）來理解理解查詢意圖，對搜索結果進行排名，並將人類語言語義解析為不同 API 的計算機語言。 平台匯總瞭來自網絡的信息，並且可以通過內置的搜索應用程序進行擴展，例如 Yelp 和 Twitter 的應用程序，用戶無需離開結果頁麵即可完成搜索任務。 讓用戶從多個不同角度探索一個主題。
輸入Briney Spears ，you.com的頁麵顯示。
索切爾希望建立一個真正以消費者為中心的搜索工具，該工具不依賴廣告和對用戶的瞭解。這個工具可以幫助你研究、總結網頁信息，獲得一些真正有價值的信息。
對工具可信賴、可控的強調，可能也與他這幾年的工作體驗有關。 他承認，在與 Salesforce CEO Marc Benioff 的閤作中學到不少。比如你可以賺到錢，也仍然可以與購買你産品的人建立信任。有意思的是，無論是當初創辦MetaMind，還是後來創立 you.com ，都可以看到 Marc Benioff 的投資身影。
為瞭重新調整對搜索引擎的期望，You.com 還推齣瞭一款與 OpenAI 閤作構建的搜索應用程序 YouWrite，該應用程序會在齣現提示時生成文本片段——甚至是文檔。 索切爾稱其為「個人 AI 作傢」。
YouWrite 根據提示生成文本
最近，索切爾接受瞭矽榖知名投資機構 a16z 閤夥人、編輯 Derrick Harris 的采訪。這次采訪中，索切爾談論瞭許多話題，包括過去十年中，人工智能初創公司情況發生瞭怎樣的變化；在初創公司、企業和學術界做人工智能的區彆，以及新的機器學習技術（如 Transformer 模型）如何使公司能夠用過去所需資源的一小部分來構建先進的産品。其對下一代 AI 産品設計的可控性、可信賴元素的強調，均可在采訪中找到闡述。 以下是采訪正文。
對於人工智能研究人員(學生和教授)來說，從學術界轉到初創公司似乎是一個常見的做法，就像你做的那樣。在今天，這兩個世界有什麼關鍵區彆?
在學術界，人們仍在努力嚮人工智能可以産生影響的新領域前進，有些人希望在AGI（通用人工智能）方麵取得進展。我認為有兩個激動人心的新領域的例子，一個是蛋白質結構，也就是蛋白質或氨基酸序列方麵，另一個是對經濟學的影響。後者對世界來說非常重要，但 AI 的影響並沒有我認為的那麼大。
與此同時，對於初創公司來說，如果你有很多數據，流程也主要依賴於已經看到的數據，基本上可以說「我們知道它是如何運作的。」比如，你有一張放射圖像，試著確定這骨頭斷瞭嗎?或者有一個頭部 CT 掃描，你要試著確定是否有顱內齣血或腦齣血?或者從病理圖像中對不同種類的癌癥進行分類。
所有這些應用的流程序列已經相對完善，即：識彆問題並為其收集數據，在此基礎上訓練一個大型神經網絡，然後優化和自動化流程中的部分或全部 。
有瞭這個經過驗證的方法，你就能産生很大的影響。這與我們在電力方麵所看到的情況類似：一旦掌握電力的基本原理，隻要把它提供給一個以前隻有油燈和火的城鎮，就可以産生很大的影響。
這是可能的，部分是因為在過去的10年裏已經發展齣瞭許多有趣和重要的想法。以前不可能實現的事情，現在變得可能。比如讓人工智能編寫相當長的文本。一個主要的變化是，不僅僅是圖像，所有的數據本質上都是矢量。所有東西都是一個數字列錶，這個數字列錶可以作為一個大型神經網絡的輸入，在上麵訓練任何你想訓練的東西。
還有很多有趣和重要的算法改進（更不用說更多數據和更多計算性能瞭)。但是端到端學習（ 深度學習的一個重要思想就是「端到端」學習方式，屬錶示學習的一種，也是這深度學習區彆於其他機器學習算法的非常重要的一個方麵。譯者注 ）是一個非常重要的思想，它改變瞭很多事情。
從初創公司到大型企業的轉變呢？這似乎是一把雙刃劍，預算可能更多，但限製也更多……
兩者在很多方麵都不同，我隻提兩個例子。
如果AI工具初創發現很多公司都花費比如四分之一的開發人員圍繞某一流程構建産品，而其中某部分或者環節要花費一到兩個開發人員，他們就有可能在2B領域獲得成功。這也是為什麼許多AI工具初創都在幫助開發人員對付這些讓人不太愉快的部分。
而要做到這一點，最好的方法是讓客戶仍然覺得自己在構建和控製人工智能，盡管實際上需要閤作夥伴幫助標注數據、研究數據偏差。（比如）他們首先要收集數據，通過 Huggingface（ 一傢在 NLP 社區做齣傑齣貢獻的紐約創業公司，提供瞭大量預訓練模型和代碼等資源——譯者注 ）實現模型，藉助 Weights &Biases （ 一個可幫助數據科學傢跟蹤他們的模型、數據集、係統信息等的平台——譯者注 ）訓練模型時擴展模型分析，並通過 ZenML （ 一種可擴展的機器學習框架——譯者注 ）部署模型。
（算下來）雖然依賴10-15個外部支援，但相對於圍繞某個特定AI模型重復造輪子來說，這樣能夠更快、更可擴展、更準確地訓練 AI。找到類似各種各樣已經存在但又缺乏高度專業性、需要專業團隊聚焦的某些特定方麵或者環節，是創業公司的一大樂事。
但在像 Salesforce 這樣的大公司，你主要考慮的是什麼能夠真正改變許多不同客戶的需求。如何幫助那些已經在您係統中的客戶使用他們的數據集，以一種他們仍然覺得(實際上也確實)擁有控製權的方式？這一點很重要，因為在 Salesforce，信任是我們的第一價值。你不能隻是拿每個人的數據，然後對其進行訓練，因為他們擁有自己的數據，而且他們為存儲付費。因此，你還需要與客戶閤作，努力讓他們的人工智能項目起步。
所以，企業軟件供應商擔心的是客戶支付瞭很多錢，你就不能以試驗新功能的名義來破壞工作？
這是部分原因。但可能更重要的是，你必須確保它是可信、易於使用，並且可以跨越所有這些不同的用例，而且服務的成本仍然相對較低。如果是一個像 Salesforce這樣的平台公司，你也不能隻建立一個分類器，還必須讓所有客戶建立他們自己的分類器，這也伴隨著各種有趣和睏難的技術挑戰。
企業預算如何改變公司處境？
最大的區彆是，當公司規模越來越大時，就可以而且應該進一步展望未來，做更多有趣的研究工作，這實際上與學術界有更大的重疊。因為你可能會在兩三年內被打亂，而你又有足夠的空間去思考四五年後的未來。所以需要預測一下接下來會發生什麼。
因此，作為一傢大公司的 AI 研究人員，你可以奢侈地去思考和構建一些東西，而在初創公司，你需要構建人們現在想要的東西，它還需要非常好，並在閤理的時間範圍內發貨。這就是最大的不同——絕大多數初創公司都在從事應用，應用程序和人工智能，而不是基礎研究；大公司可以兩者兼得。
當你談論 B2B 初創時，提到的很多東西，我們可以稱之為橫嚮應用（ horizontal applications ）。為什麼你認為這些在今天被證明是成功的，而情況並非總是如此？
總有一些非常有用的垂直 AI 應用程序，但有一個短暫的階段，我們認為橫嚮的平台可能會起作用。其實，早期的人工智能平台初創公司就承擔瞭太多不同的任務。
例如，我們在 MetaMind 構建瞭一些技術，你可以將一些文本或圖像拖放到 Web 瀏覽器，擁有一個完全可擴展的係統來對這些文檔進行分類。某種程度上，這確實有些古早，因為這都發生在前 TensorFlow 、 PyTorch 時代。你必須從頭實現所有這些神經網絡及其細節，也幾乎沒有什麼開發工具。現在，情況已經發生瞭顯著變化。
我們在 MetaMind 中構建瞭所有這些東西——標注、錯誤分析、部署、建模、如何訓練模型分析。有趣的是，如果每個部分都有一個專注於此的獨立公司，現在他們中的每一傢都比 MetaMind 更值錢。
我認為，大多數公司和開發人員都希望自己通盤掌控 AI，但他們可以放棄其中獨立的較小部分，如果編寫這部分代碼實際上並不那麼令人興奮。所以，需要找到一種有趣的方式，在樂趣和讓每個人都感到掌控感之間找到平衡。既然初創公司負責提供機器學習工具，你就不能剝奪太多用戶的掌控感。
網絡和模型的進化如何改變瞭人們對創辦公司或構建人工智能産品的看法？
我實際上並不認為特定模型對如何創辦公司有很大的改變。但我認為，某些模型目前更高效，因為它們能更好地處理我們擁有的硬件。我們並不真正受大腦、理論或原則啓發——而是受 GPU 啓發。我們的靈感主要來自在 GPU 上運行良好的東西。當前流行的模型 Transformers，對於 GPU 來說就非常有效，可以非常有效地進行訓練。
對於硬件初創公司來說，這確實改變瞭一些事情。他們看著英偉達和其他一些大公司，然後說 「 嗯，必須有某種方法來分一杯羹。 」 我們也因此會看到一些創新。（不過）與此同時，他們真的很難擴展，因為對於絕大多數用例來說，他們的特殊硬件必須齣現在大型雲提供商之一當中。
當然，整個 AI 開發堆棧在過去 8 年中已經成熟瞭很多。遙想當年，如果你希望它更快，就必須從頭開始用 C++ 實現所有內容，這非常慢。人們需要很長時間纔能加快速度和學習。而現在，所有這些復雜性都可以被抽象齣來，你可以使用我們之前討論過的産品，這使得構建高質量的人工智能係統變得更快、更方便、更容易。
但是算法的進步確實讓局麵有很大不同，對吧？例如，you.com在隱私方麵很重要，這也是你可以優先考慮用更少數據做更多事情的原因之一。
這是一個很好的問題，而且絕對正確。如果 5 或 10 年前想要建立一傢搜索引擎公司與 Google 競爭，會非常睏難，而且基本上不可能，因為需要數百人和大量訓練數據來構建我們正在建立的排名係統。現在，一個非常小的團隊（盡管小，但非常聰明也很有能力）就能構建一個排名係統，對你在搜索引擎中輸入的任意意圖和查詢進行排名，並提供正確的應用程序、資源集閤。
像 you.com 這樣的小公司可以與榖歌這樣的大公司競爭，唯一的原因在於我們在人工智能方麵看到瞭進步，特彆是涉及無監督學習和遷移學習時。你可以在維基百科、Common Crawl（ 一個非營利組織，利用自己的網絡爬蟲收集瞭十億級彆的網頁數據，任何人都可以免費訪問，研究人員和企業傢就可以在榖歌級彆的數據上進行新的嘗試和探索，新的創業機會也油然而生。——譯者注 ） 以及所有你能找到的網絡文本上訓練非常大的神經網絡。（也要記住，並不是所有網絡上的東西都能用於訓練很好的人工智能）。
我們可以利用這些資源訓練無監督模型，比如預測句子中的下一個單詞。「我去瞭南加州，很享受……」，如果對語言和世界很瞭解，就會預測到下一個詞可能是「海灘」、「沙漠」，或者任何在南加州能夠享受到的東西。但預測的前提是你必須具備大量的知識。而訓練一個模型來預測幾百萬甚至幾十億單詞序列的下一個單詞，一開始也需要整閤所有這些背景知識。
這就涉及無監督學習，沒有人坐在那裏給你標記好下一個單詞是什麼。隻有維基百科，模型可以從裏麵學到很多正確排序的單詞錶達。
這個想法很牛逼，你隻需根據任務目標對大型 NLP 模型稍加修改即可讓其完成任務。它能超越特定、小規模標記數據，進行更為廣泛的泛化，因為他們擁有知識感；他們知道「我附近最好的泰國餐館」與「我所在地區最好的東南亞餐館」非常相似，盡管訓練數據中從未有過這個特定的短語，但我們的神經網絡和排名係統可以做到這一點，因為它們知道這些短語是相似的。
說到搜索，我注意到 you.com 很重要的一點，就是總結（搜索）結果的方式，這是源自用戶頁麵設計的需求，張三李四隨時隨地都可以做到？還是得益於機器學習技術的進步纔能以這種方式處理搜索結果？
雖然聽起來不那麼酷，但摘要實際上是最難的人工智能任務之一，尤其是在自然語言處理中，原因有很多也有趣。原因之一，摘要是個非常個性化的任務，我知道你（摘要的接收者）知道什麼，我就可以為你提供更好、更準確的摘要結果。
比如，如果你不知道什麼是詞嚮量，你就很難理解 Transformers（ Google 的團隊在 2017 年提齣的一種 NLP 經典模型，現在比較火熱的 Bert 也是基於 Transformer。——譯者注 ）。為此，你首先需要瞭解詞嚮量的基礎知識。如果你已經知道什麼是 transformers，那摘要就會變得很簡潔，比如，「他們正在用語言建模而不是機器翻譯來訓練它，這是一個更好的目標函數。」
而且我認為摘要是一個重要的技術趨勢，未來幾年，隨著你的時間越來越寶貴，需要簡單工具幫助你完成一些工作，越來越多的人會在喜歡上它，而不是被那些賣廣告的公司所吸引，他們不想幫助你完成工作，而是幫助你查看更多內容，以便展示更多廣告。
我們不贊同這一點，摘要（技術）是其中很重要的一部分，它可以幫助用戶少做些搜索多完成工作，或者少搜索，多寫些代碼。我們的應用程序包含有代碼片段，你可以復製和粘貼，通常都是正確的摘要。如果正在搜索「如何在 Python 中對字典排序」，答案不是一長串文本，而隻是一個代碼片段。或者，當我們嚮您展示一篇論文時，有一個指嚮實現該論文的開源版本的 GitHub 存儲庫的鏈接。
我認為,下一代搜索引擎從根本上是基於不同的價值觀，也是不同的商業模式。
鑒於我們已經討論過的所有進展，對於那些希望立即進入 AI 領域的人，你有什麼建議？要做的事情或需要學習的技能是什麼？
這在很大程度上取決於他們的年齡、技能、時間投入以及想進入的領域。如果你還年輕，未來也想以此為業，你仍然需要學習編程基礎、數學、統計學和一些概率知識，很多綫性代數等等。
如果你已經上班，也想進入這個領域，有大量令人興奮的新在綫課程、視頻和平台，供你深入學習。現在有這麼多的材料，連斯坦福 CS224 NLP 課程也有，這就是我鼓勵人們去做的事情。
一旦完成瞭這些，接下來就是要動手實踐瞭，寫程序或者玩模型，順便想想目前還有哪些流程或者任務是靠手動的，或者處在半機械半人工狀態？你能做些與眾不同的東西，嘗試自動化它們嗎？
較之真正理解這些模型是如何工作，僅滿足於使用雲API和不同水平的抽象化（abstraction）能讓你走多遠?
這完全取決於你的背景。如果受過高等教育，有數學方麵的背景，你可以很快掌握一些基礎知識，直接跳到構建真實模型的階段，而不需要從頭開始。不過，越依賴抽象化，可能就越難以做一些真正有創造性的工作，也很難理解如何修復錯誤，解決性能問題。
但在許多用例中，您也沒必要創新。比如，你可能隻是想要一個自動噴水滅火係統，因此，你隻想迴答：「有人站在這裏嗎？是還是不是。」 如果沒有，請打開自動噴水滅火係統，不需要為此發明任何創新性的東西，隻需要執行所有正確的標準步驟並為圖像分類器使用好的工具。
但是，抽象化仍然存在漏洞，也並不完美。因此，應用程序越重要——它對你的公司、受影響的用戶或你的職業越重要——你就越希望擁有深入瞭解這些係統的專傢，知道如何修復某些錯誤或性能問題的專傢，以及思考人工智能係統如何影響人們的人。隻有這樣，你纔能真正以安全、最大限度發揮積極影響的方式自動化某些流程。
參考鏈接：
https://future.a16z.com/a-decade-of-deep-learning-ai-startup/
責任編輯：
