新智元報道

編輯：編輯部

【新智元導讀】面對GenAI的技術浪潮，很多人都會在不斷迭代更新的技術中逐漸迷失。站在潮頭的Sapphire、Emergence、Menlo等風投公司，又會如何看待這場AI變局的現(xiàn)狀與走向？

根據(jù)Sapphire Ventures的數(shù)據(jù)，GenAI領域從2022年到2023年迎來了爆發(fā)式的增長，全球范圍（不含中國）的風投資金總量從76億美元陡增到247億。

從今年第一季度的數(shù)據(jù)來看，2023年的市場熱度很有可能延續(xù)下去。

根據(jù)咨詢公司Quid的統(tǒng)計數(shù)據(jù)，最能吸引AI方向投資的三個細分領域分別是「AI基礎設施、研究和治理」、「自然語言處理」和「數(shù)據(jù)管理」。

投資大量涌入，帶來的直觀結果就是初創(chuàng)公司如雨后春筍般涌現(xiàn)。從美國、中國到英國、以色列，都成為了AI創(chuàng)新的重要源頭。

在投資大潮的催化下，GenAI領域的技術更新也達到了前所未有的迅速。

今年1月，Menlo Ventures對于現(xiàn)代AI技術棧的定義還是一個簡潔的四層框架，從算力和基礎模型開始，到數(shù)據(jù)、模型部署，以及最頂層的模型可觀測性。

而短短幾個月后的5月底，這個框架就已經(jīng)迅速過時，取而代之的是Sapphire Ventures發(fā)布的包含200多個公司、多個領域交織在一起的復雜技術網(wǎng)絡。

而且，GenAI的發(fā)展路徑不是單純技術創(chuàng)新問題，商業(yè)戰(zhàn)略、金融、教育、政策等各方面的影響交織在一起。

數(shù)據(jù)隱私問題引起了越來越多立法者的關注，AI法規(guī)即將出臺的壓力揮之不去；AI行業(yè)高薪的背后是持續(xù)的人才短缺，迫使科技公司不得不在內部開發(fā)和外包工作間取得平衡。

更為重要的是，控制成本、創(chuàng)造盈利的壓力，會與技術創(chuàng)新的各種原動力相違背。持續(xù)不斷的開源和閉源之爭就是最典型的例子。

相比傳統(tǒng)的軟件公司，推理和訓練的算力支出會耗費更多資金。然而，根據(jù)Emergence Capital的統(tǒng)計，只有58%的GenAI公司選擇通過產(chǎn)品營利，這就又疊加了一重商業(yè)風險。

「亂花漸欲迷人眼」，投資熱潮、一夜暴富的表象下，入局GenAI實質是一場高風險的技術博弈。在這個瞬息萬變的場域中，今天最先進的解決方案，很可能在一夜之間就被新的技術突破取代。

要面對GenAI迷宮中的這一切，也許答案只有一個——適應性。

無論是科研、技術領域的從業(yè)者，還是公司中的決策者，都需要不斷調整目標和愿景，與這個千變萬化的環(huán)境一同演進，才能創(chuàng)造出實際的價值。

數(shù)據(jù)的「量」和「質」

如果一直上溯到深度學習方興未艾時的ImageNet，可以發(fā)現(xiàn)，數(shù)據(jù)始終是AI的核心問題之一。

隨著近年來GenAI和LLM的興起，數(shù)據(jù)也和算力一樣，成為AI基礎設施的一部分，也是需要盡力發(fā)掘的稀缺資源。

Epoch AI曾經(jīng)預言，LLM到2028年將耗盡互聯(lián)網(wǎng)上所有的高質量文本數(shù)據(jù)，阻礙Scaling Law的「數(shù)據(jù)墻」似乎就在眼前。

面對數(shù)據(jù)短缺的挑戰(zhàn)，從GenAI自身給出的解決方案——合成數(shù)據(jù)，似乎是一條仍不明朗但頗有前景的道路。

早期研究曾指出，隨著合成數(shù)據(jù)比例的增加，迭代出的連續(xù)幾代模型的質量和多樣性都會逐漸下降。

但另一方面，較少比例的合成數(shù)據(jù)和最新的現(xiàn)實數(shù)據(jù)混合后訓練的模型，如Google最近發(fā)布的Gemma 2，卻能表現(xiàn)出顯著的性能提升。

Epoch AI的創(chuàng)始人也曾表示，雖然我們能看到「數(shù)據(jù)耗盡」的前景，但目前還沒有感到恐慌的理由。合成數(shù)據(jù)、

多模態(tài)和遷移學習等方法都有望突破「數(shù)據(jù)墻」。

除了數(shù)據(jù)量的焦慮，數(shù)據(jù)質量和數(shù)據(jù)治理也已經(jīng)成為關注的焦點。

上個月HuggingFace發(fā)布15萬億token的FineWeb數(shù)據(jù)集，就著重強調了數(shù)據(jù)質量的重要性。

微軟Phi-3小模型的技術報告中，也提及了一種「數(shù)據(jù)換參數(shù)」的策略。

對于企業(yè)和產(chǎn)品而言，數(shù)據(jù)質量的重要維度也包括語義層和數(shù)據(jù)結構（data fabrics），有望增強AI系統(tǒng)有效理解、使用企業(yè)數(shù)據(jù)的能力，從而帶來創(chuàng)新的功能和用例。

初創(chuàng)公司Illumex就開發(fā)了一種名為「語義數(shù)據(jù)結構」（semantic data fabric）的技術，他們的CEO解釋道，「data fabric有一種自動創(chuàng)建出來的紋理，而非預先定義好的」，可以促進更加動態(tài)、上下文感知的數(shù)據(jù)交互。

此外，AI監(jiān)管和科技公司也把目光投向了數(shù)據(jù)治理領域——確保數(shù)據(jù)的使用符合倫理、安全并遵守法規(guī)。

DataBricks已經(jīng)將數(shù)據(jù)治理納入其平臺的核心，被描述為「一個連續(xù)的治理體系，從數(shù)據(jù)攝取一直到GenAI的提示和響應」。

同時，Red Hat副總裁Steven Huels預測，我們會看到數(shù)據(jù)治理方面的大力推動，尤其是隨著AI系統(tǒng)越來越多地影響關鍵業(yè)務決策。

端到端vs.專用解決方案

GenAI這種新興事物顯得有些復雜，有些難以理解，因此許多企業(yè)都都傾向于采用全面的端到端解決方案，這反映了決策者們希望簡化AI基礎設施、精簡運營的愿望。

財務軟件公司Intuit決定在原有的龐大生態(tài)系統(tǒng)中整個GenAI時，他們面臨一個艱難抉擇——要讓數(shù)千名開發(fā)人員在現(xiàn)有平臺的基礎上構建AI嗎？

最后，Intuit選擇了一條更有雄心的道路：從頭開始，創(chuàng)建一個全面的生成式AI操作系統(tǒng)GenOS。

公司首席數(shù)據(jù)官Ashok Srivastava這樣解釋這個決定：為了加速創(chuàng)新并保持一致性，「我們將額外構建一層來抽象掉平臺的復雜性」。相比之下，讓各個團隊構建定制解決方案，會導致「高復雜性、低速和技術債務」。

同樣，Databricks最近對平臺功能進行了擴展，新推出的Model Serving和Feature Serving工具，能簡化數(shù)據(jù)科學家部署模型的流程，代表了他們正在推進更集成的AI基礎設施，提供更全面的解決方案。

《Marvelous MLOps》一書的作者Maria Vechtomova指出，整個行業(yè)都需要這樣的簡化：「機器學習團隊應該努力簡化架構，并盡量減少使用的工具數(shù)量。」

推動端到端解決方案標志著GenAI領域的成熟。企業(yè)不再滿足于零散方法的拼接，而是希望高效地擴展其AI項目。

與此同時，我們還見證了一個有趣的現(xiàn)象——盡管端到端平臺正在崛起，但專用解決方案仍在不斷涌現(xiàn)，

通常來說，它們是對通用方案的補充，負責應對可能被忽略的復雜挑戰(zhàn)，或者增強某些特定的功能。

專用解決方案的不斷涌現(xiàn)表明，在解決特定AI挑戰(zhàn)方面的創(chuàng)新仍然充滿活力。

即使市場正在圍繞少數(shù)幾個主要平臺進行整合，這一趨勢仍在持續(xù)。

對于IT決策者來說，任務很明確：仔細評估專用工具在某些方面是否能提供比更通用解決方案更顯著的優(yōu)勢。

開源和專有的平衡

在GenAI領域，開源和專有解決方案之間有非?；钴S的相互作用。

曾經(jīng)以開源Linux聞名的Red Hat公司最近宣布進入Gen AI領域，他們開發(fā)的產(chǎn)品Red Hat Enterprise Linux (RHEL) AI旨在讓更多人能夠使用LLM，并堅守自己對開源準則的承諾。

然而，開源解決方案通常需要公司內部的大量專業(yè)人才，才能有效實施并維護。對于面臨人才短缺或希望快速行動的組織來說，這可能是一個挑戰(zhàn)。

另一方面，專有解決方案通常提供更集成和支持的體驗。比如Databricks在支持開源模型的同時，也專注于圍繞其專有平臺創(chuàng)建一個連貫的技術生態(tài)，能夠為客戶集成和管理各種AI模型。

理想的開源和專有解決方案平衡將取決于組織的具體需求、資源和風險承受能力。隨著AI領域的發(fā)展，有效集成和管理這兩種類型的解決方案，可能成為一個關鍵的競爭優(yōu)勢。

平衡好開源和專有方案的「潛力股」也許是最近崛起的AI新星Mistral。

Mistral推出的開源模型既在社區(qū)引起了廣泛影響，得到全球開發(fā)者的支持助力，同時也吸引到了潛在客戶，可供任何人檢查、定制的代碼加強了企業(yè)用戶對技術的信任。

創(chuàng)始人Arthur Mensch曾表示，「在構建商業(yè)模式和堅持我們的開源價值觀之間找到一個平衡點是非常微妙的。我們希望創(chuàng)造新的事物、新的架構，但是還想向我們的客戶提供一些額外的產(chǎn)品和服務。」

與現(xiàn)有系統(tǒng)的集成

在企業(yè)轉向GenAI的過程中，一個關鍵挑戰(zhàn)是如何將新功能集成到現(xiàn)有的業(yè)務流程與決策框架中，建立兩者之間的良好銜接和互動。

這是AI系統(tǒng)落地的最后一步，也直接決定著AI方面的投資能否轉化為實在的商業(yè)價值。

令人驚訝的是，與頂層的產(chǎn)品功能相比，成功的集成反而更依賴于底層系統(tǒng)。實時系統(tǒng)、流處理、批量處理，這些「骨架」是構建AI能力不可忽視的基礎。

對于許多組織來說，數(shù)據(jù)方面也存在挑戰(zhàn)，難點在于AI系統(tǒng)需要連接多樣化的，且常常孤立存在的數(shù)據(jù)源。初創(chuàng)公司Illumex就開發(fā)了一種方案，允許企業(yè)利用現(xiàn)有的數(shù)據(jù)資產(chǎn)，而無需進行大規(guī)模的重組。

安全集成是另一個關鍵因素。由于AI系統(tǒng)通常處理敏感數(shù)據(jù)并做出重要決策，它們必須被納入現(xiàn)有的安全框架，并符合組織政策和監(jiān)管要求。

提示工程仍然是關鍵技能

精確且格式良好的提示，結合相關的上下文數(shù)據(jù)，能夠顯著影響模型輸出的質量，這種效果常常令開發(fā)者和用戶感到驚訝。

盡管最初對提示的長期前景以及提示工程師這一新興職業(yè)存在懷疑，許多公司仍在積極尋找并高薪聘請具備提示工程技能的員工。

我們相信這一趨勢將持續(xù)，并將得到新興服務的進一步支持，這些服務可以幫助公司制作、存儲、測試、管理和更新提示。

智能體已來，但為時尚早

AI智能體可以使模型（或一系列模型）在用戶幾乎不干預的情況下完成一個或一系列動作。

智能體工作流程有望擴展模型的使用方式，并使開發(fā)者能夠單獨優(yōu)化每個步驟，從而可能帶來顯著的生產(chǎn)力提升。

雖然如今真正的自主智能體尚未成為現(xiàn)實，但我們觀察到越來越多的服務正在幫助用戶構建輕量級的定制助手，比如微軟對Copilot最近的更新。

這些助手能夠處理更復雜的工程工作流程（不僅限于代碼輔助）、從多個來源提取和總結信息、自動標記數(shù)據(jù)等任務。

生成式人工智能的激進未來

隨著GenAI快速發(fā)展，對技術棧的探索也愈發(fā)深入，從端到端解決方案到專用工具，從數(shù)據(jù)質量到治理框架。

可以肯定的是，我們正在見證企業(yè)技術的變革時刻，但這還只是個開始。

最近，AI大牛Andrej Karpathy描繪了一幅更加激進的未來圖景。

他設想了一個「100%完全軟件2.0計算機」，其中單個神經(jīng)網(wǎng)絡取代了所有傳統(tǒng)軟件。

其中，設備輸入如音頻、視頻和觸摸將直接輸入到神經(jīng)網(wǎng)絡中，輸出則通過揚聲器和屏幕顯示為音頻和視頻。

這個概念遠超我們當前對操作系統(tǒng)、框架甚至不同類型軟件之間區(qū)別的理解——應用程序之間的界限變得模糊，整個計算體驗將由一個統(tǒng)一的AI系統(tǒng)來調控。

雖然這樣的愿景可能顯得遙遠，但它強調了一點：GenAI不僅能重塑單個應用程序或業(yè)務流程，還能改變計算的基本性質。

今天在構建AI基礎設施時做出的選擇將為未來的創(chuàng)新奠定基礎。靈活性、可擴展性和接受范式轉變的意愿將是關鍵。

不論我們談論的是端到端平臺，還是AI驅動的計算環(huán)境，成功的關鍵在于培養(yǎng)適應性。

參考資料：

021yin.com/ai/ai-stack-attack-navigating-the-generative-tech-maze/

021yin.com/perspective/the-modern-ai-stack-design-principles-for-the-future-of-enterprise-ai-architectures/

021yin.com/blog/building-the-future-a-deep-dive-into-the-generative-ai-app-infrastructure-stack/#gallery-4

021yin.com/thoughts/beyond-benchmarks/

021yin.com/mapped-the-number-of-ai-startups-by-country/