承接前文：〈AI算力大型新格局：重塑空間分布邏輯（二之一）〉
分布式推理並不意味着把大型訓練GPU直接搬進小型機房或智能設備。
訓練GPU追求盡可能高的算力、大規模並行能力和高速互聯。但部署在邊緣節點和端側設備中的芯片，往往受到電力、空間、散熱和成本的限制。這些場景需要的是高能效、低延遲、較大的本地內存，以及更緊湊、更容易部署的硬件。
即使未來AI模型的基本結構逐漸趨於收斂，推理芯片仍然存在很大的定製空間。不同場景對模型規模、計算精度、內存帶寬、響應速度、功耗和成本的要求並不相同。
通用GPU的優勢在於靈活，可以支持不同模型和任務。但這種通用性也會帶來效率上的代價。在工作負載相對穩定、任務邊界較為明確的推理場景中，針對特定模型、計算方式或設備環境設計的芯片，往往可以實現更高的能源效率和更低的運行成本。
芯片市場 分工更清晰
這並不意味着通用GPU會被取代，而是AI芯片市場將形成更清晰的分工。大型GPU繼續承擔模型訓練和部分複雜推理，雲端推理芯片服務規模化工作負載，邊緣芯片支持靠近業務現場的推理，而端側芯片則更多承擔設備本身的實時感知、預測和輔助判斷。
GPU、NPU（神經網絡處理器）和各類專用加速器將因此服務不同的工作負載，存算一體等新型架構也可能在部分推理場景中獲得發展。
最近，我們與後摩智能探索了這方面的趨勢。它的漫界M50面向端側和邊緣側的大模型推理，採用存算一體架構，減少模型參數在存儲與計算單元之間的反覆搬運，以提高推理效率。這類芯片不一定會全面取代大型GPU，但很可能進一步擴大AI半導體市場的邊界。
未來，企業之間的競爭不僅在於誰擁有最強的訓練芯片，還在於誰能針對不同推理場景，在性能、成本、功耗和部署難度之間找到更好的平衡。當然，新型芯片和新的算力架構能否真正形成商業價值，最終仍要進入真實場景，經受性能、成本、可靠性和部署難度等多方面的檢驗。在這方面，中國也可能成為重要的試驗場。
一方面，中國擁有大量製造、汽車、機器人、物流、能源和城市基礎設施場景。這些行業對實時響應、本地處理和成本控制都有大量AI需求。另一方面，中國也擁有從芯片、服務器、運營商網絡和產業園區，到整機廠商、汽車企業、機器人企業和大量工業用户的完整產業體系。這使新的芯片、模型和解決方案能夠較快進入真實業務環境，在應用中不斷驗證，並在產業鏈上下游的協同中持續調整。
政策層面也正在推動這種趨勢。2026年1月，工業和信息化部等八部門發布「人工智能+製造」專項行動實施意見，在推動訓練芯片發展的同時，也提出發展端側推理芯片、邊緣計算服務器，並推進「雲—邊—端」模型體系建設。
在這樣的環境中，企業需要驗證的不只是某一顆芯片的性能，而是芯片、模型、軟件、網絡、數據和業務流程能否組合成完整解決方案。一項新技術可以先進入少數場景，在實際應用中反覆調整，再通過運營商、整機企業和行業合作伙伴推廣至更多場景，形成「試驗—調整—規模化」的循環。中國因此不僅可能成為新型AI芯片的試驗場，也可能成為新的AI基礎設施和解決方案走向規模化應用的重要試驗場。
新算力格局重塑企業組織
算力結構的變化，對企業的意義是深遠的。
今天的很多企業，既有總部人員，也有區域團隊和一線員工。總部負責戰略、標準、資源配置和共同能力；一線員工則貼近客户、設備與實際業務，需要更迅速地理解現場情況並作出反應。
隨着AI進入愈來愈多業務場景，企業需要管理的也不再只是後台的模型和工具。今天，許多智能體以通用大模型為底座，連接企業知識庫、軟件工具和執行接口。當這些智能體能夠圍繞明確職責，在一定權限下調用企業知識和工具，並持續完成具體任務時，它們就會愈來愈接近企業中的「數字員工」。
隨着數字員工逐漸增加，它們也可能形成類似於人類組織的分工。一部分數字員工運行在中央平台，掌握企業共同知識、規則和能力；另一部分面向區域、工廠、門店等具體業務場景運行，調用當地的數據和系統，承擔更貼近一線的任務。
企業管理數字員工的方式將愈來愈接近管理人。企業需要決定它們可以訪問什麼數據、掌握什麼知識、擁有什麼權限，又可以自主完成哪些任務。從這個角度看，企業最終管理的並不只是AI、模型或算力，而是由人類員工與數字員工共同組成的新型組織。
這種變化首先要求企業改變「一種部署方式解決所有問題」的思維。複雜推理可以繼續利用雲端的規模優勢；敏感數據和受監管業務可以採用私有化部署；需要靠近業務現場的任務可以進入邊緣；需要直接在設備上處理數據的場景，則可以進一步採用端側計算。
部署方式不同，但背後的原則相同：不同AI應用應該根據實際業務需要，被放在最適合的位置。這種思路也為大型企業的AI轉型提供了更現實的路徑。企業不必一開始便推動覆蓋全公司的大型改造，可以先從一個崗位、一支團隊、一條生產線或一個具體業務問題開始，在較小範圍內形成可以運轉的閉環。
寶馬集團的Factory Genius提供了一個具體例子。它是一款面向工廠設備維護的AI助手，當生產設備發生故障時，維修人員可以直接向它提問，系統會從設備手冊、質量數據、內部故障報告、規劃文件以及每天更新的交接班記錄中尋找相關信息，並迅速提出針對具體問題的建議，從而幫助維修人員更快定位和處理故障。
Factory Genius最初在德國丁戈爾芬工廠試點，美國斯帕坦堡和南非羅斯林等工廠也進行了類似探索。隨後，寶馬慕尼黑總部的AI團隊整合不同工廠的需求和經驗，形成集團級應用，並通過內部平台向更多工廠推廣。
寶馬的做法說明，AI應用可以從具體業務問題和場景開始探索，在驗證有效後，再由總部整合經驗、沉澱共同能力，並逐步推廣至其他業務單位。
當然，從小處開始並不等於各自為政。未來，企業的AI基礎設施大概率不會由單一雲平台、單一硬件體系或單一供應商提供，同時使用公共雲和私有環境，並在部分業務中部署邊緣節點和端側設備。不同模型和芯片也可能來自多個供應商。
但採用多個供應商，不意味着企業應當無限增加技術棧。總部需要建立共同的底座、標準和規則，業務單位則可以根據實際需要進行試驗和應用。企業既要保留選擇權和系統韌性，也要避免不同業務單位各自建立彼此割裂的AI系統。企業應追求「治理集中、應用分布、技術體系受控」，而不是技術無限分散後，再依靠中央治理事後補救。
數字員工也需要像人類員工一樣被訓練、評估和持續更新。企業需要明確它們的知識來源、數據和權限邊界、與人類員工之間的職責分工，以及如何根據實際工作結果持續糾正行為，並將一線形成的經驗轉化為整個組織的共同能力。
AI基礎設施的部署方式會影響數字員工在哪裏運行，以及如何調用不同業務場景中的數據和系統。數字員工進入不同業務場景，又會進一步影響信息如何流動、決策在哪裏發生，以及人類員工與數字員工如何分工。
技術架構、組織結構與業務流程將逐漸融合為一個系統。隨着數字員工能力不斷積累，其掌握的企業專屬知識、記憶和協作方式，也可能逐漸成為一種新的組織資產。從這個意義上說，AI不僅改變企業運營方式，也正在重塑企業的價值邏輯。
AI競爭正進入新階段
AI競爭不僅取決於誰擁有最大的訓練集群。
大型數據中心仍將繼續推動前沿模型訓練和複雜推理的能力邊界；與此同時，不同的推理任務會根據數據、業務場景和實時性要求，運行在雲端、邊緣節點或端側設備；對於數據安全和控制權要求較高的企業，部分AI還會採用私有化部署。與之相應，不同芯片也會形成更加明確的分工。
更深層次的變化發生在企業內部。隨着數字員工進入愈來愈多業務場景，企業需要重新思考它們與人類員工之間的分工。真正的挑戰不是購買更多芯片，而是能否把算力、數據、數字員工和人類員工組織成一個能夠持續學習、有效協作和規模化運行的整體。
企業需要的不只是AI技術，還需要一套新的系統思維。我們正在見證的不只是AI算力的新格局，也是組織學的新時代。
原刊於《經濟觀察報》，本社獲作者授權轉載。
AI算力的新格局 二之二
