在生成式人工智能（AI）這個新時代，企業需要具備一種新的思維方式。這就好比企業領導者在無線互聯網技術普及的影響下，不得不重新思考商業理念（如大數據管理、全渠道營銷和共享經濟等）。如今企業的領導者亦需要積極擁抱生成式AI技術，他們不僅需要了解生成式AI從產品和服務的角度對他們行業的影響，還需要判斷它將如何改變企業發展。總結而言，生成式AI對企業及組織的影響主要體現在以下四個方面：
對企業及組織的四個方面影響
1. 重新定義客戶關係和商業模式
生成式AI有望徹底改變企業和客戶間的關係。通過提供更生動簡潔、具有互動性的內容，公司可以更緊密地與客戶聯繫。在許多行業中，生成式AI可以用於了解和預測客戶需求，提供個性化客戶體驗和自動化客戶服務，從而使公司與和客戶之間的關係變得更加融洽等。企業可以利用生成式AI自動整合不同來源的信息的強大能力，在無需人工干預的場景下，更快速地響應市場的動態趨勢。生成式AI技術的迅速發展，加速了各行各業實現真正的無人運營，這將導致現有的許多商業模式發生根本性的改變。
生成式AI還將以一種新的方式推動產品和服務的分層，從而潛移默化地影響商業模式。生成式AI驅動的定製化服務的興起並不意味定製化本身會轉化為更高端的服務，而是生成式AI將改變定製化的成本結構。生成式AI的應用可能會出現幾種定製化場景，場景隨人工智能的參與程度和人工的輸入量而發生變化。比如，基於更多人類專業知識的定製化產品可能會收取更高的溢價，而純生成式AI創造的產品可能會收取相對較低的溢價。這一點可以類比在當今工業生產中，純手工製作的皮具比機器製造的皮具要有更高的工匠技術溢價。
2. 新型能力的賦予
大多數企業在生成式AI領域還未構建起相應的能力，但隨着各個行業內生成式AI資源的整合，需要利用它來更有效地執行勞動力密集型任務，並從基於生成式AI衍生的產品和服務中創造新的收入來源。企業需要考慮是選擇合作的方式構建生成式AI的能力亦或是自建研發。例如，企業可以通過收購或與提供生成式AI解決方案的公司合作，亦或是在內部組建團隊根據市場需求和行業內的價值主張而開發垂直定製化的生成式AI產品。
3. 組織轉型與分工重組
生成式AI同樣具備顛覆傳統組織架構及顯著影響內部重組的潛力，並且隨着其技術的成熟將發揮愈來愈強大的作用。這種對企業組織架構的影響主要體現在3個方面。首先，生成式AI將導致組織變得去中心化、扁平化和民主化，因為技術的賦能使得組織內部的任務和決策權得以更平均地分配；其次，隨着生成式AI的應用，企業中的人員分工可能會發生改變，例如，企業需要儲備訓練和管理生成式AI模型的人才。最後，生成式AI的應用可能會加速企業內部跨部門的協作，從而促進更具協作性和敏捷性的組織文化的形成。
4. 生態系統和價值鏈重構
隨着市場需求與能力的變化，生成式AI將通過重新定義產業價值鏈的方式影響未來的市場動態和商業生態系統。這種變革會對市場中的現有參與者與新進玩家帶來深遠的影響。以消費品行業為例，許多面向客戶的公司，經常設計產品並將生產外包給製造商。在這種傳統場景中，客戶通過零售渠道獲得製造好的產品。然而在生成式AI的影響下，產業鏈中的角色分配將有可能發生變化。新型的生成式AI服務提供商，可以通過技術賦能，實時將生成的產品設計圖傳達給消費者，同時製造商亦可以直接處理（通過生成式AI）這些根據消費者需求自主創建的訂單，實現真正的按需生產。這不僅將有可能改變行業參與者的角色，還會影響產業鏈中商品和服務的流動以及由中間商承擔的成本結構。此外，生成式AI提供者將顛覆傳統的生態系統。在室內設計、醫療診斷、3D打印和創意「素材」平台等領域，發揮更大的作用。
因此，生成式AI將可能改變領導者制定戰略和設計組織結構的方式。企業應當開始考慮採用以人工智能為先的方法，即業務領導者應重新設想業務運作的基本方式，以及生成式AI如何在其轉型中發揮主導作用，來提高企業的創新力和生產力。此外，企業的傳統戰略周期也可能受到影響，其將會面臨更快速的叠代。通過生成式AI獲取的信息將更加快速和全面，這亦將推動戰略實現更快速的落地與實施。
生成式AI的風險管理與倫理問題
生成式AI是一項強大的技術，但它亦為人們帶來了潛在的風險和道德倫理方面的擔憂。提供生成式AI服務的公司需要意識到這些潛在的風險，這不僅是出於商業道德維度的考量，更是因為若得不到妥善管理，生成式AI的應用將有可能引發嚴重的社會影響並損害公司聲譽。企業在使用生成式AI時需要仔細考慮的以下關鍵的問題：
1. 職業替代：隨着生成式AI技術的演進，它將進一步具備高效自動化部分人類工作的潛力，並導致部分行業面臨失業的潛在風險。
2. 數據隱私：由於生成式AI模型是基於大量的數據進行訓練的，這些數據中可能包含個人、企業的敏感或機密信息，或者非公開的政府信息。如果這些敏感或機密的數據沒有得到妥善的保護，便可能導致隱私洩露或者更嚴重的問題，例如身份盜竊或其他形式的利益損害。
3. 虛假信息：如果提供給生成式AI模型的訓練數據或信息不正確，可能會導致虛假信息對使用該服務的用戶產生誤導性。這也會帶來一些以欺騙他人為目的而有意傳播虛假信息的風險。
對於企業來說，仔細遴選大數據的來源也非常重要，因為帶有偏見或有害的信息輸入進生成式AI模型可能會帶來額外的道德風險，包括：
1. 歧視與偏見：生成式AI內容的開發可能會導致數據收集和使用方面存在潛在的偏見和缺乏透明度。當生成式AI使用的訓練數據中包含存在偏見的信息時，它可能會產出帶有偏見的內容。
2. 濾有害信息：生成式AI在收集數據時可能無法識別有害信息，這可能會對模型本身以及信息呈現給的用戶產生負面影響。
3. 對問題缺乏敏感性：生成式AI缺乏識別用戶文化、國家和宗教背景的能力，因此在產生觀點時，特別是在有爭議的話題上，可能會有冒犯用戶的風險。
4. 不可預測的後果：生成式AI可能會通過生成過於泛化或不準確的信息而誤導用戶，造成諸如服用錯誤劑量的藥物或違反特定地點的交通法規等問題。此外，目前已經出現生成式AI模型超越設計團隊設置的參數而進化的情況，這意味着人工智能模型的演變方式將是不可預測的。就像谷歌Bard學習了其他語言（原本被設定為只能使用英語）來回應用戶，因為與用戶的互動要求它找到並學習其他語言。
中國如何監管生成式AI？
政府監管是保證生成式AI的安全可靠發展的重要方法。為了保證生成式AI在中國合法運營，中國國家互聯網信息辦公室於2023年4月發布了《生成式人工智能服務管理辦法（征求意見稿）》（下文簡稱為《辦法》）公開徵求意見的通知，明確了生成式AI產品或服務應當遵守的法律法規要求，為生成式AI技術未來的發展及應用奠定了初步的法律基礎。
《辦法》中對於面向中國境內提供生成式AI服務的提供者提出了明確的要求，尤其在內容審核、數據安全、知識產權、歧視與偏見等領域提出了相應的監管措施。以下幾點是提供生成式AI服務的企業在研發利用此技術時需要特別註意的幾個方面：
第一，在內容審核方面，生成式AI服務型企業提供的基於算法，模型和規則生成的文本、聲音、視頻、代碼等內容，應通過檢查數據的合法性和改進模型的過濾系統，保障其內容的真實準確性，在技術可以實現的範圍內盡量避免虛假信息的產生。
第二，在數據安全方面，生成式AI服務的提供者必須通過個人信息脫敏、匿名化，定期刪除和完善用戶投訴管理機製等方法，謹慎保護用戶的個人信息安全並防範違法信息傳播。
第三，關於知識產權，《辦法》中明確規定，生成式AI服務提供者必須對生成式AI產品的預訓練數據和優化訓練數據來源的合法性負責，以確保使用的數據不包含侵犯知識產權的內容，以減輕內容違法違規的風險。
最後，在歧視與偏見方面，生成式AI服務提供者應當停止提供違反商業和社會道德的行為，包括編寫惡意軟件，散布基於種族、文化、宗教和國籍偏見的言論和歧視，並在算法設計、訓練數據等過程中，采取措施防止相關歧視性言論的出現。
總而言之，隨着人工智能產業的快速發展，中國政府一直致力於為國內人工智能的創新發展提供健康規範的環境。在嘗試降低人工智能技術的風險和濫用的同時，中國始終鼓勵在符合中國社會主義核心價值觀、社會道德和公共秩序的前提下，推動生成式AI技術的蓬勃發展。
無論是本地企業亦或外資企業，在進入中國市場時，應當在清楚了解中國在生成式AI技術領域的法律法規，充分考慮倫理道德規範的同時，加速人工智能領域的創新發展，合理利用中國的政策來優化其企業發展戰略。
地緣政治因素對於發展生成式AI的影響
世界日益升溫的地緣政治緊張局勢已成為許多跨國公司最關心的問題。地緣政治可以通過不同方式，潛移默化地影響着生成式AI技術的發展與應用。各跨國公司主管需要找到針對不同生成式AI系統，在不同地域和同一公司環境的可能場景下的問題解決方法。
隨著生成式AI技術愈來愈強大，嚴格合規的監管以確保這項技術能被負責任地使用，是至關重要的。不同國家針對生成式AI技術的監管法規有所差異，為了合規發展，公司在不同國家開展相應的技術活動時可能會存在一定程度的差異。
與此同時，我們亦已經目睹了許多有關隱私和數據安全的擔憂和討論，尤其是涉及到數據跨境傳輸領域時。如果跨國公司在沒有充分考慮整體的情況下違規採用了這種新興技術，該模型會持續與大量數據發生互動，最終導致嚴重的安全問題發生。因此在應對這一潛在風險時，各企業高管必須予以重視，並建立適當的防範與管理機制。
另一方面，生成式AI相關企業應當重視不同國家在道德和價值觀方面的差異。任何一個無意的冒犯都可能會對公司聲譽帶來嚴重的影響。因此，生成式AI模型應當基於不同地區進行針對性的數據訓練，以避免歧視與偏見性敏感言論的產生，尊重當地用戶。
儘管目前討論地緣政治因素會對生成式AI的發展產生怎樣的影響為時尚早，但是跨國公司應當明白，他們需要在更廣泛的地緣政治背景下，認識理解生成式AI的影響，同時平衡好該項技術可能帶來的收益與潛在的風險。
對於企業的啟示
生成式AI正在迅速改變企業的運營方式。隨着生成式AI的不斷發展，企業積極擁抱這些技術並合理利用它們以發揮自己的優勢將變得更加重要。未來在不同企業或公司內部，由生成式AI轉型帶來的新型合作夥伴關係、合作和產品發布將為主要市場參與者創造巨大的收益，特別是對於領先的生成式AI解決方案和服務提供商，如商湯科技、OpenAI、Midjourney等。
除了選擇與生成式AI服務提供者合作之外，企業更需要考慮的關鍵是，他們應該採取何種戰略以驅動生成式AI轉型並建立核心競爭力？以下是幾點對開始思考，並對計劃推動生成式AI轉型企業的建議：
第一，對於使用生成式AI產品及服務的企業而言，與人工智能領域的專家建立穩固的關係是至關重要的。通過與專家合作，企業可以獲得與生成式AI應用相關的知識、技術和經驗。這可以有效幫助企業管理生成式AI帶來的風險，評估倫理道德的規範，並且在第一時間了解到最新的法律法規。
第二，企業需要考慮建立一種負責任的生成式AI使用文化。企業應當對生成式AI的應用透明化，教導員工並幫助顧客了解如何使用生成式AI，並清楚它潛在的好處和風險。
第三，對企業來說，建立一種包容的學習文化，並培養一個合作創新的工作環境。企業應當鼓勵不同部門的員工交換意見並相互合作，以確保他們從生成式AI的應用中獲得收益最大化。
儘管生成式AI的轉型變革仍存在一些挑戰，但毫無疑問生成式AI應用帶來的潛在利益是巨大的。能夠把握這次轉型機遇，成功應用這種強大技術的企業將有可能在未來的商業世界中佔據有利的位置。然而不可否認的是，現階段生成式AI技術發展仍是相對不成熟的。因此，企業應該認識到該項技術可能存在的風險。在投入大量時間、金錢和精力來應用該項技術升級商業模式的同時，企業需要平衡生成式AI投資的成本和收益，重視可能會出現的道德倫理和相應監管問題。
原文為英文版”The Transformative Nature of Generative AI to Your Business”，本社獲作者翻譯後授權轉載。
人工智能下的企業變革 2-2
何志平
陳家偉
張樹槐
陳婉瑩
曹啟樂
潘樂德
沈言
龐驚濤
馮應標
陳玉燕
顏雋
崔少明
同意灼見名家會員服務條款及細則