上周去了台灣參加AI會議，今周就來到華盛頓參加我是常客的CEO峰會。本以為主要討論美聯儲息率政策、總統大選最新消息、G20峰會對全球地緣政治的影響，以及每次必提到的中美關係等等……但竟然不是。主持人一開始已說明總統選舉留待明年才討論，會議沒有花時間討論息率政策，但超過一半CEO認為美聯儲應在短期內開始減息。G20和BRICS峰會索性隻字不提，完全體現美國優先精神，對外面世界發生的事，基本上漠不關心。即使中美關係，這個過去5、6年來最熱門的議題，也只輕輕帶過，沒有深入討論。連主持最熱心的俄烏戰爭，也只讚揚在場的波蘭在短短一年多內，已成功完全停止對俄羅斯天然氣的倚賴。今次峰會的焦點全都放在如何監管AI！
今周華盛頓很熱鬧，參議院多數黨領袖舒默（Chuck Schumer）聯同其他幾名兩黨參議員（其他參議員也可列席，但不可發問），邀請了20多名科技界巨頭來參加一個閉門會議，討論如何推動創新，同時如何監管AI，確保其安全性。與會者星光熠熠，包括Tesla（美：TSLA）馬斯克、META朱克伯格、蓋茨（Bill Gates）、Google母公司Alphabet（美：GOOGL）的Sundar Pichai、微軟（美：MSFT）Satya Nadella、IBM的Arvind Krishna和OpenAI 執行長Sam Altman 等，似乎只欠 Nvidia（美：NVDA）黃仁勳。
我參加的峰會沒那麼厲害，但也不乏重量級嘉賓，包括IBM的Arvind Krishna、巨富科技投資者兼AOL創始人Steve Case、利用AI設計COVID特效藥Paxlovid的Pfizer（美：PFE）CEO Albert Bourla，和其他好幾位較傳統大企業的CEO都出席該峰會，除此亦有好幾名參與國會監管討論的資深參眾兩院議員出席。
兩黨罕有一致支持監管AI
幾位議員輪流講話，大家都贊同AI有極大潛能，例如可幫助藥物研究，提升生產效率，甚至有助對抗氣候變化（這點我有懷疑，因為大型LLM算法極耗能）等等。但同時近80%與會者更憂慮AI發展失控，因而帶來的危機。超過90%的CEO更不相信業界有足夠自律性，有效地自我監管。
這些政客都誓言將在一年內推出有效方案，極可能需要一個全新監管機構，問題是會較接近FCC（通訊，主要反壟斷）、FAA（航空，出事後解剖）還是FDA（藥管，需要註冊和預先審批）模式，我認為較嚴緊的FDA模式較適合吧！他們號稱擁有極罕有的兩黨支持（暫時只有反華），最後是否如此，還待觀察。有聰明人問為何竟獲兩黨支持，議員回答因大家都明白風險所在。但氣候變化也很明顯具充分科學證據，只是大多數共和黨人仍拒絕承認，AI威脅的證據不見得更充足。我認為一個主要分別是AI被監管對象將是極度woke的西岸數家科技龍頭，幾乎肯定大多數老闆和高管都支持民主黨，所以共和黨人也樂意支持Schumer等民主黨議員倡議監管AI。
專業人士憂職位流失 被批雙標
會議上提到六大主要AI風險，大部分從前我也討論過，但也有一些頗有新意的：
（1）消費者安全、私隱權，以及知識產權等問題。最近網上出現很多Deepfake音樂和視頻，最有名的一個例子是以AI Deepfake技術創作，假冒加拿大歌手Drake聲音和風格的Heart On My Sleeve。今年4月發行至今已在各大社交平台gone viral，播放數百萬次以上，甚至曾被謠傳將獲Grammy獎提名，但已被大會宣布不符合資格。不少人更懼怕Deepfake技術將被利用來散播假的重要政經消息，甚至滲透核武發射系統。
（2）AI對職場就業的影響。McKinsey研究報告估計到2030年前，AI已將在全球替代4億至8億個職位，但只將製造2000萬至4000萬份新的工作崗位，如屬實，將是一個職場災難！CEO們對此問題都頗憂慮，但有一名與會記者指出，工業革命200 多年以來，大量農業和低技能工種，被機器不斷自動化所取替，但大家就以社會進步的大前提來掩蓋這些工人的謀生權利。如今受到威脅的終於輪到所謂需要創作性和高知識的職業，例如律師、銀行家、企業管理層，甚至醫生和工程師（藍領勞工反而較安全），大家就突然緊張起來，充分體現雙標。
小心AI出現幻覺問題 數學能力倒退
（3）AI系統準確度，以及會否散播虛假信息等問題。這個是現今Generative（生成式） LLM模型的最大問題。ChatGPT之類的AI系統經常出現所謂Hallucination（幻覺）問題，輕者提供錯誤事實資料，重者自己創作假消息和甚至假消息來源。數學能力也頗差，且有嚴重能力倒退跡象，GPT-4初期識別Prime Number（質數）準確度高達97%，但不清楚為什麼，有報道指出近日準確度竟急跌至不到3% ，我也做過嘗試，GPT-4真的計錯，且長篇大論企圖解釋它的計算步驟。
但其實這些步驟是假的，Neural Network的算法純粹倚賴大量數據，以statistics（統計學）方法來預測下一個「字」，而並非以symbolic logic（符號邏輯學）方法來計算。有些人較悲觀，他們認為生成式AI虛有其表，似乎可與人有紋有路作交談，但其實一點意識都沒有，即使下一代GPT-5，假如以更多10倍，數以兆計的parameters（參數）作訓練，也難保證不出現幻覺問題。
樂觀者當然持相反意見，他們認為LLM的複雜度已開始接近人類腦袋，且學習速度快人類數千倍或更多，已開始出現Emergent Behaviour（湧現行為）。AI教父Geoffrey Hinton自認從前對AI發展速度較保守，以為仍需數十年才會出現意識能力，但一兩年前發現AI系統竟能解釋笑話為何好笑，他就突然感到不寒而慄，知道AI已出現湧現行為。
不聽人類指揮 不再是杞人憂天
既然如此，AI當然應有學習和進步的能力。如何提升準確度和減少幻覺是一個最熱門的研究範圍，有些專家認為這些LLM可學習運用工具，包括計算機和搜尋器等。有些IBM專家推崇Retrieval Augmented Generation（RAG）方法，以外在資料來核實LLM生成出來的內在資訊，藉此提升答案準確度。有些人更認為GPU算法較像人類右腦的聯想式思維，CPU則較像人類左腦的邏輯思維，未來AI系統應兼用兩者，達到最佳平衡。
（4）AI系統會否達到有意識（conscious）和有知覺（sentient）水平，因而發展出自我動機，甚至不聽人類指揮。這個是科幻小說中的經典憂慮，但現在已不再是杞人憂天，是非常真實的威脅，馬斯克剛警告美國參議院，AI可成為人類Civilizational Risk（文明風險），其實甚至可構成人類存在風險。有些專家形容人類正面對一個AI的”Oppenheimer”時刻，意思是AI的威力等同核武和核能，既可解決能源問題和阻嚇世界大戰，但亦可摧毁人類。
（5）AI缺乏非演繹推理式創作能力，因而社會知識反而停滯不前。這一點較有新意，但此憂慮並非無稽。大部分人天生懶惰，如過度倚賴AI，但原來它真的缺乏創作性，科技和經濟發展會否反而受損？我認為如果AI能力停留在現今水平，此現象必定會發生，但如AI繼續進步，就未必會出現。更重要的問題是未來人類應學習什麼知識和技能？即使現在，已有人懷疑再學習編碼的價值，未來的電腦語言不再需要Python，極可能只是英文或中文等人類語言。
CEO最擔心AI準確度
（6）美國AI發展落後於其他國家，當然尤其中國。這種憂慮可以理解但不合理，如果AI是一個如氣候變化般的人類共同面對威脅，那麼人類需要的是合作確保AI安全，不是一齊衝向惡崖的自殺式憂慮。
主持人又再進行一個即時電腦民調，樣本很小只數十人，但大都是CEO，影響力可不小。結果是44%最擔心AI準確度，不幸但不意外第二位是擔心美國落後於中國（25%）。第三位竟然是擔心過度倚賴AI，社會反而停滯不前（14%），第四位為知識產權和私隱憂慮（8%）。意外地，AI對職場的威脅和AI智能叛逆等憂慮，反而排到末位，各只有4%至5%的人認為這是最大擔憂。
嘗試解釋一下此調查結果。準確度是最大擔憂非常合理，如解決不了此問題，投資者將失去興趣，AI大可再次步入寒冬。美國早已墮入修昔底德陷阱式思維，憂慮中國崛起已成本能習慣。我在會上解釋中國立場，美國愈企圖在AI和半導體等範疇打壓中國，中國必更自強不息，愈發奮加速研發出更好的高科技。近日發行的華為Mate 60 Pro手機，採用7nm芯片技術，就是最好證明。中國電動車（EV）技術已完全追上西方，性價比更已超越。但欲加之罪，何患無辭，如美國堅持追查每個零件的來源，那麼美國可以不公平地企圖阻止中國高科技產品出口，但也未必成功。
擔心社會停滯不前，其實跟第一位憂慮相關的問題，如AI停止進步，人類則未必會太過倚賴它。較奇怪的是如此少人擔心IP、職場影響和AI叛逆等問題，他們或許認為有好方法解決IP和私隱問題。職場方面，他們可能仍認為AI雖將取替某些工作，但按過去經驗，也將製造更多新工種，例如prompt engineering和AI安全等，况且他們都是高高在上的CEO，炒人也炒不到他們。至於AI叛逆，或許感覺上仍有點遙遠吧！
Steve Case提出另一擔憂，就是AI發展的壟斷性問題。他支持Open Source發展（但或牽涉國家安全考慮），百花齊放將更有效推動創新和進步，亦防止科技巨頭賺取壟斷式利潤。他的憂慮非常有理，即使在互聯網年代， M7等巨企已壟斷搜尋、社交媒體、電商和生產力軟件等，但政府一直未有採取有效反壟斷措施。即使拜登委任了極痛恨壟斷的Lina Khan當FTC主席，仍無進展，是無能還是故意？
我認為美國政府也心知肚明科技巨企壟斷性行為的壞處，扼殺競爭、拉闊貧富懸殊、製造社會分化等等，但同時無可否認，這數家巨企，亦有助美國在全球的商業和意識形態壟斷，亦確保美元霸權延續。在AI年代（尤其AGI），競爭者的先決條件是需要更多的數據、金錢和compute power（計算功能），只有最大的巨無霸才有資格玩這個遊戲。有人形容，AI的競爭者數目將隨着每一代而下降，最後只剩下數家。
未來Super Power：科企巨無霸
企業家和作家Walter Isaacson剛出版了馬斯克傳記，他跟着馬斯克兩年之久，參與大量各公司會議，甚至家庭聚會，可算深度觀察和分析。書內提到馬斯克免費提供Starlink服務給予烏軍，但仍與俄羅斯保持溝通，去年曾一度切斷服務，因害怕烏軍襲擊俄羅斯黑海戰艦群，然後俄羅斯使用核武反擊。美國參議員Elizabeth Warren知道後表示震驚，建議國會調查。如果是普通人做此事，或已構成叛國，但美國需要超級英雄Iron Man，馬斯克應可化險為夷。
地緣政治專家Ian Bremmer在早前一個TED Talk提到，未來下一個Super Power未必是印度或任何一個國家，極可能就是這幾家Big Tech巨無霸！
原刊於《明報》，本社獲作者授權轉載。
潘銘基
陳嵐
梁天卓
蔣匡文
陳景祥
沈言
程介明
崔少明
李立中
陳文鴻
吳文軒
吳家豪
同意灼見名家會員服務條款及細則