上周去了台灣參加AI會議,今周就來到華盛頓參加我是常客的CEO峰會。本以為主要討論美聯儲息率政策、總統大選最新消息、G20峰會對全球地緣政治的影響,以及每次必提到的中美關係等等……但竟然不是。主持人一開始已說明總統選舉留待明年才討論,會議沒有花時間討論息率政策,但超過一半CEO認為美聯儲應在短期內開始減息。G20和BRICS峰會索性隻字不提,完全體現美國優先精神,對外面世界發生的事,基本上漠不關心。即使中美關係,這個過去5、6年來最熱門的議題,也只輕輕帶過,沒有深入討論。連主持最熱心的俄烏戰爭,也只讚揚在場的波蘭在短短一年多內,已成功完全停止對俄羅斯天然氣的倚賴。今次峰會的焦點全都放在如何監管AI!
今周華盛頓很熱鬧,參議院多數黨領袖舒默(Chuck Schumer)聯同其他幾名兩黨參議員(其他參議員也可列席,但不可發問),邀請了20多名科技界巨頭來參加一個閉門會議,討論如何推動創新,同時如何監管AI,確保其安全性。與會者星光熠熠,包括Tesla(美:TSLA)馬斯克、META朱克伯格、蓋茨(Bill Gates)、Google母公司Alphabet(美:GOOGL)的Sundar Pichai、微軟(美:MSFT)Satya Nadella、IBM的Arvind Krishna和OpenAI 執行長Sam Altman 等,似乎只欠 Nvidia(美:NVDA)黃仁勳。
我參加的峰會沒那麼厲害,但也不乏重量級嘉賓,包括IBM的Arvind Krishna、巨富科技投資者兼AOL創始人Steve Case、利用AI設計COVID特效藥Paxlovid的Pfizer(美:PFE)CEO Albert Bourla,和其他好幾位較傳統大企業的CEO都出席該峰會,除此亦有好幾名參與國會監管討論的資深參眾兩院議員出席。
兩黨罕有一致支持監管AI
幾位議員輪流講話,大家都贊同AI有極大潛能,例如可幫助藥物研究,提升生產效率,甚至有助對抗氣候變化(這點我有懷疑,因為大型LLM算法極耗能)等等。但同時近80%與會者更憂慮AI發展失控,因而帶來的危機。超過90%的CEO更不相信業界有足夠自律性,有效地自我監管。
這些政客都誓言將在一年內推出有效方案,極可能需要一個全新監管機構,問題是會較接近FCC(通訊,主要反壟斷)、FAA(航空,出事後解剖)還是FDA(藥管,需要註冊和預先審批)模式,我認為較嚴緊的FDA模式較適合吧!他們號稱擁有極罕有的兩黨支持(暫時只有反華),最後是否如此,還待觀察。有聰明人問為何竟獲兩黨支持,議員回答因大家都明白風險所在。但氣候變化也很明顯具充分科學證據,只是大多數共和黨人仍拒絕承認,AI威脅的證據不見得更充足。我認為一個主要分別是AI被監管對象將是極度woke的西岸數家科技龍頭,幾乎肯定大多數老闆和高管都支持民主黨,所以共和黨人也樂意支持Schumer等民主黨議員倡議監管AI。
專業人士憂職位流失 被批雙標
會議上提到六大主要AI風險,大部分從前我也討論過,但也有一些頗有新意的:
(1)消費者安全、私隱權,以及知識產權等問題。最近網上出現很多Deepfake音樂和視頻,最有名的一個例子是以AI Deepfake技術創作,假冒加拿大歌手Drake聲音和風格的Heart On My Sleeve。今年4月發行至今已在各大社交平台gone viral,播放數百萬次以上,甚至曾被謠傳將獲Grammy獎提名,但已被大會宣布不符合資格。不少人更懼怕Deepfake技術將被利用來散播假的重要政經消息,甚至滲透核武發射系統。
(2)AI對職場就業的影響。McKinsey研究報告估計到2030年前,AI已將在全球替代4億至8億個職位,但只將製造2000萬至4000萬份新的工作崗位,如屬實,將是一個職場災難!CEO們對此問題都頗憂慮,但有一名與會記者指出,工業革命200 多年以來,大量農業和低技能工種,被機器不斷自動化所取替,但大家就以社會進步的大前提來掩蓋這些工人的謀生權利。如今受到威脅的終於輪到所謂需要創作性和高知識的職業,例如律師、銀行家、企業管理層,甚至醫生和工程師(藍領勞工反而較安全),大家就突然緊張起來,充分體現雙標。
小心AI出現幻覺問題 數學能力倒退
(3)AI系統準確度,以及會否散播虛假信息等問題。這個是現今Generative(生成式) LLM模型的最大問題。ChatGPT之類的AI系統經常出現所謂Hallucination(幻覺)問題,輕者提供錯誤事實資料,重者自己創作假消息和甚至假消息來源。數學能力也頗差,且有嚴重能力倒退跡象,GPT-4初期識別Prime Number(質數)準確度高達97%,但不清楚為什麼,有報道指出近日準確度竟急跌至不到3% ,我也做過嘗試,GPT-4真的計錯,且長篇大論企圖解釋它的計算步驟。
但其實這些步驟是假的,Neural Network的算法純粹倚賴大量數據,以statistics(統計學)方法來預測下一個「字」,而並非以symbolic logic(符號邏輯學)方法來計算。有些人較悲觀,他們認為生成式AI虛有其表,似乎可與人有紋有路作交談,但其實一點意識都沒有,即使下一代GPT-5,假如以更多10倍,數以兆計的parameters(參數)作訓練,也難保證不出現幻覺問題。
樂觀者當然持相反意見,他們認為LLM的複雜度已開始接近人類腦袋,且學習速度快人類數千倍或更多,已開始出現Emergent Behaviour(湧現行為)。AI教父Geoffrey Hinton自認從前對AI發展速度較保守,以為仍需數十年才會出現意識能力,但一兩年前發現AI系統竟能解釋笑話為何好笑,他就突然感到不寒而慄,知道AI已出現湧現行為。
不聽人類指揮 不再是杞人憂天
既然如此,AI當然應有學習和進步的能力。如何提升準確度和減少幻覺是一個最熱門的研究範圍,有些專家認為這些LLM可學習運用工具,包括計算機和搜尋器等。有些IBM專家推崇Retrieval Augmented Generation(RAG)方法,以外在資料來核實LLM生成出來的內在資訊,藉此提升答案準確度。有些人更認為GPU算法較像人類右腦的聯想式思維,CPU則較像人類左腦的邏輯思維,未來AI系統應兼用兩者,達到最佳平衡。
(4)AI系統會否達到有意識(conscious)和有知覺(sentient)水平,因而發展出自我動機,甚至不聽人類指揮。這個是科幻小說中的經典憂慮,但現在已不再是杞人憂天,是非常真實的威脅,馬斯克剛警告美國參議院,AI可成為人類Civilizational Risk(文明風險),其實甚至可構成人類存在風險。有些專家形容人類正面對一個AI的”Oppenheimer”時刻,意思是AI的威力等同核武和核能,既可解決能源問題和阻嚇世界大戰,但亦可摧毁人類。
(5)AI缺乏非演繹推理式創作能力,因而社會知識反而停滯不前。這一點較有新意,但此憂慮並非無稽。大部分人天生懶惰,如過度倚賴AI,但原來它真的缺乏創作性,科技和經濟發展會否反而受損?我認為如果AI能力停留在現今水平,此現象必定會發生,但如AI繼續進步,就未必會出現。更重要的問題是未來人類應學習什麼知識和技能?即使現在,已有人懷疑再學習編碼的價值,未來的電腦語言不再需要Python,極可能只是英文或中文等人類語言。
CEO最擔心AI準確度
(6)美國AI發展落後於其他國家,當然尤其中國。這種憂慮可以理解但不合理,如果AI是一個如氣候變化般的人類共同面對威脅,那麼人類需要的是合作確保AI安全,不是一齊衝向惡崖的自殺式憂慮。
主持人又再進行一個即時電腦民調,樣本很小只數十人,但大都是CEO,影響力可不小。結果是44%最擔心AI準確度,不幸但不意外第二位是擔心美國落後於中國(25%)。第三位竟然是擔心過度倚賴AI,社會反而停滯不前(14%),第四位為知識產權和私隱憂慮(8%)。意外地,AI對職場的威脅和AI智能叛逆等憂慮,反而排到末位,各只有4%至5%的人認為這是最大擔憂。
嘗試解釋一下此調查結果。準確度是最大擔憂非常合理,如解決不了此問題,投資者將失去興趣,AI大可再次步入寒冬。美國早已墮入修昔底德陷阱式思維,憂慮中國崛起已成本能習慣。我在會上解釋中國立場,美國愈企圖在AI和半導體等範疇打壓中國,中國必更自強不息,愈發奮加速研發出更好的高科技。近日發行的華為Mate 60 Pro手機,採用7nm芯片技術,就是最好證明。中國電動車(EV)技術已完全追上西方,性價比更已超越。但欲加之罪,何患無辭,如美國堅持追查每個零件的來源,那麼美國可以不公平地企圖阻止中國高科技產品出口,但也未必成功。
擔心社會停滯不前,其實跟第一位憂慮相關的問題,如AI停止進步,人類則未必會太過倚賴它。較奇怪的是如此少人擔心IP、職場影響和AI叛逆等問題,他們或許認為有好方法解決IP和私隱問題。職場方面,他們可能仍認為AI雖將取替某些工作,但按過去經驗,也將製造更多新工種,例如prompt engineering和AI安全等,况且他們都是高高在上的CEO,炒人也炒不到他們。至於AI叛逆,或許感覺上仍有點遙遠吧!
Steve Case提出另一擔憂,就是AI發展的壟斷性問題。他支持Open Source發展(但或牽涉國家安全考慮),百花齊放將更有效推動創新和進步,亦防止科技巨頭賺取壟斷式利潤。他的憂慮非常有理,即使在互聯網年代, M7等巨企已壟斷搜尋、社交媒體、電商和生產力軟件等,但政府一直未有採取有效反壟斷措施。即使拜登委任了極痛恨壟斷的Lina Khan當FTC主席,仍無進展,是無能還是故意?
我認為美國政府也心知肚明科技巨企壟斷性行為的壞處,扼殺競爭、拉闊貧富懸殊、製造社會分化等等,但同時無可否認,這數家巨企,亦有助美國在全球的商業和意識形態壟斷,亦確保美元霸權延續。在AI年代(尤其AGI),競爭者的先決條件是需要更多的數據、金錢和compute power(計算功能),只有最大的巨無霸才有資格玩這個遊戲。有人形容,AI的競爭者數目將隨着每一代而下降,最後只剩下數家。
未來Super Power:科企巨無霸
企業家和作家Walter Isaacson剛出版了馬斯克傳記,他跟着馬斯克兩年之久,參與大量各公司會議,甚至家庭聚會,可算深度觀察和分析。書內提到馬斯克免費提供Starlink服務給予烏軍,但仍與俄羅斯保持溝通,去年曾一度切斷服務,因害怕烏軍襲擊俄羅斯黑海戰艦群,然後俄羅斯使用核武反擊。美國參議員Elizabeth Warren知道後表示震驚,建議國會調查。如果是普通人做此事,或已構成叛國,但美國需要超級英雄Iron Man,馬斯克應可化險為夷。
地緣政治專家Ian Bremmer在早前一個TED Talk提到,未來下一個Super Power未必是印度或任何一個國家,極可能就是這幾家Big Tech巨無霸!
原刊於《明報》,本社獲作者授權轉載。