過去一周，全球最熱門新聞已不再是加沙戰爭，即使每天仍有不少無辜平民老百姓受害，但短暫的news cycle（新聞周期）不停地轉，永遠在尋找新的傳媒焦點（以色列也樂見）。今周全球最大科技和商界新聞肯定就是OpenAI（OAI）的戲劇性內訌。雖然似乎Sam Altman已重回OAI，但我不相信所有人已和好如初，一切問題都已解決。事情仍在發展，今天我只將簡略討論幾個要點。
一年前當ChatGPT橫空出世時，我已對背後OAI公司有些疑問。OAI是由Elon Musk（原來最大投資者）、Sam Altman、Ilya Sutskever、Greg Brockman和其他人，在2015年共同創立的一家非牟利機構。OAI的原來目的非常崇高偉大，立志以公開原碼（Open source）模式來發展AI，但同時兼顧安全和保護人性（humanity）。但只過了兩三年，公司內部已出現矛盾，Elon Musk在2018年離開了董事會，表面原因是OAI與Tesla的AI計劃產生利益衝突，但後來他對OAI偏離原來非牟利Open source模式表示不滿。
到了2019年，OAI就似乎成立了一家所謂「capped-profit」於100倍的子公司，藉此集資，至今已成功引進了微軟（佔49%）、Sequoia、Tiger Global和其他星光熠熠的投資者，集資過百億美元。從GPT-3起，OAI亦不再是「Open source」了。另一埋下內訌伏線的要點是據報行政總裁Sam Altman並不擁有任何股權，因此他的個人利益與OAI未必一致。
「Q*計劃」疑成內訌導火線之一
今月初OAI舉行了第一次developers conference（開發者會議），宣布了一系列「personalized GPT」產品，包括正準備推出一個「GPT app store」。據最新報道，OAI還有一個秘密「Q*計劃」，有能力征服GPT的最弱項──數學，如成功，將加速達到 AGI（Artificial General Intelligence）或甚至超越人類的ASI （Artificial Super Intelligence）水平。但「Q*計劃」令到董事會更擔心AI發展過快，未有足夠安全措施，似乎成為內訌的另一導火線。
當時OAI如日方中，市場估值高達860億美元，員工更有計劃出售部分股權套現。但在11月15日，OAI董事會突然發出通告，解僱行政總裁Sam Altman，並無解釋詳細原因，只隱晦指控Altman與董事會的溝通並非完全透明，大概意思是「不忠不實」。這是一個超重型炸彈，馬上引發整個矽谷地震，似乎連最大投資者但沒有董事代表的微軟，也只獲得15分鐘的預先通知。
之後數天發生的事情一片混亂，盡顯所有startups的「corporate governance」（企業管理）弱點，完全是「amateur hour」（業餘表演時間）的最佳示範。最初指派CTO Mira Murati當臨時CEO，後來又極速聘請了Twitch的前CEO Emmett Shear當CEO，更曾與競爭對手Anthropic磋商合併，簡直瘋狂。這場內訌被一些評論員形容為螞蟻金服以來的最大一次自殺式價值摧毀，如所有員工各散東西，價值可以歸零。絕大部分員最關心的當然是自身利益和錢，而非拯救人類。員工和所有投資者都恐懼突然見財化水，所以發起公開信，要求公司重邀Sam Altman回巢，並重組董事會。結果700多員工中，超過95%簽名支持，包括Chief Scientist、共同創始人兼董事Ilya Sutskever，他甚至表示非常後悔炒掉Altman。此舉實在非常吊詭，因為他是AI教父Geoff Hinton的得意門生，本以為他跟師父一樣擔心AI對人類構成的存在性威脅，所以就應是開除被指背棄初心叛徒Sam Altman的幕後推手。Musk更稱讚他有崇高「moral compass」（道德指南針），同意開除Altman必有足夠原因，但如今「道德指南針」竟突然180度移位。
微軟CEO：OAI管理須大大改善
微軟（美：MSFT）行政總裁納德拉（Satya Nadella）被稱讚為最傑出領袖，市值直逼蘋果（美：AAPL），很大機會可在短期內超越。面對危機，他企圖力挽狂瀾，首先表明既繼續支持OAI，但後來又邀請Altman和任何有興趣的OAI員工加入微軟，將讓Altman領導一支全新AI開發團隊，但似乎暫時Altman已決定回去OAI。
但覆水是否真的這麼容易重收？納德拉也說過OAI的管理必須大大改善，現時見到的改變只有董事會的重組。Sam Altman、Ilya Sutskever和Greg Brockman都出局，兩名外來的女董事： 一名Georgetown大學研究創新科技安全專家Helen Toner及一名機械人工程師和創業家Tasha McCauley，也被踢出局。
唯一留下來的是Adam D’Angelo，換來兩名新董事：前Salesforce Co-CEO暫當董事長Bret Taylor和極具爭議的美國前財長、哈佛前校長薩默斯（Lawrence Summers）。薩默斯曾有多次失言紀錄，包括懷疑女性的數學能力，和歧視黑人教授和非洲落後國家。猶太裔的他，近日更力撑以色列，更曾指問哈佛為何沒有譴責哈馬斯（Hamas）恐襲，要求校長下台。相信OAI仍將擴大董事會，但暫時又回到3名白人男士，有歧視女性和少數族裔之嫌，甚至是否把亂局責任推到兩名只是盡忠職守，較看重AI安全的女董事身上？
很多人問誰是贏家和輸家。現在最大贏家當然是Sam Altman，原來大部分員工和投資者都對他非常忠心，他將可控制OAI的未來發展方向。市場似乎亦認為微軟是贏家，其實最佳結果是Altman和大部分工程師加入微軟，既可更全面控制技術發展，亦是等同收購整家OAI的最便宜方法，更可避免反壟斷憂慮。即使Altman真的回到OAI，但微軟也應最少能爭取到董事會一席或更多，亦希望能有助改善企業管理質素。
不少人較現實，不太相信所有人真的完全忠心於Altman，員工們主要想保護OAI估值，希望盡快套現，投資者亦一樣。套現後，可能不少員工仍將選擇離開，甚至部分客人也表示將分散投資，不會再單獨倚靠OAI，相信連微軟也會這樣做法。所以有些人認為，Meta（美：META）、Google、Amazon（美：AMZN）和Anthropic等，也或是贏家，將可吸納部分OAI人才、顧客和投資者。即使Altman回歸的主因之一，也是為了避免得罪Sequoia和Tiger等金主。
輸家是誰？Ilya Sutskever或將是輸家，他會否留在OAI都是一個謎。希望不是，但較可怕的輸家就是AI安全和人類福祉。
這個引人入勝的故事，肯定未到結局，仍有大堆疑團，可分為三個層面。第一，OAI層面，公司重組肯定未完成，董事會仍須擴大，更需考慮應否重組為正式牟利機構。Altman的合同也要弄清楚，應否給予他一些股權，和怎樣處理他的其他計劃和投資，如何避免利益衝突。另外，如重組為牟利公司，又會否與原來發展安全AI的目的產生矛盾？
第二個是國家層面。如OAI重組後一切以利益掛帥，加上最新「Q*」突破，加速奔向AGI和ASI，安全性責任就將轉到政府監管方面。早前白宮已公布頗詳細的AI安全指引，但如何落實執行將是一個重要問題。再者，中美科技鬥爭如此激烈，即使美國有點擔心AI發展過快，有機會出錯或失控，但會否願意減慢，是個大難題。是否記得大半年前，美國麻省理工學院（MIT）教授Max Tegmark曾牽頭發表一封有數百學者和企業家，包括Elon Musk支持的公開信，呼籲美國企業停止AI研究6個月，花點時間研究安全問題。只要求6個月暫停，是因為他估計美國只領先中國AI發展不到1年，但結果無任何重要企業願意停下AI開發步伐。
倘無法控制AI神級力量 將威脅人類存在
第三個考慮層面就真的是全人類的影響，包括經濟、政治、文化和甚至存在性威脅等問題。AI安全研究經常提到Alignment（對齊）問題，但除非能實現世界大同，要不然怎可能實行科幻小說家Isaac Asimov的著名3 Laws of Robots：最基本意思是，任何情况底下，機械人絕不可傷害人類。但如美軍發展AI戰鬥機械人，他們將要求AI與美國利益對齊，即不可傷害美國人，但如要陣上取勝，就必須殺敵，怎可能與對方利益對齊，遵守什麼機械人定律。正因如此，上周習拜峰會上，喜見其中一個共識就是如何共同發展AI安全措施，包括軍事應用。
AI已成為核武後的另一個人造的人類存在性風險。今次OAI事件，是否反映AI也到了所謂Oppenheimer時刻，不覺意釋放了神級力量出來，發現極難甚至無法控制，然後才後悔，但可能為時已晚！「我現在成了死神，世界的毁滅者。」（《薄伽梵歌》）
（中環資產投資擁有蘋果、微軟、Meta、Google和Amazon財務權益）
原刊於《明報》，本社獲作者授權轉載。
車品覺
陳章華
王弼
施永青
鄭永年
周光蓁
陳家偉
張翠容
徐家健
常霖法師
黃錦輝