適逢ChatGPT面世一年之際,OpenAI迎來公司高層的人士變動,震撼全球人工智能業界,成為城中熱話。從教育角度看,筆者認為事件是一個極佳的科研管理(Technology Research Management)課程教案,很值得科研人員從中學習,了解研究過程中管理層所經常面對的基礎與應用研發投資相關問題。
雖然OpenAI人事風波已暫告一段落,但筆者認為公司內部仍存在莫大的隱憂。假如公司只為盡快恢復以往日常運作而回聘CEO阿爾特曼(Sam Altman)的話,這僅治標而不治本,內部潛伏的「計時炸彈」會隨時被引爆,損失將會更加慘重。
歸根究柢,OpenAI問題的核心,在於管理層成員之間對公司使命存在不同的價值觀。
OpenAI初衷 創造安全通用AI
OpenAI是一間成立於2015年的非營利公司,其使命是創造「安全的通用人工智能,造福全人類」。這使命反映出OpenAI的初衷是設立一所社會企業(簡稱「社企」,Social Enterprise),以「非營利」商業模型提供「造福人類」的人工智能產品和服務。
就此,筆者認為大眾若要洞悉OpenAI內部爭拗的箇中原因,先要了解公司使命中的兩個核心要素:
(1)研發前沿的「安全的通用人工智能」技術:OpenAI由多位科技界大牛於2015年創辦,當時他們都有個共識,認為人工智能會對人類造成安全的威脅。理由很簡單,人工智能系統的目標是模仿人類的智慧和能力,為此AI工程師透過深度機器學習,從海量數據中獲取人類的知識和經驗,作為仿真「人」的大腦。
「近朱者赤,近墨者黑」,這樣的學習過程潛在不少風險,參考英國知名作家狄更斯(Charles Dickens)名著《孤雛淚》(Oliver Twist),故事中小童被「惡人」教唆,培訓成為小偷;而且倘若他不幸地未能逃出生天,那小童長大後更難免會變成大賊。
在人工智能研發方面,ChatGPT的成長(持續訓練)亦面對類似的風險,倘若「培訓員」居心不良的話,那麼長大(訓練)後的ChatGPT也可能是一個十惡不赦的「虛擬大魔頭」,危害人間。
另外,在人工智能世界中「數據為王」(Data is King)是公認的規律,原因是數據的質量決定機器學習,以至所產生的AI虛擬人的效能,但海量數據卻並非隨手可得之物,只有大型企業才能負擔得起。
「通用人工智能」要求研發出來的AI技術,並不能只針對單一應用及文化而設。例如AlphaGO只是圍棋機器人,而並不擅長下象棋;又例如建基於西方數據的ChatGPT,應用於東方世界必然「水土不服」。可是若然訓練數據是由巨擘提供的話,人工智能的「大腦」(包括其中的應用和文化知識)便會聚焦在某些領域,影響技術的通用性。
引入投資 疑不惜放緩安全考慮
再者,這情況亦自然地構成「窮者愈窮,富者愈富」的社會不均現象,窒礙人工智能的普及化;最終,先進人工智能技術都會成為巨擘的專利,導致未來的數碼世界出現更嚴重的貧富懸殊的社會問題。
(2)營運一間「造福人類」的「非營利」公司:OpenAI公司的聯合創始人都是人工智能專家,並富有創業經驗,當中包括是次風波的兩位主角,包括現任的首席執行官阿爾特曼及剛離職的前首席科學官蘇茨克維(Ilya Sutskever)。他們對OpenAI的科研發展方向各持己見,所以構成引發今次公司大地震的導火綫。
OpenAI營運開支龐大,例如當前每天的ChatGPT操作費用約70萬美元,更有媒體估計基於現在的運作模式,OpenAI將會於2024年底破產。
面對龐大開支的問題,董事會改變公司的非營利策略,於2019年成立OpenAI LP分公司,引入投資者,推行營利業務。阿爾特曼是集資高手,這任務很自然就落在他身上。他銳意把OpenAI研究(例如近期傳出的Q*項目)成果盡快推出市場,吸引投資,為此他甚至乎不惜放緩AI安全的考慮。
此舉與公司理念背道而馳,尤其是與董事會成員、科學家出身的ChatGPT設計師蘇茨克維在安全要求上產生嚴重對立,因此董事會突然於11月17日解僱阿爾特曼,揭開這場「宮鬥劇」的序幕。
阿爾特曼集資效率非常高,他於2019年引入微軟在OpenAI LP提供了10億美元的投資,並於2023年1月向公司再提供第二筆金額高達100億美元的多年投資。不過在商業世界是沒有免費午餐的,投資者必然對OpenAI有一定的要求,會設法影響OpenAI的研究方向,來滿足自己的商業需求。
倘牽涉國防軍工 恐淪為兵工廠
如此這般,研究團隊便會逐漸脫離公司「造福人類」的使命,最終成為企業(投資者)的研究外判服務商。更恐怖的是,一旦所牽涉的企業是與國防或軍事工業相關,OpenAI便淪為「兵工廠」,嚴重違背公司研發安全人工智能的初衷。
上述教案顯示科研發展無財不行;然而,科研機構包括OpenAI、大學等不能唯利是圖,仍應兼顧科技應用的安全和道德。中央政府一直推崇基礎研究,「十年磨一劍」,不容粗製濫造,是非常有必要的,這目標對香港打造「國際創科中心」亦很重要。
原刊於《經濟日報》,本社獲作者授權轉載。