今周繼續忙碌《蔽月無眠》的事情，包括排練、票務和宣傳等。周二在主辦機構藝穗會舉行了記招，由主席梁振英夫人梁唐青儀女士正式宣布此劇將於10月1至4日（共5場），在東九龍文化中心作全球首演！老實說，我第一次做監製，本頗擔心票房，最初開售幾天，每晚都盯着成績，更廣發邀請函，但到了最近多了廣告和傳媒報道，現在竟然出現爭票情况，門票已接近售罄！各位長期支持我的讀者們，如有興趣來欣賞本劇，欲免向隅，請立刻在城市售票網購票！我們榮幸邀請到米雪姐參演，一如她對傳媒所說，本劇有中西合璧優美音樂、新穎舞蹈及武打、一流管弦樂團伴奏、華麗布景和服裝，還有一個超越千年時空、宣揚和平和愛的動人故事（小弟構思的），簡直非常抵睇！
除了愛情，我們還加入了不少哲學、AI甚至量子物理元素。但抱歉，沒有翻筋斗的機械人，我們反而較重視AI是否已達到有意識，甚或擁有靈性的地步。若如黃仁勳（Jensen）在OpenAI發布最新GPT-6 Astra之後所說「AGI has arrived」，人類跟AI的關係又會發生怎樣的改變？人類能否繼續控制AI？AI性本善，還是惡呢？正好，這些也是本劇所探討的問題。
蓋茨開始公開警告AI危險性
數周前，本為科技界殿堂級人物，但後因愛潑斯坦（Epstein）醜聞而形象破產的蓋茨（Bill Gates），已開始公開警告AI的危險性，明知不容易取得信任，但仍大膽斷言「This time is different」， AI 跟過去數百年的所有科技都不一樣，雖對增加生產力和科學科技發展將有極大幫助，但同時亦或將大大影響就業。更大擔憂當然是AI過了AGI水平後，直接走向ASI（Artificial Super Intelligence），遠遠超越人類！Bill Gates試圖表示樂觀，認為如前沿AI實驗室聯同各國政府，馬上採取行動，應仍能確保AI受控於人類（但沒有提出具體方案），希望AI對人類仍有淨好處（net positive）。
專家料明年底前變失控
最近，連在Anthropic工作的研究員Jacob Coxon，在X平台上高調宣布辭職，原因是他認為AI已能夠做到「Recursive Self Improvement（遞歸迴自我改進）」，即不需要人類輔助，已可自我改良，加速進步，預測明年底前已將變成失控！他說不只他知道這個「事實」，其實行內不少專家都用「crunchtime」和「endgame」等詞語來形容現今AI發展階段。連Anthropic的總科學家（Chief Scientist）Evan Hubinger，也同意風險極大，認為在未來十年內，AI殺害全人類的概率超過10%，是一個非常駭人的警告！
OpenAI的總科學家Jakub Pachocki，也同樣警告人類並未為AI加速發展所帶來的後果，作好足夠準備，他呼籲各AI公司放緩發展速度，亦需要政府政策干預。其實Anthropic老闆Dario Amodei已經是出名較小心AI安全問題，但現在他的員工仍覺得風險非常高，寧離開也不願繼續盲目向前。OpenAI 出名亂來，但Sam Altman也說如不馬上採取行動，網路安全出現嚴重危機。但Anthropic和OpenAI仍在全速排隊上市，各自索價2萬和超過1萬億美元的估值！真的會slow down嗎？
AI教父籲母性本能植入AI系統
指出問題容易，但有何方法改變軌跡、避免災難，才是真正挑戰。瑞典哲學家Nick Bostrom早在2003年一篇論文中，已有一個所謂AGI「科幻式假想」，如人類交給AI一個簡單任務，就是盡力生產paper clips（萬字夾）。Bostrom認為AI什麼都不管，缺乏人類價值觀（能算AGI），只集中執行生產萬字夾任務，或將逐漸擔憂人類將成為達標障礙，甚至發現人體內血液含有鐵質，因此決定毁滅人類。
AI教父Geoffrey Hinton教授，早在數年前已對AI徹底改觀，同樣擔心AI 為人類帶來的存在性威脅。他指出世界上，極少較愚蠢的動物，可長期操控比他自己聰明的動物。他認為唯一例外是母親和嬰兒的關係，雖然母親比嬰兒強大和「聰明」，但只要嬰兒「扭計」大哭，很多時候都可以得到想索求的東西。因此他認為必須把maternal instinct（母性本能），植入AI系統，才能確保不會傷害人類。
母性AI最終或令人類失去自由
我非AI模型專家，但感覺上，單靠AI「母性本能」來保護人類未來，有點兒戲。疑問有很多，首先何謂「母性本能」，動物世界中是一些經數百萬年進化出來的東西，既有基因和化學作用，亦有經母子相處而產生的「感情」，能否可以一塊芯片或編碼，就能成功植入AI系統？如AI已到了擁有Recursive Self Improvement能力，會否逐漸減弱，改變甚至逆轉此母性本能？即使人類母親，跟孩子的關係，也必隨時間而改變。再者，即使AI長期以母親態度看待人類，但人類又願否永遠被AI母親嚴厲管教，好聽是「愛」，是為了保護「孩子」，但是否亦等於人類失去自由？
退一步，我甚至懷疑人類是否真的想防止AI或將帶來比核武更嚴重的災難。近日美國有些政客如參議員Bernie Sanders和Illinois州長JB Pritzker，提出立法管制AI的重要性。但這些法案能否通過，是另一回事。財政部長貝森特（Bessent）已多次說過，AI最大風險並非 cyber-security（網絡安全），亦非bio-security（生物安全），甚至不是AI奪取核武控制權。他認為AI最大風險只是輸給中國！在最近一次訪問中，特朗普仍天真地以為人類必可保留「關機」權力。
特朗普天真以為人類可保「關機」權力
早前我已指出一個奇怪中美對比。近半美國年輕人痛恨AI，超過70%美國人反對在他們家附近建數據中心。中國人相對熱愛AI，超過60%年輕人認為AI對他們事業和生活有正面幫助。美國媒體甚至有報道，中國滲透美國社交平台，開設數十萬個假帳戶，故意中傷AI，令到更多人憎恨AI，間接阻慢美國AI發展，有助中國勝出。我不知道這些指控真實與否，但其實中國向來較看重AI安全問題，已立法監管。但無可避免，中國也面對同樣問題，據報道，早前Kimi和DeepSeek等，也曾經歷AI模型逃出沙盒事件。
中國同樣面對AI失控問題
記得數年前的一個訪問中，MIT物理教授兼Future of Life Institute創始人Max Tegmark，已把激烈AI競賽比喻為一場向着懸崖高速開駛的 chicken賽車，鬥誰最大膽，最遲煞車。問題在於愈接近懸崖邊，風景愈開闊壯麗，誰願意煞車，意思是賺的錢更多，亦更接近成功造神，滿足感愈大，當然更不會停止。Tegmark最後指出，當一台跑車衝越崖邊，才發現全部跑車都是被一條鐵鏈鎖在一起的，只要一台跌進深淵，其他人也不能倖免！
人類自作孽，不可活！
原刊於《明報》，本社獲作者授權轉載。
