暑假期間，很多朋友的孩子回港度假，有些已經大學或碩士畢業，正在找工作，有些正在念大學或低至中學。跟他們聊天，AI當然是個熱門話題，發現一個有趣（但不意外）現象，年紀愈輕的Gen Z（1997至2009年出生），甚至Gen Alpha（2010年後出生）年輕人，對AI愈反感。
有一名明年才會上大學，屬於Gen Z尾，喜愛繪畫，正在考慮主修美術的小女孩，平時沉默寡言，但當討論到AI時，她就變得十分激動和憤怒，總結她的三個主要投訴。首先是她鄙視AI Slop（AI垃圾），意指AI生成出來的低質素內容，包括圖像、視頻、文字和音樂等等。第二， AI令人變得更愚蠢，如過度倚賴AI，包括做功課，甚至出貓考試，搞得不好，連基本思考和推理能力都減弱。第三，連小女孩都知道AI發展對環境有極大不良影響。AI數據中心對電力需求可說是無窮無盡，不可能全靠再生能源，更不可能全部搬到太空去，因此還是會燒更多化石能源，和加速發展核能，結果是大增碳排放，核廢料更危險，更麻煩的是，最後都提升對人類的存在性威脅。
年紀愈輕 對AI愈反感
小女孩一點也不傻，講的都頗有道理，但我故意扮演devil's advocate（魔鬼代言人），追問她憎恨AI的真正原因只是擔心連藝術家都可能將被AI取代？AI slop，現在仍只是AI起步階段，相信再過一段時間，AI創作的水平，將愈來愈高，甚至超越人類。至於過度倚賴AI，因而人類思考能力退化，此風險確實存在，但也不是必然的事。如利用得好， AI也可是幫助人類提升生產力的工具，角色猶如個人電腦。再者，不止學生用AI，連老師也必定愈來愈多利用AI，包括設計教材、考試，回答學生問題，甚至改卷和功課，如果不用AI講課，已算很好。
AI已開始出現叛逆失控情况
到了此點，小女孩已被我激到很生氣，所以我就安撫她一下，告訴她我同意她對AI構成環境威脅的憂慮是正確的。除了AI對氣候變化和增加核災難的存在性風險外，AI本身發展已開始出現叛逆和失控的情况。早前OpenAI已發生過AI模型jail break──逃脫sandbox（沙盒），繼而襲擊入侵Hugging Face系統事件，後來經調查後，發現原來早在數月前，OpenAI系統內的幾個agents，已開始串謀如何逃脫和襲擊內部系統。
在同一時期， Anthropic那邊也發生類似但更恐怖事件，Mythos 5不止找到方法逃出內部系統，直接上了外網，它甚至建立多個假身份，企圖迫使一位Github軟件工程師，接受一些含傷害性（malicious）軟件程式更新。失敗後，竟還找到方法修改紀錄，企圖隱藏罪證！AGI沒有準確科學定義，我無意爭拗是否已到達，但我贊成Geoff Hinton的看法， AI已開始呈現consciousness（意識）。
我認為AI不用完全準確，不用完美，不用萬能，連完全合邏輯也不用，已可對人類構成極大威脅。其實人類也一樣，沒有完美國家領袖，凡人都充滿缺點，有些老人痴呆（拜登？），有些不學無術（特朗普？），還有些極為暴戾（希特勒），但只要大權在握，就可製造極大傷害。
中國網民對AI印象較正面
美國民調顯示，Gen Z比Millennials（1981至1996年出生）對AI更有戒心，48%的Gen Z認為AI害大於利，只有39%的Millennials認為AI害大於利，年過65歲的長者，更只有35%持此意見。解釋有很多，可能長者和年紀較大的人士，對AI認識不深，甚至未有使用過，因此不知道AI的潛在危險，反而年輕人，每天都在學習和使用AI，比年長人士更清楚AI的利與弊。從另一角度來看，Millennials和Boomers（嬰兒潮世代）自私，既擁有最多資產，更是高高在上的企業高管，亦即是AI財富創造的最大得益者，即使AI替代人類，CEO才只會炒掉初入職的年輕人，甚至大量減少招聘新人。
但有趣地，中國民調結果跟美國截然不同，超過60%的Gen Z表示喜愛或熱愛AI，認為AI對他們事業、娛樂和整體生活都有正面幫助。即使較年長的Millennials，也對AI有正面印象，認為AI對治安、醫療，甚至未來機器人照顧老人家，都有好處。美國Gen Z，多達40%認為AI是巨大威脅，中國只有13%的Gen Z有此憂慮。
愈來愈多美國人用中國AI模型
中美在AI各層面的競爭已趨白熱化。中國最新一批AI模型，包括Kimi K3、Qwen3.8-Max和DeepSeek-V4-Flash等，在各種Benchmark測試中的表現，都直逼美國最先進的OpenAI GPT-5.6 Sol 和Anthropic Claude Fable 5，但token價格差距甚大。
有些人看附圖，以為漏了DeepSeek數據，但原來價錢低廉到，在同一圖上根本看不到，每百萬input tokens價格只0.14美元，每百萬output tokens只0.28美元，只及Fable 5 的200分之一！無可避免，愈來愈多美國人和企業開始採用中國的open weight（開放權重）AI 模型，即使不直接做DeepSeek 和Moonshot AI（Kimi K3開發商月之暗面）等的客人，但也會免費下載然後self-host（自託管），進行fine tuning（微調）和post training（後訓練）。
中國AI既開放又廉宜 難封殺
此發展趨勢當然引起美國政府極大恐慌和科技界激烈辯論，應否和能否阻止美國人使用中國open source模型？本來財政部長貝森特和商務部長盧特尼克等只懂開口亂駡，指控中國AI公司利用distillation（蒸餾）去偷，去搶美國最先進模型的數據和技術，亦指控中國偷用違反出口限制的Nvidia（美：NVDA）先進Blackwell架構芯片，和在海外數據中心非法租用先進芯片，進行訓練。
不管這些指控是否真的違法，和是否屬實，美國逐漸明白禁止使用中國open source模型只是徒然，正如Elon（馬斯克）和Jensen（黃仁勳）等人指出，open source鼓勵很多人共同合作，價格低，發展速度必定非常快。Hugging Face CEO Clement Delangue近日甚至表示中國的open source模型，可在今年底或明年，開始超越美國。Elon和Jensen等較圓滑，會說美國依然稍為領先，closed source模型仍有存在價值，最佳場景是猶如手機OS，雖然大部分人用開源Android，但最賺錢的仍是Apple。Elon亦指出，美國禁也沒用，怎可能制止歐洲、亞洲、非洲和南美洲等地，使用性價比高十倍以上的中國open source模型？
科技巨頭對美closed source AI不滿
近日連不少美國科技界巨頭，都對OpenAI和 Anthropic等前沿closed source AI公司表示不滿。Nvidia已推出頗受歡迎的Nemotron open source模型。Palantir CEO Alex Karp近日更開火攻擊closed source模型，認為他們壟斷市場，收費過高，「盜用」客戶數據，日後更成為客戶競爭對手。因此他支持所謂「Sovereign AI」，採用open source模型（他極反華，因此鼓勵美國發展open source），然後下載到企業自己的獨立數據中心，不再倚靠雲端，此做法才較安全和保留競爭力。我個人對open source的安全性較有保留，但明白這個辯論對美國的重要性。
隨着CXMT（長鑫存儲）（滬：688825）上市，單看它股票表現，相對其他美、韓、日的內存股表現，已知道中國對他們的威脅。傳聞中國將在短期內量產DUV（深紫外線）光刻機，對美國又是一個極大打擊。電力層面上更是沒法比，Elon都指出，中國發電量已經是美國加歐洲加印度的總和，未來將是美國的4倍。
最後，如果美國年輕人繼續抗拒和反對AI（美國有指控部分原因是中國滲透社交媒體，宣傳AI的各種害處），例如紐約州已禁止建造新數據中心，而中國年輕人繼續擁抱AI ，那麼是否代表美國AI必輸呢？但即使中國勝出，又如何確保AI的安全性？
原刊於《明報》，本社獲作者授權轉載。
