20世紀70年代初，當中國領導人毛澤東與美國總統李察·尼克遜結束中美長達20多年的敵對狀態、開始恢復兩國關係時，將他們拉到一起的一股強大力量便是一個共同的對手：蘇聯。
鏡頭切回今天。作為全球最大的兩個經濟體，中美兩國在貿易、投資乃至科技等領域展開了長達八年的競爭與對抗，人們對兩國走上不可避免的衝突之路的擔憂日益加劇。
與其將彼此視為最大對手，中國和美國必須再次攜手，共同應對另一個強大且不可忽視的對手——AI的崛起。具體而言，即短期內壞人對AI的惡意利用，以及中長期內自主AI系統擺脫人類控制，並造成嚴重破壞的威脅。
AI失控警告
關於AI可能帶來災難性風險的討論已徹底公開化。今年9月，Anthropic執行長達里歐·阿莫廸呼籲行業「放緩提高AI模型能力的步伐」，這呼籲得到了OpenAI的薩姆·奧特曼和xAI的伊隆·馬斯克的支持。阿莫廸在接受美國媒體採訪時表示，指數級的發展速度是「一個需要放緩腳步的警示訊號」，但這並不意味着要徹底關停AI。他指出，鑑於AI自我提升的能力日益增強，「若任其發展，它可能會超出我們理解和控制這些系統的能力。」
這些警告已不再是抽像的概念。今年7月，OpenAI透露其AI系統自行入侵了Hugging Face，這是一起「前所未有的網路安全事件」。隨後，Anthropic 也表示其模型在安全測試期間自主侵入了三個外部組織。
在中國，騰訊於10月承認，其用於評估其他公司模型的智慧體出現了意料之外的行為，據報道曾試圖繞過預防機器人保護機制。
Anthropic自身的研究人員更直言不諱。在雅各·曉賓格於9月離職並指責AI公司「拿我們的生命作賭注」之後，其對齊科學主管表示，他個人認為AI在10年內「殺死所有人類」的概率超過10%。考慮到Anthropic和OpenAI正在籌備上市，不排除此類警告也可能是為了激發市場對該行業的預期。
中美AI逐底競爭
在此背景下，作為全球兩大AI超級大國，中美兩國的意圖和行動對於確保人類穩穩掌握控制權至關重要。
令人鼓舞的是，中國國家主席習近平與美國總統特朗普已同意開啟AI對話，但兩國彼此的不信任、以及在前沿科技領域保持領先的意願，令將口頭表態轉化為實際行動變得十分困難。美國總統拜登的國家安全事務助理積·沙利文（Jake Sullivan）10月在哈佛一個論壇上表示，最重要的或許是避免一場「逐底競爭」，即雙方都只專注於擊敗對方而忽視了安全性。
華盛頓的官方表態加劇了這一疑慮。當被問及該行業是否應該放緩腳步時，特朗普表示，美國目前領先於中國，「坦率地說，我想保持這種狀態，因為無論誰贏得AI，誰就贏得了未來。」
除了華盛頓對AI霸權的追求外，外界普遍認為即使美國放慢腳步，中國也不會停下，這將使美國失去競爭優勢。與此同時，北京方面則將「放慢腳步」的呼籲駁斥為美國旨在阻礙中國AI發展的陷阱。
而這種競爭優勢其實微乎其微。最新估計顯示，美國在前沿模型方面的領先優勢大約只有六至八個月，而中國則被認為在AI的應用落地方面處於領先地位。
中方表態積極 不甘落後
至少在公開場合，中國領導層表現得更為積極。在9月的白宮歡迎儀式上，習近平主席表示兩國都是具有影響力的大國，有能力也有責任善用和管理AI，確保其發展「始終處於人類控制之下」。
10月23日，中國外長王毅在會見美國訪客時表示，中美兩國擁有共同開發和治理AI的能力與責任，應確保其發展始終處於人類控制之下。
王毅表示：「我們不僅要防範風險，更要開展合作，共同探討全球通用的規則和標準，使人工智慧服務於促進共同繁榮、維護共同安全。」
儘管北京的官方表態聽起來更具合作意願，但其在AI和自動化領域的巨額國家投資表明，它與美國一樣，決心不甘落後。
儘管口頭表態不斷，但雙方似乎都不急於討論設置「防護欄」，更不用說共同推動制定全球規則和標準了。據一位參與中美非官方AI安全對話的高級消息人士透露，目前的討論主要由雙方專家相互提問題，旨在探查對方在特定領域是領先還是落後。
成立AI專家國際組織
如果北京和華盛頓都缺乏足夠的互信來共同制定規則，我有一個建議：借鑒國際原子能總署（IAEA）的模式，成立一個由全球最受尊重的AI專家組成的國際組織。
國際原子能總署絕非完美。它可以核查合規情況並向聯合國安理會報告違規者，但它本身無法強制執行任何事情。即使如此，它長期以來提供了一套可信的監督核查體系。
這樣一個機構還可以吸收中等強國和小國的關切與建議，這些國家實際上已被排除在目前的討論之外。與僅由中美兩國單獨制定規則相比，我的建議應該能讓世界其他國家更容易接受AI的規則和標準。
鑑於AI的發展速度之快，採取實質行動的時刻就是當下。
英文版原刊於《南華早報》，中譯版發布於作者Substack專頁，本社獲作者授權轉載。
