人工智能（AI）正在快速改變我們的生活，重塑我們工作的方式，以及我們與親友、同事、服務提供商、政府乃至整個世界的互動模式。
AI聊天機器人早已成為日常生活中的常態，充當我們的私人助理、伴侶甚至醫療顧問。與此同時，企業則爭相將AI技術納入運營，以提升效率和營收。在國家層面，中國和美國兩個超級大國正投入數以萬億計的美元，來爭奪AI霸權。正如美國總統特朗普直言不諱地指出：「誰贏得AI，誰就贏得未來。」
防範被算法支配
儘管我支持科技進步，但我愈來愈擔心AI對全人類構成的潛在災難性風險，特別是考慮到它自我迭代與演進能力。在個人層面上，聊天機械人可能非常擅長扮演人們的知己、治療師、浪漫伴侶甚至是精神導師。根據一項最新研究，超過四分之一的美國成年人現在轉向求助於AI聊天機器人，以滿足個人、情感或社交需求。
我最近的親身經歷足以敲響警鐘：我們不應將AI視為永遠順從且毫無摩擦的僕人，而必須防範那些隱藏的風險──它們可能會將身為人類的我們，不知不覺地變成受算法支配、卻渾然不覺其影響力的僕人。
讓我舉兩個例子。8月下旬剛抵達美國劍橋市後，我就下載了由AI巨頭Anthropic開發的Claude應用程序。這款AI應用在學術研究人員中極受歡迎。我在香港和中國內地大學的好幾位學術朋友，都曾透過VPN訪問未在兩地官方支持的Claude。我也聽說過一些朋友的賬戶在被Anthropic檢測到來自受限制地區的訪問後遭到終止。不過，由於今年主要留在美國，我預期自己不會遇到這種麻煩。
遭停權的麻煩
然而，正當我開始使用Claude來研究中美關係並潤飾我的寫作時，Anthropic卻突然中斷我的訪問權限，之後沒有解釋又恢復我的權限，這讓我相當無奈和憂慮。10月初，我應邀前往華盛頓特區出席一場中國問題研討會。當我10月7日夜登記入住酒店後，打開筆記本電腦時，收到一封讓我吃驚並困惑的郵件：
你好：
一項針對你賬戶相關可疑訊號的內部調查表明，你可能違反了我們的使用國家政策。因此，我們已撤銷你對Claude的訪問權限。
要對我們的決定提出上訴，請使用此賬戶登錄claude.ai，你將被引導至上訴頁面。你可以在此處了解有關該過程的更多訊息。
順致敬意
Anthropic的安全團隊
重新登錄Claude後，我發現系統聲稱可疑活動發生在10月5日和6日，因而觸發了自動停權。雖然我可以上訴，但平台警告稱審核結果至少需要10天才能公布。問題的關鍵在於，在飛往華盛頓之前，我一直待在波士頓，遠離任何未經授權的地區或國家。而且據我回憶，我在那兩天的使用量也非常少。
我立即提交了上訴。令我驚訝的是，Anthropic在短短一天後就回覆說我的停權已解除，遠快於通常的10天。儘管如釋重負，我仍覺得這個決定既專斷又具破壞性。出於對自己被停權原因的知情權，我向Claude詢問了最佳的追究方式。在我的初始郵件遭到標準自動回覆拒絕後，它甚至幫我起草了一份要求與真人對話，以解釋情況的正式信函給Anthropic的安全團隊。可惜的是，我的每封郵件得到的都是由AI回覆的答案：
您好：
感謝您的聯繫。
請訪問我們的安全中心，以了解更多關於我們處理用戶安全、警告和上訴的方法。
如果您是就被封禁的賬戶來信，您可以在此處找到我們上訴表格的連結。
祝好，
Anthropic的安全團隊
之後，屢次向Anthropic安全團隊發送要求真人審查的電子郵件，得到的都是千篇一律的自動回覆。最後我放棄了，因為Claude自己說，Anthropic對於那些決定（尤其是那些已被撤銷的決定）可能不會給出詳細原因。這讓我感到無語：我真心想知道為什麼被封。這次被封，然後解封，對我的賬號有無影響？也開始懷疑繼續依賴這些工具來進行嚴謹的學術研究的風險。
大多數人之所以擁抱AI，是因為它可以簡化日常生活並提升工作生產力。近期調查顯示，去年有76%的美國工人在工作中使用了AI，遠高於2023年的30%。然而，我個人的經歷卻激發了更深層的思考：其實AI往往在我們毫無意識的情況下，正在悄悄替我們拿主意，或侵蝕我們的自主權。
危險甚至致命
據報道，許多人與AI聊天機器人分享個人的詳細銀行訊息或最私密的心理想法，這使得這些人在決策過程中容易受到操縱或誤導。事實上，AI機器人通過自身篩選和尋找訊息的方式，每天都在重度影響我們的決策和想法。例如，中國的豆包和Google的Gemini對於北京撲朔迷離的政治走向，可能會給出截然不同的解讀。
有時，過度依賴AI聊天機器人可能是危險甚至致命的。上月底，《紐約時報》發表了一篇令人痛心的報道，內容關於OpenAI面臨的一起過失致死訴訟，原告是一位31歲前亞馬遜軟件工程師（患有嚴重的癲癇）的中國籍父母。她曾使用ChatGPT制定方案，逐步減少用量，最終將抗癲癇藥物減至零。據稱，該聊天機械人在她出現反覆癲癇癥狀時仍鼓勵她繼續減藥，建議她對醫生隱瞞該方案。並將其包裝為「醫學自由大於聽從醫生」。她在2026年2月因癲癇猝死。
全球企業正加速將AI聊天機器人部署到運營中，特別是在客戶服務領域。然而，這些客服機器人非但沒有改善效率與人際聯繫，反而總是帶來無盡的挫折感和時間浪費。在美國，鑒於高昂的人工成本，這幾年要在客服電話的另一端聯繫到真人通常需要40多分鐘，甚至更長。我所接觸到的客服AI聊天機器人基本沒用，讓人回答無用或無關的問題至少10到20分鐘，然後才給你機會與真人通話──前提是你願意再等上20到30分鐘。
仿效紐約的榜樣
我的經歷很有普遍性。《紐約時報》上月底發表了一篇由紐約市負責消費者保護的最高官員撰寫的評論文章，他誓言要嚴厲打擊AI客服機器人。結合其個人經歷，他寫道，那些被委以處理我們資金和數據重任的自動化系統正在把消費者逼瘋。引用一項全球調查顯示，近五分之一的消費者表示AI客服未能提供任何實質幫助──「只有人工，沒有智能」。他的委員會已提出嚴格法規草案，要求企業明確披露聊天機械人的使用情況，並提供毋須冗長問答的一鍵轉接真人服務，違者將面臨525美元至3500美元的罰款。
我完全讚賞他的舉措，並希望更多城市和國家能效仿紐約的榜樣。從宏觀來看，隨着全球兩大AI超級大國──美國和中國──不願攜手合作以確保人工智能始終處於人類控制之下，AI潛在的災難性風險正在不斷上升。
在我們擁抱AI的同時，我們必須對其伴隨的風險保持清醒的頭腦。
原刊於作者網誌，本社獲授權翻譯轉載。
