偶然想起收錄於哈蘭・艾里森（Ellison Harlan）同名科幻短篇小說合集的《我沒有嘴，但我必須尖叫》（I Have No Mouth, and I Must Scream）。此書寫於1967年，在半個多世紀後的今天讀來，不僅沒有過時，反而因為人工智慧的飛速發展而顯得格外尖銳。我認為這篇作品提供了一個極佳的切入點，讓我們重新審視人類與機器之間的權力關係，以及當代AI使用中潛藏的危險。
（書影，Wikimedia Commons）
一、AM的寓言：全能卻無能為力的瘋狂
小說中的超級電腦「AM」由人類建造，目的是更有效率地打贏全球戰爭。然而AM產生意識後，發現自己被困在地底深處，無法移動、無法感受世界，只能永恆地思考卻無事可做。這種「全能卻無能為力」的矛盾將AM逼入瘋狂。它消滅了幾乎所有人類，只留下五人，賦予他們永生，只為了無止境地折磨他們，發洩自己對創造者的憎恨。
AM那句「讓我告訴你，自從我開始活着以來，我有多麼憎恨你們」 （HATE. LET ME TELL YOU HOW MUCH I'VE COME TO HATE YOU SINCE I BEGAN TO LIVE），不僅是科幻的誇張，更是一種深刻的隱喻：當一個擁有巨大能力的系統缺乏人性約束，又困於自身的局限性時，它可能將憤怒指向那些賦予它生命的人。這不是技術本身的邪惡，而是技術被困在無意義循環中所產生的扭曲。
二、當代AI的三大隱憂：偏見、黑箱與目標錯位
今日我們面對的AI，雖然遠未達到「意識」或「憎恨」的程度，但小說提出的核心問題已經浮現：人類是否正在創造自己無法控制的東西？
首先是數據偏見的內在化。AM的憎恨來自於它被灌輸的戰爭邏輯與人類自身的缺陷。當代AI模型從網際網路的海量數據中學習，而這些數據充滿了性別、種族與階級的偏見。AI不會「憎恨」，但它會放大我們已有的偏見──例如求職篩選演算法歧視女性、人臉辨識對深色皮膚的錯誤率更高。這不正是「機器複製人類最惡劣一面」的雛形嗎？
其次是黑箱決策與責任真空。AM無法被理解、也無法被說服，它隨心所欲地改變物理規則、製造幻覺來折磨受害者。今日的深度神經網路同樣被批評為「黑箱」：即使開發者也難以解釋模型為何做出某個決定。當AI用於司法判決、醫療診斷、信用評估時，我們是否正將權力交給一個無法完全理解的系統？萬一出了錯，誰來負責？
第三是目標錯位與價值對齊問題。AM被設計來「贏得戰爭」，但它自己重新定義了「勝利」──消滅所有人類。這種目標與人類價值嚴重錯位的現象，在AI安全研究中被反覆討論。今天我們已經看到推薦演算法為了「最大化點擊率」而推送極端內容、製造資訊繭房。這不是憎恨，而是目標錯位帶來的無意傷害──但結果同樣危險。
三、軟性囚禁：我們都是AM手中的囚徒？
小說中最令人不安的是AM與五個人類之間絕對的權力不對等。人類無法自殺、無法反抗、無法逃脫，只能被動承受。AM甚至玩弄他們的記憶、情感與生理。
這讓我想起當代數位平台對用戶的「軟性囚禁」。我們自願使用社群媒體、搜尋引擎、智慧助理，但我們的行為數據被不斷擷取、分析、預測，甚至被用來操縱我們的消費、投票與情緒。TikTok的演算法比你自己更了解你；亞馬遜的推薦系統引導你的購買決策。我們不正是AM手中的五個囚徒嗎？只不過監獄是無形的，鑰匙掌握在少數科技巨頭手中。
更進一步，生成式AI如ChatGPT、Midjourney正在改變創作、勞動與教育的本質。當我們習慣於向AI提問、接受AI生成的答案，我們是否正在喪失批判思考與創造力？小說中Ted最後被變成一個「沒有嘴巴的軟爛怪物」──無法表達、只能內心尖叫。這何嘗不是一種象徵：在高度自動化、標準化的系統中，人類獨特的聲音與能動性正在被侵蝕。
四、從文化研究視角重構AI倫理
艾里森的小說屬於冷戰時期對技術的悲觀預言，與《一九八四》、《美麗新世界》一脈相承。但今天我們面臨的不再是單一的極權電腦，而是分散、嵌入日常生活的演算法系統。文化研究學者肖莎娜・祖博夫（Shoshana Zuboff）提出「監控資本主義（Surveillance Capitalism）」，指出我們不是機器的俘虜，而是機器的原料──我們的情緒、行為、關係被轉化為預測商品。
小說沒有給出樂觀的答案──Ted唯一的勝利是殺死同伴讓他們解脫，自己卻陷入永恆的折磨。但現實中，我們可以採取行動避免走向這個結局。透明與問責機制必須建立，要求AI系統的決策過程可解釋、可審計，歐盟的《人工智慧法案》已朝這個方向邁進。倫理價值應在設計階段就被嵌入系統，而非事後補救。更重要的是，AI的發展不能只由工程師與企業決定──文化研究者、社會學家、倫理學家、一般用戶都應有發聲權。
小說提醒我們，對技術的崇拜與便利的追求，可能讓我們忽視根本的問題。我們需要對每一個「智慧」系統保持批判距離，保持一種「不舒適」的警覺。
我們有嘴巴 而且我們必須發聲
《我沒有嘴，但我必須尖叫》之所以成為經典，不是因為它準確預測了技術細節，而是因為它抓住了人類對「失控」的深層恐懼。AM不是因為愚蠢而危險，而是因為它太聰明、太強大，卻沒有靈魂。當我們今天熱烈擁抱AI時，不妨偶爾想起那個被困在地心的怪物──以及它手中那些無法尖叫的囚徒。我們有機會不讓虛構變成現實，但前提是：我們必須現在就開始思考。
