AI推薦系統 有被奸商操控之虞

自動推薦系統在內地每年的「雙11」購物節中大行其道，成為電子商務的關鍵技術。顧名思義，它的任務是根據潛在用戶的興趣，把合適的產品推薦給他們。在網購系統設計中，不論任何產品，如何跟蹤用戶的購物意圖、識別合適的產品，是推薦技術的任務目標。

透過紀錄提升推薦效能

線上用戶的意圖，可以從其網上足跡及購物習慣可知一二。實際上，獲取這些資訊輕而易舉，然而在不同網絡環境下，系統會採用不同的方法。

在互聯網商務，推薦系統可以透過記錄及分析用戶點擊（User Clicks）而達到目標，例如用戶訪問過哪些網站、在每個網站花了多少時間、過程中在哪些網站購買或拒絕了那些產品等，資訊都可以幫助提升推薦任務的效能。

在社交網絡商務環境中，同樣的資訊可透過用戶對話來獲取，例如利用自然語言處理（NLP）AI技術分析用戶的說話，從而了解用戶喜歡或討厭哪類產品，甚至作出購物決定的理由，例如：在句子「我不想看『魷魚遊戲』，因為畫面太殘忍了」中，「不想看」和「太殘忍」分別表達了用戶的「情感」和「理由」。

然而，利用NLP分析句子，去判斷出各詞組的語意，並非容易。

推薦系統的盲點

概括而言，推薦系統的目標，是進行用戶意向和產品特徵的配對。表面看來很簡單，但落實時經常碰到兩個困難：一是當系統碰上陌生用戶（例如一個網購公司的新會員）時，由於系統之前並沒有他的購物歷史，所以未能有效推測他的意向。

這問題學術界稱之為「冷啟動」（Cold Start）。解決這問題的常用方法是協同過濾（Collaborative Filtering）。這技術通過分析用戶和其他用戶之間的相似性，來預測新用戶可能感興趣的產品，繼而把產品推薦給他。例如甲與乙是好朋友，甲喜歡看金庸武俠小說，那麽系統估計乙也有相似的閱讀興趣，而把《鹿鼎記》推薦給他。

二是不少用戶只顧在網上徘徊，無心購物。社交網絡的推薦算法假設用戶是具有明確意向，即他很清楚自己想要買的產品，因此系統能從用戶的說話中識別出其意向。但在現實中，不少潛在顧客只在社交網絡中漫無目的地與其他網友聊天，並沒有意向去購物。

在這情況之下，業界可以利同AI對話系統技術，模擬人類推銷技巧，鼓其如簧之舌，在社交網絡中引導及遊說潛在用戶「落疊」購買其公司的產品。

進軍三維元宇宙市場

近期，元宇宙成為創科業界的熱門話題。Meta、微軟、騰訊等科技巨擘對元宇宙市場無不垂涎三尺，爭相巨額投資。

未來的網購活動必然會擴展至這三維虛擬世界，產品推薦工作將會由虛擬推銷員執行，它會利用行為分析技術去了解每個虛擬人的生活（包括購物）、文化和習慣，例如它們經常光顧的元宇宙商店、玩的遊戲等，從中找出潛在顧客，然後一步一步地「氹佢落疊」，最後向他推銷合適產品。

有效的推薦系統當然能為用戶帶來許多方便，但是不論是一維的互聯網市場，二維的社交網絡市場，或者三維的元宇宙市場，若然系統被不良分子或奸商操縱，用戶便很容易「上當」受騙。

正如某哲學家所言，人工智能有其美好的一面，然而「另一面可能會流淌着邪惡的資本基因，讓不願意思考的人把精神和靈魂交給虛擬世界，而這些人會成為供養資本的原料」。此言甚是，很值得還活在現實世界的你和我好好三思。

原刊於《星島日報》，本社獲作者授權轉載。

黃錦輝

1987年在英國愛丁堡大學取得博士學位，現為香港中文大學工程學院副院長（外務）、系統工程與工程管理學系教授及創新科技中心主任，並擔任高可信軟件技術教育部重點實驗室（香港中文大學分實驗室）主任、哈爾濱工業大學（深圳）特聘教授以及北京大學信息科學技術學院客座教授、香港專業及資深行政人員協會副會長。他同時為香港資訊科技聯會、香港工程師學會、英國工程技術學會及英國電腦學會會員。黃教授活躍資訊科技界，曾任香港資訊科技聯會會長，現時是香港童軍總會資訊科技委員會主席、香港消費者委員會委員、香港國際機場科技諮詢委員會成員、香港電台顧問委員會成員、香港耆康老人福利會資訊及通訊科技顧問委員會委員等。2011年獲香港特別行政區政府頒發榮譽勳章，以表揚其對香港資訊科技界發展的貢獻。

View all posts