代碼設計者的社會公義

無人駕駛技術的出現代表着什麼？以前當汽車取代馬車時所帶來的改變，不外乎是速度及持久續航力的改善。相比於自動駕駛汽車對人類思考的衝擊，又會是什麼呢？

那麼後者就是當今的智能技術已經具備了學習能力，能通過大數據及人工智能的演算法，吸納過去累積的經驗，乃至幾秒前發生的事情，幫助我們作出最佳的決策。今天的智能技術已經擴展到自學能力功能，進而可以自我演化，它可以在現有的知識層面上探索更多的可能性，這是人類歷史上在人工智能領域的一大突破。

過度智能化的世界

隨着大數據及機器學習發展，坊間流傳着掌控未來世界的兩句話，「一切皆算法」、「代碼即法律」。換句話說，社會公義有機會掌握在代碼設計者手中，算法上的邏輯判斷可影響深遠。因此，我們對過度智能化的世界應時常保持謹慎及警惕。

舉一個很殘酷的例子，當一部自動駕駛汽車即將遇上一宗交通意外，演算法如何選擇減少司機傷害的同時，又怎樣平衡路上行人的安全，比如無可避免要做一個抉擇時，它會怎樣取捨？又例如為什麼我的小區在使用程式找出租車時，總是較附近的另一小區難。總之眾多無法解釋的不公平，未來都可能被各種算法支配。

從前筆者在企業中推動數字化時，很容易把重點放在追求效率上，舉例在淘寶網工作時，算法團隊會更傾向把目標放在如何提高顧客的購買轉化率上，鮮有算法工程師會提出讓顧客得到更公平的購物選擇。愈是追求智能化的步伐，也可能讓客戶得到更不公平的待遇，到頭來卻影響到企業的長遠利益。近年因為多了時間參與政府的數字化轉型，倍感到效率與公平之間的兩難取捨。

在數字經濟高速增長下，如何可保證被數字社會排擠之外的群體權利？由踏入高齡社會的今天，數字世界裏應該某程度上維持非數字化服務，「數字包容」這一話題具有深遠意義，需要持續提出在追求效率之餘，也應照顧被忽略的群體。無論技術走得有多快，科技發展也應回歸到平等生活的原點上思考。

原刊於《信報》，本社獲作者授權轉載。

車品覺

紅杉資本中國基金專家合夥人。現任香港科技園董事會成員、大數據治理公會召集人、香港特別行政區創科及再工業化委員會成員，積極推動香港成為大灣區及一帶一路的大數據試點城市。北京市大數據工作領導小組諮詢業專家、貴陽市大數據委員會顧問、中國計算機學會大數據委副主任、京東金融首席數據顧問及Talking Data首席顧問。 2010年8月加入阿里巴巴，擔任集團副總裁兼首任數據委員會會長。2017年獲國家信息中心選為中國十大最具影響力大數據企業家。著有暢銷書《決戰大數據》及《數據的本質》。

View all posts