灼見名家
  • 政局
    • 中國
    • 香港
    • 台灣
    • 國際
  • 教育
    • 親子
    • 幼兒教育
    • 小學
    • 中學
    • 高等教育
    • 國際教育
  • 文化
    • 文學
    • 歷史
    • 藝術
    • 語言
    • 電影
  • 財經
    • 地產
    • 投資
    • 金融
  • 生活
    • 心靈
    • 潮流
    • 飲食
    • 旅遊
  • 健康
    • 中醫
    • 西醫
    • 保健
    • 運動
  • 商業
    • 企管
    • 創業
    • 領袖
  • 科技
    • 科普
    • 科研
  • 影片
  • 名家榜
  • 灼見活動
  • 關於我們
No Result
View All Result
灼見名家
  • 政局
    • 中國
    • 香港
    • 台灣
    • 國際
  • 教育
    • 親子
    • 幼兒教育
    • 小學
    • 中學
    • 高等教育
    • 國際教育
  • 文化
    • 文學
    • 歷史
    • 藝術
    • 語言
    • 電影
  • 財經
    • 地產
    • 投資
    • 金融
  • 生活
    • 心靈
    • 潮流
    • 飲食
    • 旅遊
  • 健康
    • 中醫
    • 西醫
    • 保健
    • 運動
  • 商業
    • 企管
    • 創業
    • 領袖
  • 科技
    • 科普
    • 科研
  • 影片
  • 名家榜
  • 灼見活動
  • 關於我們
No Result
View All Result
灼見名家
首頁 科技 科大圓桌論壇:金融科技中的AI人工智能

科大圓桌論壇:金融科技中的AI人工智能

在「相約科大,遇見未來」大學金融科技教育論壇上,一眾嘉賓談及人工智能科技衍生的責任問題、終端用戶的防範意識、數據溯源方法及管理等話題。

本社編輯部 作者: 本社編輯部
2018-02-09
灼見創科

圖片:香港科技大學

標籤: AI人工智能保安公開資源智能合約機器學習私隱責任金融科技
(左起)鄭光廷教授、閆鶯博士、柳崎峰博士、雷志斌博士、Prof. Ihab Francis Ilyas、楊強教授。
(左起)鄭光廷教授、閆鶯博士、柳崎峰博士、雷志斌博士、Prof. Ihab Francis Ilyas、楊強教授。

編按:「相約科大,遇見未來」大學金融科技教育論壇由香港科技大學、FDT金融創新工場和微軟亞洲研究院聯合主辦,由蜂投證券、香港科技園、香港應科院合辦,於2017年11月24日假香港科技大學賽馬會高等研究院舉行。

當日,香港科技大學工學院院長鄭光廷教授主持「金融科技中的AI人工智能」圓桌論壇,嘉賓有FDT-AI創始人及CEO柳崎峰博士、微軟亞洲研究院閆鶯博士、香港應科院前署理總監雷志斌博士、滑鐵盧大學教授Prof. Ihab Francis Ilyas和香港科技大學BDI大數據研究所主任楊強教授。論壇內容節錄如下:

鄭光廷:私隱和保安問題對於金融業和很多領域來說都是核心問題。現在,AI差不多可以模擬任何東西,比如說模擬真人交談,而模擬起字跡來比人手寫的還要像真,可以比我們更完美地完成任何東西。那麼,隨之興起的就是詐騙集團。人工智能進入金融領域所帶來的問題要怎樣處理?

金融科技發展要靠各方面的網絡安全和保安措施方可臻善,各位嘉賓在行業裏觀察到什麼,有什麼想法?推動金融科技應用更成熟地發展時,一路上有沒有遇到什麼根本性的障礙?鄭光廷教授邀請嘉賓,就人工智能進入金融領域帶來的問題展開討論。

人工智能的保安防偽和風險問題

閆鶯:我認為你提到的問題可用區塊鏈技術(blockchain)來解決。機械人可模仿真人交談,但無法入侵盜取你的簽名。每一筆交易都可應用區塊鏈技術,核實署名真偽。而且,人工智能技術能幫助人們看到、聽到不一樣的資訊,也能幫助他們下決定。

柳崎峰:人工智能發展得很快,保安措施的更新速度可能相對較慢,不過那很正常,只要留意保安問題就可安心專注推動人工智能更快地發展。

至於署名方面的識別技術是否可靠,工程研發人員一般來說都會相信測試結果。假如以AI識別署名的真偽比肉眼識別來得準確,辨識準確度達不到100%也不成問題。

另一例子是自動駕駛汽車,近年Tesla的自動駕駛汽車出了一樁事故,造成人命傷亡,有輿論怪罪於Tesla自動駕駛程式,但其實自動駕駛技術只要在數據上來說比人類駕駛汽車更安全,就夠安全可靠。柳崎峰博士認為,AI自動駕駛程式只要在數據上來說比人類駕駛安全,就夠安全可靠。

終端用戶的防範意識是保安關鍵

雷志斌:科技應用在每一層也設有保安措施,例如從資料庫到應用項目本身,一直到使用者,專家設計系統時要考慮的每一環都有保安標準可以依從,但是你看政府部門,有公務員把密碼儲存於載有保密資料的同一台電腦裏,那麼一切嚴密的保安措施都付諸流水。

還有很多其他情況,比如說社會工程學(social engineering)層面的保安漏洞:信息加密技術極難破解,1024位元組的信息加密技術發展蓬勃,但是哪一天你收到了電話,騙徒利用社會工程學技巧問你幾個問題,從你口中套出密碼來,那麼再精密的科技也無法阻止你上當。終端用戶的防範意識必須通過教育來提升。

另一方面,有種新興事物需要提高警覺,就是智能合約(smart contract)。人們信任一個軟體可以保證他們一筆實質資金的安全,只是軟體都是工程師編寫的,他們大多沒有接受過相關法律知識訓練,用戶只能主觀地相信這些程式可靠。如果是寫網頁,出現編程缺陷最多令網頁無法載入,但比如說金融科技應用方面一直出問題、令客戶逐塊比特幣丟掉的話,這一切損失誰能叫停?雷志斌博士認為,公眾需對社會工程學層面的保安漏洞和新興AI產物提高警覺。

AI產物不應盲目信任 私隱也掀業界爭議

雷志斌:這是一個潘朵拉的盒子,人人都希望能掌控這些科技:區塊鏈技術、智能合約⋯⋯凡此種種。但是實際操作時,如果任由程式控制一切,就會遇到問題,從金融業規章或者法律層面來說亦然。每個人都應該提高警覺,比特幣一類的產物逐漸變得炙手可熱,潛在風險一定要提防。

Prof. Ilyas:我不太懂金融科技保安問題,但我相信區塊鏈技術有助解決一些這類別的問題。我想提出一個我觀察到的兩難處境。就金融科技而言,我們需要輸入大量訓練電腦用的數據(training data)方可獲得準確的大數據分析結果,但一開始要為電腦提供訓練用的數據,免不了要讓電腦得到你的資料。我一些從事相關研究的同事認為沒人該為私隱耿耿於懷,因為最重要的是以數據訓練出機器的深度學習能力,讓機器分析結果變得更精密。也有一些人嘗試從私隱和「個人資料得到妥善和充分運用」兩者間取得平衡。

騙徒手法層出不窮 機器學習可助科技保安

楊強:那麼,另一點是網絡壞蛋都很聰明,他們也學習人工智能科技的知識,用以犯案。一開始,他們用照片冒充真人,試圖騙過臉孔識別系統,然後金融企業發展出人體感應技術,要求用戶轉動臉部或眨眼來確認是真人,不過騙徒又研究出用短片來騙過識別機器的方法,事情愈來愈複雜。這種科技上的角力只會持續下去,而這種較勁也一直見於人類歷史。你可追溯到二戰時期。楊強教授指,科技罪犯和保安專家之間的科技角力將會持續,機器學習有助完善保安系統。電影《解碼遊戲》(The Imitation Game)中,圖靈(Alan Turing)研製了機器來破解德軍的Enigma密碼機。歷史上,這個發明破解了Enigma密碼機,而Enigma密碼機沒有演變為更強的版本。不過,今天來說,破壞保安系統的壞份子會一直適應過來,變得更強,這種演化會持續下去。

要爭佔上風,就要比其他人更早預想到下一步。過去,工程師會設定一些原則來防範科技騙局,比方說某人如果剛在北京使用一張信用卡,但半小時後在香港刷同一張卡,這很可能就涉及詐騙,因為沒有人能在地理上移動得那麼快。現在,這些用來發現問題的原則可以用機器學習(machine learning)的方法來產生,你可以讓機器自動產出100萬個類似的原則,甚至1億萬條這樣的規限。

你可以就空間、時間、行為、環境的正常參數來設定這些原則,用以尋出蹺蹊線索,確保天網恢恢萬無一失。當然,不法之徒可發明更精密的數據模型來反擊,但一切都很有趣。

學生破解Google系統 AI衍生責任問題

Prof. Ilyas:我也可以舉出我的兒子作為一例。他是麻省理工的學生,跟同學合寫論文,談他們如何成功騙倒谷歌的Adversarial Network識別系統網絡,令一隻烏龜從多角度觀看都像一支來福槍。他們擊敗了由數以千計機器連成的、效能最佳的人工智能類神經網絡,但他們只是四個大三、大四的本科生。我當然為他感到自豪,我的兒子也不是壞份子,不會用專業知識犯案,但由此可見,保安漏洞和風險問題顯然易見,不消多說。Prof. Ilyas指,效能卓越、複雜精密的Google人工智能系統也有保安弱點。

鄭光廷:人工智能的確可以讓假的東西看起來逼真無比,於是,偽冒科技、反偽冒和反反偽冒科技都相繼出現。所有研究人工智能的學生既有能力研究正派防禦,又可以發動保安攻擊,這會讓相關工作愈來愈多。我認為更嚴重的是雷博士剛提到的責任問題。為金融科技產品或服務編寫軟件,最後出錯,責任誰屬?

使用軟件前,我們要簽訂服務使用同意書,但沒有人會真的細閱條款。我們點選「同意條款細則」只是為了使用某服務,很輕易就放棄自身權利。不過,如果情況跟生命安危直接相關,或者涉及真金白銀,就無法草率以對。我們未來或會更依賴AI,例如醫生使用AI幫助診斷病情、乘客把生命交給自動駕駛軟件,相信能安全抵達目的地⋯⋯人工智能科技發展會為各方面帶來深遠影響,我希望聽聽各位嘉賓的看法。

當AI慢慢取代以往百萬年薪的專業人士來做關鍵決定,假如最後出錯,該如何理解責任問題?以往可以找到真人問責和開除,但倘若出錯的是AI,我們無法開除涉事的電腦。

依賴AI或會令服務單一 人類可能遭取代

鄭光廷:另外,AI依賴大數據來分析和判斷。如果科技成熟,只要數據是一樣的,理論上不同機器分析得出的專業結論也會一模一樣。比方說,根據金融交易歷史數據來預測投資走向和回報,不同操盤交易員若使用同一款人工智能科技,最終只會向客人推介同樣的投資策略,令金融服務趨向同質化。這不像以前,每個交易員性格不一,願意冒不同風險,對市況有不一樣的理解和投資態度,可向客戶提供不同建議。

現在,假使智能科技幫助人類做的決定出了錯,責任應該誰來負?你認為這是恰當的發展路向嗎?

閆鶯:責任最後還是應由人類來負。我們可以看到,整個體系以數據的質量至為關鍵。一旦數據質量不佳,分析結果便會指向錯的方向,所以人的責任在於要想出各種方法確保數據質量。閆鶯博士認為,人的責任在於確保數據質量,以及選擇可信賴的AI科技產品和服務。

鄭光廷:高盛(Goldman Sachs)最近在紐約總部開除了600名交易員,並用人工智能科技取代他們應付日常工作,所以企業並不一定打算讓科技輔助交易員,而是有可能以科技取代他們。

用戶應調整信任度 AI能令專業服務普及

閆鶯:下決定其實跟信心有關,如果信心充足,用戶便可相信AI系統提的意見,但要是該技術或軟件的測試分數不理想,用戶有責任調整自己的信任程度。

柳崎峰:這是一個特別難的問題。今天的論壇與看見未來有關,那我就從這個方向來談談。100年前的人應該很難明白100年後農業投入那麼少、只有那麼少人耕種便能養活這麼多人。同樣,要想像人類在未來做決定時將集中依賴少數的智能系統或機器提供建議的話,我很難明白這代表什麼。

但是就目前發展狀況來說,我們在製造一些機器人,幫助金融專才為更多人提供服務,尤其是普羅大眾,而不再像現時般只有少數很富有的人享有投資建議和金融服務。比如說,現在一名交易員可能在服務200位顧客,但是用了我們的科技後,可以服務2,000人甚至數以十萬計的顧客。我常常叫企業部門主管不用擔心部門會在使用AI後裁減人手或萎縮,情況會相反,屆時需要更多人掌控我們的智能科技機器,為顧客提供更優質的服務。我對此很自豪,但是談及責任問題實在沒有什麼頭緒。

AI的複雜性和公開資源等問題

雷志斌:其實要將人工智能科技與人類相比,還要考慮另一個層面。如果你拿一個人的腦袋來作比較,一台最精密的電腦可能及不上人腦聰明,但是你把1,000台電腦連在一起,它們就會有出乎意料之外的智慧,變得聰明;所以,最大的問題就是這些強大的引擎、機器之間要怎樣協調,這其實是個帶社會屬性的問題。假如你讓10,000台電腦分析數據,它們會產出不一樣的結果,就算讓它們投票,它們也會支持不一樣的意見。就算建立像IBM那樣強大的中央電腦,產出深度的學習方程以後,仍很大機會有意見紛呈的情況,要由我們來決定如何採納一大堆電腦的分析結果、看到當中啟示和智慧。這比我們想像的有更多不穩定因素。雷志斌博士強調,如何理解人工智能系統的分析結果值得深思,亦提出對眾籌活動和公開資源所衍生問題的看法。眾籌活動的保安問題這個例子也能說明我最擔心的問題,假使1,000人每人投資10,000美元,一切靠智能合約執行,總是有一個人可以匿名地提取整筆資金。智能合約在網絡廣泛使用已成為事實,我們要面對現況。

另外,說到公開資源(open source),這當然是好事,但是,試想一下,科大學生修畢一個課程後已有足夠知識研發系統,用區塊鏈和物聯網技術來把禮物送到他人手中。系統可以找到收件人位置,準確地把禮物送抵目的地,而這樣的程式在網絡上可能是公開資源。那麼,若有人將禮物換成核彈,那傷害也將同樣輕易造成。而且,這些心懷鬼胎的人完全不需要懂得編程,因為這方面的公開資源唾手可得,情況會發展得一發不可收拾,特別令人憂慮。

責任問題可從技術、政策層面解決

Prof. Ilyas:我想回到責任問題。我認為我們已經身處用機器輔助人類做決定的時代,不論我們覺得怎樣,這已成事實。在技術方面的挑戰,電腦科學有一個概念是數據溯源(Data Provenance),意思就是追蹤數據的來源,找到數據質量不好或出錯的根源。重要的不只是數據,還有描述這些數據的元數據。數據溯源方法及管理(Provenance Management)是電腦科學的熱門議題,很多人修讀碩士或博士就是為了解決這方面的技術問題。

此外,責任問題也關乎政策。我們要制定在開除員工以外的和解方式。比如說,AI科技產品出問題,責任肯定在於公司,公司可能要賠償客戶。公司出問題會損失金錢,也就會注重產品和服務質素。我們要用新方法和思維面對智能科技應用時產生的錯誤,我認為當中的技術和政策問題都有辦法解決。

 

本系列文章:

科大圓桌論壇:金融科技中的AI人工智能

滑大教授:讓機器學習整理數據 帶動金融科技發展

楊強:AI可稱霸棋局 金融科技應用另有挑戰

更多精采文章

  • AI與數據科學產業 宜循六大原則發展AI與數據科學產業 宜循六大原則發展
  • AI與人關係 複雜而有序AI與人關係 複雜而有序
  • 基辛格:人類社會對AI興起毫無準備基辛格:人類社會對AI興起毫無準備
  • 楊強:AI可稱霸棋局 金融科技應用另有挑戰楊強:AI可稱霸棋局 金融科技應用另有挑戰
  • 梁伯韜:若年輕40年 將棄金融業 投身AI創新梁伯韜:若年輕40年 將棄金融業 投身AI創新


本社編輯部

View all posts
標籤: AI人工智能保安公開資源智能合約機器學習私隱責任金融科技
申請成為灼見名家基本會員,免費收取電子報
同意灼見名家會員服務條款及細則
Please login to join discussion

編輯精選

梁家傑表示,公民黨劃上句點,是因為「沒有人肯接任主席、沒有人肯接任執委」,亦無從籌款,因此很難繼續。(梁家傑Facebook)
灼見報道

創黨16年 公民黨宣布自願清盤

作者: 本社編輯部
2023-05-28
左起:中大醫學院賽馬會公共衞生及基層醫療學院教授黃至生教授、中大醫學院院長兼腸道微生物群研究中心主任陳家亮教授,以及中大醫學院裘槎醫學科學教授、香港微生物菌群創新中心總監黃秀娟教授。(主辦方提供)
灼見報道

中大醫學院證實改善腸道微生態 有效紓緩新冠後遺症

作者: 編輯精選
2023-05-23
協助傳統製造業利用創新科技升級轉型,實現智能化先進製造。(Shutterstock)
灼見創科

從研發到製造 推動新型工業化

作者: 香港科技園公司
2023-05-23
佛山市一家開發氫能燃料技術的企業來港考察,與本地能源科技及政商各界會面交流。
灼見報道

佛山氫能企業冀落戶香港 為灣區綠色航運作出貢獻

作者: 本社編輯部
2023-05-23
任景信認為,無論是對環境、社會及管治(ESG)或是碳排放,數據聯通絕對有好處。
灼見專訪

數碼港行政總裁任景信:碳數據處理應用增加 綠色科技成資本新寵

作者: 本社編輯部
2023-05-22

影片

  • 資深傳媒人張圭陽:敘利亞歷經天災、內戰如何重建? 美國制裁下的文明古國新面貌
  • 黃錦輝教授:G7計劃把北約亞洲化會否得逞?王毅與沙利文會晤能夠改善中美關係?
  • 數碼港CEO任景信:綠色科技如何成為資本新寵、年輕人鍾情的事業?企業怎樣發掘碳數據商機?
  • 資深傳媒人張圭陽:阿富汗、敘利亞為什麼是輸出難民最多的國家?揭開塔利班政權神秘面紗
  • 葉問外甥盧文錦師傅:葉問如何智鬥軍閥排長?怎樣三招擊敗日本憲兵教頭?有沒有做過國民黨特務?
  • 太古集團唐偉邦:屋頂耕種,也是可持續發展?今日廢棄之物,是明日可用資源?
  • 曾繁光醫生:社交焦慮症是怎樣形成的? 用什麼方法克服與治療?
  • G20綠色金融推手馬駿博士:推動雙碳要年花16萬億元,錢從何來?歐盟徵碳稅,劫貧濟富?
  • 雷鼎鳴:白宮把美元武器化怎樣害人害己? 全球多國去美元化將有什麼災難後果?
  • 全球高等教育有何值得相互借鑑之處?全球化下的大學面臨哪些困境與危機?──郭位教授大問於市與全球頂尖校長對話系列總結
Currently Playing

熱門文章

  • 宿世的善根宿世的善根 常霖法師
  • SEN:教育界最核心的挑戰SEN:教育界最核心的挑戰 陳家偉
  • 小學五年級是關鍵的一年小學五年級是關鍵的一年 陳家偉
  • 小紅書勝IG小紅書勝IG 項明生
  • 有線電視的前世今生 兼談香港電視業前景有線電視的前世今生 兼談香港電視業前景 編輯精選
  • 21世紀兩個最重要組織:金磚和上合21世紀兩個最重要組織:金磚和上合 張建雄
  • 一個社會要容得下幽默一個社會要容得下幽默 陳景祥
  • 博文約禮的三種體驗博文約禮的三種體驗 潘銘基
  • 中大醫學院證實改善腸道微生態 有效紓緩新冠後遺症中大醫學院證實改善腸道微生態 有效紓緩新冠後遺症 編輯精選
  • 28歲《長津湖》國際作曲家Elliot Leung(梁皓一) :「成功有跡可循,香港人做嘢同外面有乜唔同?」28歲《長津湖》國際作曲家Elliot Leung(梁皓一) :「成功有跡可循,香港人做嘢同外面有乜唔同?」 李偉民
  • 佛山氫能企業冀落戶香港   為灣區綠色航運作出貢獻佛山氫能企業冀落戶香港 為灣區綠色航運作出貢獻 本社編輯部
  • 隱藏在命盤中的治病方案隱藏在命盤中的治病方案 潘樂德
  • 逢危須棄逢危須棄 吳家豪
  • 從吳越國「納土歸宋」看兩岸統一趨勢從吳越國「納土歸宋」看兩岸統一趨勢 關品方
  • 創黨16年 公民黨宣布自願清盤創黨16年 公民黨宣布自願清盤 本社編輯部
  • 從研發到製造 推動新型工業化從研發到製造 推動新型工業化 香港科技園公司
  • 南韓開始衰敗南韓開始衰敗 蔣匡文
  • 移民專家的人生多元選擇移民專家的人生多元選擇 張灼祥
  • 習近平主席與《星空奇遇記》習近平主席與《星空奇遇記》 陳奕偉
  • 中年幸福婚姻特質中年幸福婚姻特質 羅乃萱

推薦作家

  • 阮紀宏
  • 張灼祥
  • 廖書蘭
  • 列家誠
  • 謝祖墀
  • 周延
  • 張建雄
  • 鄭家寶
  • 羅祥國
  • 溫志倫
  • 張宗永
  • 陳家偉

承印人

灼見名家傳媒有限公司
地址 : 香港黃竹坑道21號環匯廣場10樓1002室

聯絡我們

公司 : 灼見名家傳媒有限公司
地址 : 香港黃竹坑道21號環匯廣場10樓1002室
總機 : +852 2818 3011
傳真 : +852 2818 3022
業務電話 :+852 2818 3638
電郵 : [email protected]

追蹤我們的社交平台

會員訂閱「灼見名家」電子報

© Master Insight Media Limited 2023 All rights reserved. 私隱政策

No Result
View All Result
  • 政局
    • 中國
    • 香港
    • 台灣
    • 國際
  • 教育
    • 親子
    • 幼兒教育
    • 小學
    • 中學
    • 高等教育
    • 國際教育
  • 文化
    • 文學
    • 歷史
    • 藝術
    • 語言
    • 電影
  • 財經
    • 地產
    • 投資
    • 金融
  • 生活
    • 心靈
    • 潮流
    • 飲食
    • 旅遊
  • 健康
    • 中醫
    • 西醫
    • 保健
    • 運動
  • 商業
    • 企管
    • 創業
    • 領袖
  • 科技
    • 科普
    • 科研
  • 影片
  • 名家榜
  • 灼見活動
  • 關於我們

© Master Insight Media Limited 2023 All rights reserved. 私隱政策

Login to your account below

Forgotten Password?

Fill the forms bellow to register

All fields are required. Log In

Retrieve your password

Please enter your username or email address to reset your password.

Log In