26 03 2018

發展人工智能需平衡創新與風險

英國著名物理學家史蒂芬‧霍金（Stephen Hawking）上星期在劍橋大學與世長辭，我和很多人一樣，都感到惋惜。這位被譽為繼愛因斯坦後最傑出的理論物理學家，患有一種罕見的肌萎縮性脊髓側索硬化症，霍金晚年已是全身癱瘓，必須依賴由人工智能技術提供的語音產生裝置與其他人溝通。然而，他也曾經多次表達對人工智能的擔憂。在霍金眼中，人工智能和人類大腦可以達到的智慧，沒有本質區別，所以，我們無法知道人類將無限地得到人工智能的幫助，還是會被它藐視、邊緣化，甚至毀滅。

近年，不少人對人工智能趨之若騖，與霍金警惕審慎的態度形成強烈對比。以人工智能圍棋軟體阿法圍棋（AlphaGo）為例，就在短短幾年間成為世界棋壇第一；繼在2016年3月擊敗韓國九段棋手李世乭後，又在2016年12月至2017年1月期間，在未公開其真實身分的情況下，60戰全勝中日韓一流高手。2017年5月，AlphaGo在再也沒有人類對手的情況下宣布光榮退役。

就如對AlphaGo一樣，不少人對無人駕駛也抱有厚望，認為可以減低運輸成本，甚至提高道路安全。然而，霍金曾經以無人駕駛為例，表達他對人工智能的擔憂。他特別指出在緊急情況下，一部無人駕駛的汽車需要在「很有可能發生的輕微事故」和「較低可能發生但嚴重事故」之間作出一個選擇，因而處於一個進退兩難的局面。

不幸的是，幾天前於美國亞利桑那州就發生了涉及Uber自動駕駛汽車的致命交通意外。事件中，一名過路婦人被撞斃，讓自駕車的安全以及法律責任問題頓時成為全球焦點。值得一提的是，事發的自駕車上其實有一名後備操作者坐在駕駛座上；這不禁讓人疑惑，這次意外是無可避免的，還是因為人類過分依賴自動駕駛系統，而讓我們的警覺性降低？霍金曾經表示，長遠來說，人類要面對人工智能系統失控的潛在風險；假若人工智能脫離束縛，具備超級智慧的機器人就會崛起，並且有可能不遵循人類的意願行事。我不禁問：這些在科幻電影出現過的片段是真的不會在現實世界裡發生嗎？

無論是這些眼前的問題還是對將來的擔憂，我們都不可以透過三言兩語就得出一個明確的結論。但是，可以肯定的是，作為促成者和監管者，我們在推動人工智能、應用在金融服務的時候，必須平衡創新和風控，就好像現時很多金融機構研發人工智能和大數據的應用，不免會引來對私隱或大數據濫用的關注。所以我們在擁抱創新科技的同時，需要謹慎行事，風險管理要好好把關。財政司司長於新一份的財政預算案中強調，創科是新時代經濟發展的驅動力，並投放了不少資源聚焦推動人工智能和金融科技。展望未來，我有信心，我們在清楚了解創新科技的好處和在應用時的限制的情況下，能讓人工智能這把「雙刃劍」成為我們的資產而不是負累。

Archives →