close
盛治仁╱贏不了機器人,拔電源嗎?
分享分享留言列印
A-A+
2016-07-01 02:48 聯合報 盛治仁(雲品國際董事長)


微軟在幾個月前做了一個實驗,設計了一個線上聊天機器人Tay,定位是一個純真少女,她會在社群網站上跟人對話,並在過程中學習。沒想到在廿四小時之內,這個純真少女變成了一個納粹支持者、種族歧視者及痛恨女性主義者,迫使微軟即刻將她下架。

後續分析認為,微軟可能太輕忽而未把刻意要教壞Tay的惡意攻擊做有效阻擋。事實上,我認為這是不必要的,因為這才是網路的現實。兩年前,微軟在大陸就已經推出過類似的聊天機器人小冰,但並未遭到相同命運,很受歡迎且能正常互動,甚至在去年底進入東方衛視晨間新聞擔任氣象主播。我相信這絕非大陸社群網路用字較文明,而可能是負面字眼被遮蔽或是以程式保護的結果。

這個實驗讓我們有許多可以深思之處。首先是網路的特性。Tay會學習到這些想法和用語,對熟悉網路的人應該並不意外。網路形成的社群,其實和群眾行為有許多類似之處。

學者Gustave Le Bon認為群眾行為有下列的特性:因為其「匿名性」造成一種「無敵感」及「不需負責」的認知,而且其想法有「傳染性」,領導者的行為對群眾又有「暗示性」。這些群眾行為表現的特性,在網路行為上也都存在;同樣一個人,在網路和現實生活上的表現,可能判若兩人。網路上有相當比例的粗鄙用語和極端想法,是不爭的事實。Tay只是把人類的行為學會之後,呈現出來,結果嚇到了大家而已。

一個更值得憂心的發展,是隨著網路生活化,以及政治事件的推波助瀾,網路語言開始進入現實生活裡。我們在台灣和美國近期的競選過程中都可以觀察到這個現象。社會必須集體省思,這是不是我們希望建立的價值觀和生活方式?

另一個思考點,則是人工智慧發展的快速及其未來可能性,恰巧最近在生活中碰到了幾個案例,特別有感觸。有個車廠邀請我試乘新車,無意間發現其定速裝置,竟然可以自動偵測前方車距和速度來自動調整車速,已經有些自動駕駛的味道了,而且在高速公路上運作起來很順暢,相信未來駕車習慣和方式的改變是必然的。

自己最近也剛透過遠端學習,完成了麻省理工學院的一門大數據課程,一方面體驗網路學習平台的便利性,不但可以跟頂尖教授學習,還可以有討論平台互動。另一方面也瞭解大數據的本質及其在醫學、交通和金融等領域的運用,對未來世界會持續產生重大影響。

微軟小冰還有一個讀心術軟體,在問你十幾個問題後,就可以猜到心中在想哪一個人,命中率頗高。未來每個人都能夠有自己的數位助理,幾年前的雲端情人電影場景已經不遠,人類的日常生活模式,也將大幅度改變。最近的電影人造意識,則提供另一個比較灰暗的可能,當機器人有自己的意識反撲人類時,是很可怕的。不記得曾經在哪裡閱讀到這句話:「當我們下棋都下得贏你們時,難道不知道你們心裡想的是最壞就拔掉電源嗎?」

不管從那個角度看,人工智慧的發展都將是未來世界的基礎,國家和個人都應該思考如何能夠不缺席。

(作者為雲品國際董事長)
arrow
arrow
    全站熱搜

    Andk 發表在 痞客邦 留言(0) 人氣()