andk

什麼都仰賴電腦，人類行為會更不道德嗎？
2015-03-05 16:00:30 早安財經 出版

再見，平庸世代，泰勒．柯文著，洪慧芳譯，早安財經出版。
分享不過，瑞根擔心的一點是：隨著我們衡量與評估績效的能力持續增加，對一個人的職業生涯會帶來什麼樣的衝擊？
舉例來說，假設他利用手上的資料，回頭建立一個棋手們過去比賽的模型，然後預測棋手們未來的潛力。接著有位年輕棋手來找他，問說是否該把工作辭掉，專心轉為職業棋手，或是繼續乖乖上班就好？他該怎麼回應？

也許瑞根知道答案（當然是配合電腦分析才知道），但他應該根據電腦的分析提供建議嗎？贊成的人可能會說：他應該直截了當地提供建議——畢竟，我們本來就是運用各種資訊來判斷可能的生涯出路，也是利用同樣的方式來為他人提供生涯建議的，不是嗎？

但反對的人會說：知道太多，也許反而會扼殺了未來可能的成就。例如，假設愛因斯坦五歲時，有人用電腦來評估他的未來成就，但問題是，愛因斯坦到五歲還不會說話，電腦如何能預測出他將來會變成偉大科學家的機率？又或者，如果有人從小就被一再告知，他是萬中選一的天才，這位未來的新星會不會反而被各種課程給累死呢？對年輕人來說，或許未來有點朦朧感還是比較好，日後我們也許會懷念今天我們所享有的朦朧美。

馮內果（Kurt Vonnegut）在一九五二年出版的預言式小說《自動鋼琴》（Player Piano）裡，談到未來發展方向時，就曾在書中提出擔憂：

我認為公開每個人的智商，是個嚴重的錯誤。聰明的革命分子會做的第一件事，就是消滅所有智商超過一一○的人……輕易地畫出人與人之間的界線，肯定會釀成階級戰爭。

透過馮內果筆下萊雪（Lasher）這個角色，我們可以看得更清楚，到底是哪種人能夠在這種精確評價的新世界裡過得最好：聰明的人，而且是擁有某種「特殊腦力」的人。「不僅要聰明，而且必須在某些特定領域展現出聰明：基本上，就是管理與工程。」

換句話說，就算這種評價系統在職場上很好用，把它用在社會或經濟上，卻是很可怕的，這不是一個會讓人感覺舒服自在的世界。

我們還可以從很多領域，感受到這種評價系統所帶來的問題。

比方說，到時候最棒的人與電腦組成的人機團隊，雖然收入會很高（因為效率最好），卻也會引發社會疑慮。主要是因為這種團隊太聰明，最後會聰明到將我們「判斷他們效率好壞的能力」都奪走。到時候，那些最頂尖的人可能不會受到評價系統的牽制，我們只知道他們很厲害，卻無法以一般標準來衡量他們的素質，只能仰賴他們的善意和道德。

如此一來，我們再也無法質疑他們。想像一下，我們來到了二○三五年，由人機結合的頂尖「醫療團隊」將掌握我們的生死決策，假如你認為這個團隊有醫療過失，請問，什麼才算是有說服力的證據？到時候，我們無法推給「單純人為」或「單純電腦所為」，因為人早已與電腦結合為一個團隊，而我們會把人機聯合診斷後的決定，視為最正確的選擇。我們也許可以請另一組團隊來重新診斷，然後發現前一組團隊的決定不是最佳選擇，但這樣還是無法證明那是一種「過失」。

通常，這種醫療團隊裡的人類醫師，會看起來像沒做決定，一切都是電腦運算的結果，但實際上，他們扮演了最重要的角色。為了因應外界的評價系統，聰明的醫生會先確保自己的診斷不會引來負面評價，而做出對病人而言未必是最理想的決策。在醫療上，為了避免被責難，一個很好、但對醫生有風險的決策，往往會被犧牲。

還有司法。在我們目前的法律架構下（我預期不會太快改變），我們會以「純人腦」來進行審判。在一般法院裡，法官或陪審團絕不會啟動電腦程式來尋求建議。想像一下，假如法官把某個案子的五大特點輸入電腦，然後讓電腦告訴他，有罪的機率是六七％，接著他再來思考如何宣判，可行嗎？身為市民和選民，我們目前還很難接受那樣的世界，我們還是會繼續仰賴法官和陪審團，運用他們的智慧來審判。

否則，我們勢必來到一個「決策茲事體大、結果沒人負責」的可怕世界。

其實就算有了電腦，我們還是需要做出道德判斷。舉例來說，假設你有一台無人駕駛車，你會如何設定那台車對路況的反應？你會設定應該緊急轉向，以免撞上嬰兒車，還是直直撞上兩個老人？應該直接自己撞上電線桿，還是冒著可能會——也可能不會——撞倒路人的風險繼續直行？不難想像，電視新聞頻道最喜歡討論這種話題，而我猜想媒體的結論，不太可能支持電腦程式做出「自私」的判斷。

如果不讓電腦研判，而是把車子設定為遇到緊急事故時，必須由駕駛人接手汽車操作呢？目前的法律，其實給予人類某種判斷誤差的空間，那麼，未來有了電腦的協助，會讓我們的法律對人類駕駛的要求更嚴格嗎？當你因魯莽駕駛而受審時，你所設定的「駕駛程式」會不會被拿來當作呈堂證供？很可能會。總之，我們將會看到，很多日常的道德觀會開始改變。