![](https://www.cup.com.hk/wp-content/uploads/2020/01/shu908.jpg)
經典的倫理學思想實驗「電車難題」設定了兩難的處境,一輛電車正在高速駛來,而你握有軌道轉換器的操縱桿,火車僅有的兩條軌道上分別躺了一人與五人。如果電車繼續行駛,將輾過五個人,但你可以拉下操縱桿,使電車轉向,變成輾過一個人:你願意用一個人的生命換取五個人嗎?
這個倫理難題的核心思想其實是在問,是否應該犧牲少數人來成全多數人。通常是引伸探討實用主義與道德義務論之間的差異,前者主張犧牲少數人來達到最大效益,後者則認同「不可以殺人」是道德義務,所以寧可犧牲五人也不能主動殺一人。
這個問題一直是在問「人」,因為人類就是唯一的道德主體,你總不能期待一頭牛能回答道德難題。但現今出現另一個能夠回答、也需要回答這個問題的對象 —— AI。雖然嚴格上,現行的「人工智能」未達到真正「智能」的水準,只是處理速度稍快的程式,但已差不多進入實用的階段,在某些情況下無可避免要面對道德難題,尤其是自動駕駛系統。
所謂「自動駕駛」,從字面上來看,只不過是讓車子自己動起來的技術,從「沿著車道動起來」的要求來看,自動駕駛技術已經可以投入市場。但擋在自動駕駛面前的高牆不是「動起來」,而是法律與道德問題。例如自動駕駛車輛出現交通意外後,應該由 AI 系統工程公司、車廠、抑或根本沒有在駕駛的駕駛者負責?在解決這個問題前,自動駕駛永遠無法成為商品。
若文首的「電車難題」轉換成交通意外場景,等於詢問自動駕駛 AI 應該優先保護駕駛者抑或路面使用者。試設想在電光火石間,車輛只能選擇直駛,撞上障礙物;或者扭軚剷上路面。前者會導致駕駛者死亡;後者會殺死路人。這個 AI 應該如何選擇?車廠應該如何設定這個 AI?法律該如何規管這設計?
如果以實用主義方法設計,自動駕駛 AI 應該選擇人命傷亡最少的結果 —— 然而這個結論是基於「所有人命都是同價」的原則上。大家心裡都明白,人命其實不是同價的。在交通意外的人命選項裡,如果天秤的另一方是政府要員,那你就輸定了。
再多推一步,「自動駕駛 AI 技術」如果搭上「社會信用系統」以及「大數據分析」,交通意外裡的人命選擇,可能只基於你當天早上在社交媒體所發表的幾條動態。道德選擇很可怕,但將道德選擇外判更可怕。所以民主投票很重要,把一切都交給系統而自己不聞不問,與自殺沒有分別。在交通意外中撞車,與政治選擇中撞車,兩者最壞的結果都是死。
當大家以為 2020 年已經是想像的界限,但說不定數碼龐克的世界在今天才悄悄開始。