石之森章太郎的「電腦奇俠」(人造人間キカイダー)中,主角次郎是光明寺博士所製造的人造人其中之一,特別之處在於被安裝了「良心回路」。光明寺博士想製造一個完美的機械人,於是透過「良心回路」賦予機械人人類良心的功能,能分辨善惡。但劇情安排是敵方組織在「良心回路」完成前將博士拐走,未完成的次郎無法完美分辨善惡,而且每次聽到特定頻率的笛聲就會發狂。
電腦奇俠在播放當時的副題是「懷著不完全的良心回路,在善惡狹縫間苦惱的人造人的戰鬥!」故事最終其實是問一個問題:「完全的良心是甚麼」?擁有未完成「良心回路」的次郎既無法成為人類,亦非單純的機器,在戰鬥中永遠苦惱著善惡的界線。然而,本身無法擁有完美的良心的人類,怎可能造出完美的良心?不完全的「良心回路」才是最接近人類的良心,不斷在善惡中掙扎苦惱的次郎其實是真正意義上的人類。
AI 會否取代人類這個問題已有長久的歷史,最近三五年更是如火如荼。「AI 會取代人類」的基本邏輯是:AI 是人類思考力的複製品 → 人類的思考會愈來愈聰明 → AI 運行得比人類快 → AI 會愈來愈聰明,並超越人類。事實是科技會進步,但人類並沒有變得更聰明,一百年前的人類本質上與今天沒有分別。增加的是知識的「量」,人類個體本身並沒有改變。在都市長大的我們懂得比山區原始部落多,但我們沒有變得比他們「完美」,都市的問題不會比原始部落少。
「AI 會取代人類」是因為 AI 能夠進化成更完美的方式。而在 AI 是人類思考力的延長,其所代表的是「人類能進化成完美」。「電腦奇俠」對這個問題的回答是:不可能。不完美的人類無法做出完美的機械,即做造了出來,也只會是與人類一樣不完全。完成的良心回路不存在,是因為根本沒有辨法完成 —— 完美的良心只是幻想。任人類再進化一千年都不會成為神,在地面上爬行的動物,即使模仿自己造物,也造不出神。
除非某天 AI 能夠在以另一種超越性次元的方式思考,否則無論人類抑或是 AI,始終都是在善惡狹縫間苦惱著、與自己戰鬥的次郎而已。