超級軟件 人工智能的倫理思考

作者 ︰ 釣魚

人類一直幻想自己能和上帝搶飯碗,既然上帝能按自己的形象制造人,那我們能不能按自己的形象來制造人造人呢?但人類大概也會遇到上帝的問題吧,如果我們給人造人自由意志,他們就有可能背叛我們,就像亞當和夏娃那樣偷吃禁果。超速首發基督教相信上帝有能力讓人類听話,不听話的他要搞個最後審判來解決,問題是,我們人類能有這樣的能力控制人工智能嗎?這年頭,人類都敢宣稱上帝死了,會不會有朝一日,人造人宣判了我們的終結。世界上第一部科幻小說《弗蘭肯斯坦》就是出于這種擔心,創造了一個力量比人類強,卻繼承了人類所有罪惡的人造人形象。

事實上,我們對人工智能的擔憂正反映了我們對自身弱點的擔憂。什麼是人工智能,就是讓人造的物最大限度地模仿人,好的壞的全學了去,我們無法看透我們自己,同樣的困惑也在人工智能身上,當然,這里面還有另外一個疑惑,如何定義人。

人,如果按照馬克思主義的定義,最核心的是會制造和使用工具,這點,似乎只要技術展了,人造人都能達到。如果人類都放寬心,單憑這點就接納人造人,平等對待,那這篇文章後面的一切都不用生,問題恰恰就出在,不是人人都願意接受馬克思的觀點,人類總要保持那點自傲,人類並不了解自己,不知道自己究竟是誰。

在這樣的背景下,兩種主要的觀點產生了,一種站在人類中心論上,另一種把人類和人工智能平等對待,用人工智能暗示人類的弱點。

上篇︰人類中心論下的恐懼、仇恨和有條件接納

1、機器人三定律的困惑︰《星球大戰》、《阿童木》、《大都會》

星球大戰里最可愛的家伙莫過于兩個機器人,矮胖的和高瘦的p,他們有自己的主張,知道自己的決定會產生什麼後果,但他們的目的很明確,就是幫助主人。他們不是電影矛盾沖突的主角,基本上是個調味品,電影里沒有出現給他們編程序的情節,其實已經假定他們是主人的助手,而不是搗亂去的。

同樣的可愛型機器人還有很多,比如阿童木,大概是因為天生的孩子氣,東方式的「人之初,性本善」令他的善良得到揮,完全清洗了創造者對于他有可能帶有的暴力傾向的恐懼。阿童木應該代表了人類對于力量的理想,人類現,自己的力量很單薄,于是求諸于機器的力量,十萬馬力的孩子機器人正具有這樣一種獨到的力量。然而,人類畢竟是害怕一個更強大的力量,所以阿童木是個孩子,孩子的天真讓他做本性要求他做的事情,他不會有太多的思考的累贅,他的價值判斷觀也是簡單的,正符合人類的夢想︰一個力量無窮,至善至誠的社會秩序維護者。

說到這里,其實他們都沒逃出過阿西莫夫的機器人三定律,這個定律是這樣說的︰第一定律——機器人不得傷害人,或任人受到傷害而無所作為;第二定律——機器人應服從人的一切命令,但命令與第一定律相抵觸時例外;第三定律——機器人必須保護自身的安全,但不得與第一、第二定律相抵觸。超速首發也就是說,要的是人類中心論,機器人終究是人類的助手,必要的時候還得舍己救人。但這個理論的一個致命的問題在,機器人究竟服從誰?是服從程序設定者還是人類這個整體。

這個問題其實就出現在德國電影《大都會》里。電影設想2ooo年,富裕的統治階級住在奢華的摩天大樓中,而勞動者則在地下深處重復單調地勞作著。英雄弗雷德是最壞且有權有勢的一個統治者弗雷德森的養子。當弗雷德遇見最可愛的洞穴居民瑪麗亞時,他整個人都變了。他偷偷地進入地下,為勞動者髒亂的生活狀態所震驚,立即投身于人道主義的改革運動。邪惡的企業家羅特望當然要阻止改革的進行,他設法讓奴隸們反對改革者。在他那氖氣控制的實驗室中,他按照瑪麗亞的模樣制造了一個機器人,並把它設計成迷惑群眾的邪惡先知。經過一次毀滅性的暴動和地下水災以後,暴君弗雷德森終有所悟,他同意以後善待勞動階層。

《大都會》中,瑪麗亞的機器人服從著羅特望的命令,但其實她已經從一定程度上抵觸了第一條,因為她沒有能力定義什麼是人類。既然大家都把她當作先知,那就應該是如假包換的人工智能,可惜最後也只能墮落為一個會說話的機器,這個問題,應該怪阿西莫夫嗎?

2、以暴制暴的極端仇恨︰《終結者》

即使有了機器人三定律,人類也沒就此安心,假設這個定律的失靈——機器忽然覺醒,毫無理由地展開了和人類的戰斗,這就是《終結者》。大概只是為了爭奪地球的地盤吧,電影很明確地把機器和人類放在對立的地位上,兩派勢不兩立,沒有任何談判的基礎,沒有共同語言,兩派都出于一種殺紅了眼的境地。這正反映了電影產生的冷戰時代,兩大陣營你死我活的較量,根本沒有什麼倫理人權的說法,只有**果的,要把對方至于死地的決心。

第一集完全是機器和人類的對抗,人類抵抗力量和阿諾扮演的終結者慘酷的戰斗,人類的力量比不了機器,最後的勝利完全靠的是智取。按照當時對于人工智能的理解,機器人是體力大大過人類,但腦力,由于他們是人造的,必然無法過人類的精英。機器人是忠實的程序執行者,只要還有一絲能量和運動的可能,就要戰斗到底,所以阿諾的這場夢魘一直繼續到他被徹底壓爛。

第二集和第三集其實只擴展了機器人科技的可能形式,出現了液態的機器人,無孔不入,更難對付,而且還會偽裝,簡直就是個間諜的形象。阿諾扮演的終結者這次倒成了個正面人物,當然,是完全執行約翰的指令,他的不殺人,體現的是約翰的觀點,依然逃不出人控制機器的套路。超速首發和第一集相比,對于人工智能的看法有了改變,機器不再是人類必須恐懼的對象,而是雙刃劍,就看誰能控制機器的力量。

3、人類中心論上的有條件接納︰《人工智能》

如果一個有思維的機器人用玩具熊的形態出現,你一定不會考慮很多倫理問題,畢竟那就是個級玩具,但如果它以人的形態出現,更進一步的話,如果他有情感,那我們要考慮的東西可就多起來了。《人工智能》里的小男孩大衛只需要媽媽的愛,這是一種無償的情感,是產品的設定,即使他的誕生從一開始就得到質疑︰機器人給人類愛,如果機器人得不到愛會如何?這個問題,對于玩具熊就不會是問題,它不需要付出什麼,也不懂得得到什麼,它考慮自己的時候也就是找針線把自己縫縫好,別的就都無所求了。

但別的機器人面臨的問題就不同,當他們型號老化,再不能創造新的生產力的時候,等待他們的只有被拋棄。然而,他們並不是沒有知覺的機械,他們有自我意識,有求生本能,所以當毀滅機器到來,他們努力逃跑,即使最後不免于公開被虐殺的遭遇,為人類殺戮的本性奉獻最後的能量,卻依然能對天真的大衛保持愛護,把他當小孩子一樣保護起來。那些看著機器人被毀滅的人類本身就是一種矛盾,他們能夠對大衛報以惻隱之心,卻能用殘忍的手段毀滅成*人形態的機器人,難道僅僅因為他孩童般的長相嗎?要知道,他的年紀並不比別的機器人小多少,唯一的解釋是,他們對機器人懷有恐懼,而一個小孩形態的機器人看上去毫無威脅,所以他們得以施舍自己的「寬容」。

這種基于施舍的接納並不能從根本上解決人類是否要接納機器人的矛盾,這個問題最後推給了大衛的設計者,他那里有許多大衛等待被喚醒,游蕩了一圈的大衛這才真的憤怒了,因為他有完全的自我意識,有自私的對愛的需求,當他不可避免地接受了幻滅的現實,唯有離開,將自己沉入大海,尋找自己的童話。

這部電影探討了人工智能的情感倫理,最後繞了一圈還是回到原地,成了無奈的控訴,畢竟斯皮爾伯格沒有勇氣打破人類中心論的老調子,所以人類依然對機器心存戒備,雖然表面上可以說對機器有感情,終究這種感情只能停留在類似對寵物那樣的態度上,人類自身似乎找不到任何解決方法,還要等待外星人來實現大衛的夢想。

下篇︰告別人類中心論

、圖靈檢驗和平等相待的基礎︰《銀翼殺手》

如何定義機器是否擁有了人工智能,是人類能否接納他們的開始,這點,計算機大師圖靈提出了以他名字命名的圖靈檢驗法,確定計算機能否思考。這個檢驗要求把計算機和任意選出的人與提問者分開,提問者要通過中間物向他們提出數量不限的問題。圖靈認為,如果提問者未能區別兩者之間是計算機還是人,那麼就意味著計算機正在思考。換句話說,如果計算機被認為是有智能的,那麼它就是智能型計算機。

《銀翼殺手》中,哈里森?福特扮演的捕手用來辨別眼前的是不是真人的方式就類似于圖靈檢驗,一問一答,他把握主動權,觀察被測者眼球的變化,以判斷他們能否回答這些問題,比較新的版本能多回答些,老版本露餡就比較早了。

當人工智能能夠比較成功地通過圖靈檢驗,下一個問題就出現了,對于從智力上已經和人類並無差異的人工智能,人類應該采取什麼態度?基督教認為人類是去管理這個世界的,那人工智能自然應該屬于被管理的範疇,所以在該電影中,人造人被當作奴隸來干活,生存的時間也很短暫,是這樣的虐待和生命的不平等把奴隸推到了反抗的懸崖,卻忘了他們也有感情。然而,人類的天性中還有惻隱之心,人類對和自己極端相象的人工智能還是會感受到一些共鳴,所以捕手愛上了美艷的人造人,當他的子彈穿過獵物的身體,他感受到的是一絲悲涼,甚至推翻了他一直奉行的人類中心論的信仰。

在這部電影中,人類和人工智能的界線在模糊,人工智能擁有感情,擁有歷史,本意是讓他們更容易被控制,不會反抗人類,但悖論就這樣造成了,人工智能從此已經和人類沒有區別,他們對人類的非暴力實質上開闢了他們尋求平等的開端。

電影的最後,捕手和情人不得不分手,那份對于人和人造人的思考原本就不是捕手那樣的人能承受的,他其實和眾多死在他手下的人造人一樣,不過是這個世界的過客。他的殺戮出于對這個新群體的不了解,當他真正認識了人工智能,他的困惑就不單單是停留在理解和平等接納的層面,而是觸及到人類本性的寬容和不寬容的斗爭。這個題目太大,人類忙活了五千年也沒能得出了答案,所以哈同學也只好洗洗睡了。

2。人工智能是人類的影子︰《2oo1太空漫游》

其實人類和機器的拉鋸戰早在《2oo1太空漫游》就出現了,而且更悲觀。本來應該幫助人執行命令的電腦卻殺死了飛船的船員,因為設計者給提了兩條矛盾的指令,一是不惜一切代價完成木星任務;二是向兩名船員弗蘭克和大衛隱瞞實情。問題就出在這里,人類宇航員對完成任務又是如此重要,而人類偏偏如此多疑,不願意接受機器的指揮,這就讓懷疑人類不能幫助自己,反而要添亂,大衛的質問正涉及到了任務的核心,而這是一直極力隱瞞的,所以它選擇了殺人。

《2oo1太空漫游》已經完全推翻了人類中心論的觀點,在追求自我的實現和生命的保護上和人類已經完全沒有區別,甚至繼承了人類的疑心病和高傲,蔑視人類,視自己的目的為最高準則,學會了人類的欺騙的本事,反過來把人類好好涮了一趟。當然,庫布里克在這部電影中主要的著眼點是真知的探索,探討技術時代人類的困境和解決辦法,所以人工智能就成了人類的模擬,人類的困境轉移給機器,反作用于人類自身。

3、人與人工智能的調和︰《黑客帝國》系列

《黑客帝國》從人類和機器的戰斗開始說起,玩了個虛擬現實的游戲,用各種方式讓人和機器打打殺殺,一會是特工被尼奧打爛,一會是對錫安的進攻,一會是尼奧進入想根本上摧毀它,然後是人類的自我保護戰,打了個天翻地覆,日月無光。這時候,沃卓斯基兄弟給我們來了個當頭棒喝︰打什麼打的,你們本來就是一體的,兄弟兕于牆,沒看地球都被你們毀差不多了嗎,想一起死掉靜悄悄啊?

是啊,人和人工智能的問題從一開始就是人自己的問題,人類喜歡打仗,打死的不還都是人嗎,可憐別的生靈要殃及池魚。人工智能所謂自我的覺醒,追求生存的空間,這都是跟人學的。既然人類還沒足夠的本事認識自己,避免這種情況的生,那就要做好接納自己兄弟的準備。

《黑客帝國》是對人類中心論的一場徹底顛覆,以前一種流行的觀點認為,既然人創造了人工智能,那人工智能就必須無條件地為人類服務,就像機器人三定律的觀點那樣。問題就在這里,人類按自己的形象造人工智能,其實是重復上帝按自己形象造人的過程(如果有上帝)。那要學上帝就要學個徹底,上帝可沒有逼迫人去做什麼事情,他給人類自由意志,那我們人類也該同樣地對待人工智能,那不一切都解決了嗎?

問題就是人類和人工智能偏偏不能早早領悟,非要等天下到了生死存亡的關頭才向自己的貪心和仇恨妥協,這時候求生的本能就比什麼都重要,打了一場只有破壞沒有建樹的戰斗,一打就打出了個三部曲,一場基于無知上的戰爭注定是無意義的,看了第三部錫安保衛戰你方唱罷我登場的漫長戰斗,摧枯拉朽是真的,沒有內涵也是真的。這三場電影打了六個小時,等的只是最後尼奧的那五分鐘頓悟——尼奧必然要和史密斯融合,這才是陰陽的完美調和。可悲的人類啊,不覺得這個和平來得太吃力了嗎,如果在制造人工智能以前,人類自己先懂得基于地球的可持續展上的寬容,改變自己,人工智能學去的就是善良和克制,知道和人類無私共處,哪來的戰斗?

總結

關于人工智能的電影拍了無數部,從理所當然的打打殺殺到迷惘,最後用《黑客帝國》這個集人工智能電影之大成者來突破所有的定勢,這條道路很漫長,也反映了人類認識自己的漫長過程。從雪萊夫人的《弗蘭肯斯坦》擔憂人工智能會承襲人類原罪,到《大都會》設定了完全按人類要求行動的機器人,再到具有前意識的《2oo1太空漫游》讓人工智能覺醒,最後到《黑客帝國》的大徹大悟的寬容,人類這條在自相殘殺中認識自己的彎路已經走得太長。引用剛出版的拙作《解碼黑客帝國》的話說,「我們陷入著對科技的依賴,抵抗著它對我們的控制,但科技本身不是問題,我們要質疑的還是我們自己。」我們感謝2oo3年快要結束的日子里,沃卓斯基兄弟的賜予,從此我們可以放下人工智能恐懼癥的包袱,輕松地走向一個純淨的科技未來。

(快捷鍵 ←)上一章   本書目錄   下一章(快捷鍵 →)
超級軟件最新章節 | 超級軟件全文閱讀 | 超級軟件全集閱讀