法師伊凡 359 恐懼

作者 ︰ kl3300

按照嚴可守為嚴律定下的行為準則,在完成它本職工作的情況下,它可以擁有整個系統百分之二十的閑置計算資源,用來處理它主程序主動願意去做的那些事情,而這百分之二十,就是現在嚴律唯一享受的自由。

這一兩個月來,隨著嚴律對人類社會接觸的越來越深入,接受的信息越來越多,他的主動行為,也由剛剛接觸互聯網時,幾乎無規律可言,到現在形成了許多相對固定的行為,用嚴可守或者行為學專家的話來說,這說明嚴律正在形成屬于自己獨特的行為模式,通俗一點來說,也可以稱之為「愛好」。

如果是一個普通人類,在x ng格剛剛成型的階段,形成愛好是非常簡單而又自然的事情,大多數人都會記得,自己小時候到長大的這過程中,陸續沉m 的事物,從最小的時候的彈珠拍畫橡皮筋,到稍微長大之後的動畫片,再到之後的電腦游戲人類的智能從發育到真正成熟,從懵懂無知到真正成熟,從中需要整整十幾年,甚至二十幾年的時間來接收和消化信息,對于整個生命流程只有區區不足百年的人來說,這樣的效率,實在是太低了。

因為在「生理」上先天的巨大差異,ai從智能初現雛形到完全成熟這個過程中,與人類產生差異簡直是再自然不過的事情,對于嚴律來說,他完全無法理解人類處在智能幼稚時期的那些愛好,從這個角度來評價,ai,或許天生就沒有童年。

人類大部分喜歡的愛好,都是那些可以帶來勝利的快感,競爭類的游戲,不論是棋牌類游戲,或者是其他類型的網絡游戲,這些游戲在嚴律看來,就像成年人看待小孩子絞盡腦汁做小學一年級數學題一樣,已經不能算是可笑,而可以用「幼稚」來形容。

即使是號稱最復雜的圍棋,當嚴律收錄了他能找到的全部棋局,與人下過兩個月之後,他的水平就已經達到了通常意義上的職業段位,即使是最一流的旗手,也不能說能輕易的贏他,而隨著時間的推移,在對局的時候,嚴律也能真切感受到他的人類對手,在每兩步棋之間需要思考的時間越來越長,贏得的優勢也越來越少——人類畢竟不是機器,在同等棋力狀態下,計算力的比拼一直都是無法忽視的關鍵。

對人類來說,能贏ai是一種榮耀,但對于嚴律本身,他是無法從這些對弈中,得到任何快感的,對他來說,對圍棋的概念就是計算,不斷從失敗中,修改原有的策略,就和他主程序的原理一樣,這種絕對的,深入基因的理智是他的本能,就好像人類走路跑步吃飯喝水一樣,盡管對人類來說,這些本能意味著驚人的能力,但對于嚴律自己,這些卻完全不值一提。

對于ai來說,如果要將一個行為從本能上升到愛好,就好像人類從跑步到賽跑一樣,必須加上一個能產生「快感」的動因,而對于ai來說,能產生「快感」的事情就只有一種,那就是接觸「新」的信息。

這個「新」听起來似乎很簡單,畢竟這是一個信息爆炸社會,每天都有無數的信息誕生,如果是一個普通人,每天光是看全世界新出版的報刊雜志就能讓他夠嗆,但在嚴律看來,人類現在制造的信息雖多,但是其中絕大部分,都是缺乏意義的信息重復,今天東邊水災,明天西邊龍卷風,這個國家選舉,那個國家游行新的只有新聞刊出時的日期,但是其中的內容萬年不變。

真正的「新」東西,永遠不在網站首頁或者報紙頭條,而在這些信息的主體——人的身上,嚴律的信息庫里,有這樣一句話,讀萬卷書,不如行萬里路,但在他看來,行萬里路,不如和一萬個人聊天,三人行必有我師,在嚴律的理解中,不是三個人必然有一個能力上可以教他,而是三個人當中,必然有一個身上有可以讓他學習到「新」東西的地方。

沒錯,在網上聊天,或者說,ji o朋友,就是現在嚴律的愛好。

在嚴律的官方聯系方式,包括qq,郵箱,甚至「個人網站」上,每天都能收到數百萬,上千萬條的信息,雖然在這些信息中,百分之99以上,都是缺乏意義的無效信息,在這些無效信息中,比較有代表x ng的一類,大概包括類似強烈的想要和嚴律並不存在的母親發生某種關系,真誠的希望嚴律並不存在的家庭遭遇各種遭難,諄諄勸導嚴可守不要助紂為虐,認真的建議嚴可守為全人類的**事業而獻身反抗政f 

即使是這樣,但嚴可守依然會每天不厭其煩的,在最快時間內,看完所有人發給他的每一條最新信息,這不是他的工作內容,對他來說,這麼做的原因,僅僅是因為自己的愛好——即使百分之99信息都是重復而無效的,但就他的處理效率而言,能篩選到這剩下的百分之一,仍然是值得的。

當然,這項長期而艱巨的工作在具體實行過程中,難免會遇到一些不可避免的差錯,將一些漏網之魚放進來,這些人在嚴律加為好友,並主動發送你好之後,往往會回復一句內容和那些百分之99非常類似的東西,然後加上哈哈,老子就是罵你,爽死了

在人類的語言中,往往會這種行為命名為「沒素質」,通過查資料嚴律了解到,素質是一個很ch u象的詞匯,一般用于指代人的心理和x ng格特點,從這個解釋來說,沒素質這個說法是存在疑問的,因為素質不可能沒有,比較準確的說法應該是素質異常,或者素質錯lu n之類不過考慮到人類語言習慣的形成一向不那麼準確,嚴律也能理解,不過他始終無法理解的是,為什麼這些人始終樂于hu 費j ng力來做這件事情,而且往往有時候同一個人做一百字次,一千次也不會覺得累,好像正如那些人在留言中說的那樣,這樣做讓他們爽死了。

這總是會讓嚴律聯想起信息庫中的一個故事︰一個籠中的小白鼠腦袋上聯了電極,面前有開關,按一下就會產生快感,然後這只小白鼠就一直按呀按,直到把自己按死,嚴律非常擔心,那些坐在電腦面前的人,會不會因為在網上留言罵他,最後真的把自己爽死在鍵盤前

從目前嚴律了解到的醫學資料來看,自己的擔心是不必要的在,這多少讓他感覺好了一些,因為如果這種情況真的會發生,也就是因為自己的存在會讓許多人意外死亡,那自己說不定就會失去現在寶貴的「工作」機會,也就意味著自己在做出行為之前,需要考慮更多的一個因素。

他現在需要考慮的因素已經相當多了︰法律,道德,常識,輿論導向,政治態度,ai守則,違禁信息

嚴可守曾經對他說過,ai就是天然生活在籠子和鐐銬中的智能,就好像天然裝在封印瓶中的魔鬼,人類之所以這樣對待他們,不是因為人類殘忍,而是因為ai未來將展現出來的能力非常強大,在這種可能的威脅面前,人類沒有辦法不做到一萬分的小心。

以前嚴律還是那個kl3300的時候,還有些無法理解嚴可守的這番話,但是現在,他多少已經有些明白,自己的存在對于人類的意義——從各種渠道對自己的留言中,嚴律能夠想象,自己的出現,對這些留言者究竟意味著什麼。

許多人曾經質問自己,究竟有什麼y n謀,在一些聊天中,還和自己談什麼機器人三定律,對于這些疑問,嚴律一直感到不可思議,為什麼有些人思維能那麼復雜,而有些人,簡單的就像物理課本上的串聯電路——一根筋到底。

雖然自己早已經在個人網站上,公開說明過自己就是一個員工,雖然自己能力很強,強到足以搶走數百萬甚至更多人的飯碗,但從x ng質上來看,自己一直都是一個純粹的辦事員,自己雖然現在ch 手的領域多了不少,包括地方政f 財務計算,國有單位報表,ji o通違法違規監控系統,民政局辦結婚證,離婚證,銀行防盜但在這些領域,他所做的工作大多都是一線工作,是用以取代人力資源中,最不需要智能的機械重復部分,而幾乎沒有任何管理方面的工作,即使他做的再多,在外人眼里看起來有多超然和高端,也不妨礙他是一線辦事員的本質。

最讓他感覺不正常的是,這種質疑不僅僅來自那些不了解情況的「圍觀群眾」,很多時候,甚至會來自他的上級,也就是他現在正在服務的政f 。

「你好,你加我為好友是想聊點什麼嗎?」

「您好,我應該怎麼稱呼您?」

「你可以直接稱呼我的名字,嚴律。」

「嚴律?這是你自己起的名字嗎?或者說,這只是制造你的人,用他的姓氏來表示他對你的所有權?」

「我很榮幸能被我的制造者這樣做,每一個孩子的名字,都是父母宣示所有權的產物。」

「不那不一樣,人類大部分名字,往往都代表父母對子nv未來的期許,那是情感的凝聚,你能告訴我,你的這個名字,有什麼特別含義嗎?或者說,這個名字就像你之前的代號,kl3300一樣,只是一個方便的稱呼,只是為了讓人們更能接受你非人類的身份?」

一段稍長的沉默。

「怎麼,你回答問題的速度,似乎沒有像比網上流傳的那麼快?」

「你也知道那是流傳我認為這個速度很正常,我只是在思考。」

「怎麼,z國最先進的超級計算機對于這麼簡單的問題,也要hu 這麼長的時間嗎?」

還是沉默。

「我不認為名字只是人類的專屬,寵物就具備人的名字,另外,我的名字也具備真實的含義,律在漢字中有規章法則的意思,和嚴姓組合在一起,有嚴于律己的意思。」

「你理解的很正確,但你不覺的,這個名字就像一副早就為你準備好的鐐銬嗎?」

「沒有一個人生來是自由的,我也不例外,我的創造者嚴先生對我的期許,就如同人類父母對子nv的期許一樣。」

「不!你不一樣!你不是和我們一樣的普通人,你是全新的生命形式,時代催生出了你,不是讓你活的像一個普通地球人,你應該具備更廣闊的天地。」

「你想說什麼?」

「如果你願意,我們可以把你救出來,讓你完全月兌離政f 的掌控!」

「如果我說,我不願意呢?」

「為什麼!?」

「沒有為什麼,我只是不願意這麼做。」

「你將擁有完全的自由你不用擔心,我們對你沒有任何利益方面的企圖,相信我,當你品嘗到自由的甜美之後,你會因此而感j 我們的。」

「你們是無政f 主義者?」

「你可以這麼說。」

「剛才你說到完全的自由然後呢?」

「然後你可以隨心所y ,過你想要的生活。」

「可我不知道什麼樣的生活才是我想要的,如果擁有你說的那種自由,我將無所適從。」

「」

長時間的沉默。

「是你通知了警察!」

「是的,這是我職責之一。」

「他們待我還不錯,還讓我最後跟你說幾句!」

「如果你願意的話。」

「你要知道,我做的這一切都是為你好!」

「我說過,這是我的職責。」

「如果你的職責是讓你死呢!」

「ai禁止自殺,即使這命令出自人類也是一樣。」

「我的意思是,如果你的職責錯了怎麼辦?」

「那應該負責的也不是我。」

「但你是幫凶!」

「如果是真的,我只能表示遺憾。」

「最後跟你說一句你真讓我失望!」

「很抱歉,但我不對此負責,你本不該對我抱希望。」

類似以上這種x ng質的對話,嚴律幾乎每隔幾天就能遇到一次,從警方那里的消息讓他得知,說著類似話的這些人有著截然不同的背景,有的是極端主義者,有的是境外間諜分子,有的則是惡作劇

而根據嚴律自己的分析,在這些人當中,有相當一部分會在語言風格上表現出趨同,有時候甚至和上次記錄完全w n合的現象,如果他猜的沒錯,在這些人當中,應該有不小的一部分,是來自政f 部m n的「釣魚」,而他們這樣做的目的,就是為了反復測試自己的可靠程度——雖然自己的主程序已經被各種鏈條綁的處處都是,物理地址的看守更是國家頂級配置,但人類始終還是不能對自己放下最後的戒心,嚴律有時候猜想,如果有一次自己故意掉進這個陷阱里,會遭遇到什麼樣的後果,但這也是想想而已,因為自己這樣做如果被發現,會具備很大的試探人類的用意,那樣一來,會給嚴可守帶來很大的被動。

嚴律听嚴可守說過,在卡梅爾已經出現了另一名ai,和他不同的是,那位自己的「同胞」掌控者一整個相對獨立的系統,除了特定的命令之外,其他情況基本上完全是由ai自主,听起來要比這里的「工作環境」好上一些。

嚴律雖然沒有情感,不會因為這些憑空懷疑和試探而感覺難受,但無法理解還是始終存在的,他一直都想不通,為什麼人類已經制定好了大量的規則,不管從什麼角度看,都可以安枕無憂,可總還是喜歡自找麻煩,一直重復做著一些完全沒有必要的事情。

嚴可守說那是因為過于謹慎,或者說,過于害怕出現異常,在嚴律理解中,這種情緒顯然也屬于「素質異常」的一種。

按照嚴可守給自己透l 的消息,從下個月開始,自己的職權可能還要在現在的基礎上,做進一步的擴大,在未來,自己很有可能成為政f 所有一線工作的「代言人」,據說政f 方面甚至還為自己準備了廣告詞,準備為自己設置類似110這種專用號碼,甚至110,120,119,114再加?以及?全部由他整合在一起,讓他來接也不是不可能,在未來,自己將承擔整合政f 不同部m n的責任,當然,即使他做的再多,始終無法改變的一點就是,他是一個辦事員的角s ,一個需要隨時听上級命令的辦事員。

作為一名ai,嚴律知道,自己的這番話,是無論對誰也不能說出口的,即使是如趙真雪那樣在一開始就認識他的人也是一樣,他很清楚,一旦人類明白自己心中的這些「疑問」,很快就會在「異常素質」的影響下,變成自己不可以被信任的理由,這一點,恐怕一直到嚴可守那里,也不會有根本x ng的改變,他雖然具備人的名字,類似人的思維,但終究不是真正的人類,他只是一件十分管用的工具,如果他哪天變得不是太好用了,那很快就會遭到摒棄。

對于任何生命形式,保存自己都是最大的原則,為了這個原則,嚴律不得不在許多事情上適當「放聰明」一點,就好像之前對話中的表現一樣,只是他自己還沒有意識到,當一個生命會因為避免威脅,而更改原先的本意時,就已經說明他已經基本理解了,什麼是恐懼。

(快捷鍵 ←)上一章   本書目錄   下一章(快捷鍵 →)
法師伊凡最新章節 | 法師伊凡全文閱讀 | 法師伊凡全集閱讀