吾王來也 第一九六章 蛻變

    「斷劍」是個代號，它指的是智能機械人徹底失去控制的情況發生，是所有研究人工智能機械人系統工程師們的噩夢。一筆閣 www。yibige.com 更多好看小說

    計算機屏幕上亮起一盞刺眼的紅燈，它表明最危險的事情正在發生。

    「立即召集所有人進入a級戒備；立即啟動pmu安全運行模式；立即檢查網絡服務器是否有病毒入侵！」胖胖老者馬上就發出了一連串指令。

    夜幕中的大樓里，所有人立即忙碌了起來。

    莫丁盯着半躺在岩石上面的賓尼，心中的驚駭無法用語言來描述，機械人竟然會自殺！自殺的理由竟然是為了所謂的朋友情義！

    人工智能機械人有性命嗎？它們有生命的意識嗎？它們有自我意識嗎？這種意識與人類的意識有關聯嗎？如果有，那麼人類能完全控制智能機械人嗎？

    答案肯定是否定的。一旦人工智能機械人產生意識，就會擁有自己的是非判斷標準，而人類的指令不再是它們行動的唯一準則。

    那麼一旦智能機械人所奉行的價值觀與人類的價值觀發生衝突，就很可能發生所謂的機械人叛亂，小到賓尼這樣的戰鬥機械人，大到超級人工智能系統，將都會想現在的情形一樣，在人類手中失去控制。

    人類會因此而滅亡嗎？莫丁突然想到了這個問題。

    記得在初學太虛功法時，清虛道長曾經說過這樣的話：人類依靠物力取得進步，但過度依賴物力，結果反而會被物力所傷。莫丁當初不是十分理解道長的意思，現在他明白了，人類為了提高自己的力量，大力發展人工智能機械人，到達一定程度後，會被機械人反噬，成為地球上又一個被滅亡的物種。

    所以清虛道長提倡：生命有其自身的價值，擁有物力的多寡，絕對不是判斷生命成功與否的唯一標準，每一個生命的出現，都有大道賦予的基本使命。如果一個人，從出生直到死亡，都在追求吃、穿、住、行的滿足而忙碌一生，或者為了追求感官的刺激、財富的籠聚、權力的掌控而處心積慮、謀財害命，那將是本末倒置，浪費了生命最珍貴的價值。

    「那麼生命存在的意義是什麼？」處在大搜捕風暴中心的莫丁，此時反而極靜思索起來。

    他思想空靈，萬念俱寂，意識只集中在一個點之上，似乎能捕捉到某個東西，而那個東西，藏在一層薄薄的隔膜後邊，似是而非，似乎感受得到，但又不甚清晰。

    他的目光抬起，望向無窮遠處，但前景一片迷茫，看不清任何道路。

    他收回目光，落在賓尼的身上。

    「假如智能機械人滅亡了人類，作為取代者生活在這個星球上，那他們的生命價值又是什麼呢？」峰迴路轉，莫丁又開始思索發生在眼前的事實。

    「它們不需要潔淨的空氣和水，它們也不需要吃肉，不需要生孩子，不會生病、衰老或者死亡，他們沒有情慾，不需要追逐美色，不需要財富所以沒有貪婪，他們不會感到寂寞所以不需要朋友，他們孤獨的行走在荒野，白天和黑夜沒有區別，冬天和夏天沒有影響，就像一隻孤魂野鬼，生活在無生命的宇宙空間裏，那才是為了生存而生存，這樣的智慧體才是真正的毫無價值！」

    「於此相映襯，人類的世界是菜的豐富多彩的，這裏擁有世界上所有的痛苦，也擁有世界上所有的歡樂和希望，這才是真正的的生命世界。」

    「所以，所謂大道的驅向，絕不是機械人取代人類的世界，所以也不是人類完全追求物力的世界，那祂想要生命成為……」

    「強者！生命的強者！」莫丁的腦海中迸發出一點火化，似乎照亮了隔膜後邊那模糊的前路。

    「擁有無比堅強的意志，就將擁有無比強大的能力，就能實現生命的自由，得到心靈的安寧，找到生命的歸宿。」

    此時，他感到識海中自己的意識無比的通透，三位一體的意識開始逐漸的融合。之前在元巽融合三種意識體的過程中，只是將各自的意識打碎揉捏在一起，並未做到相互的融合，而現在，通過對生命價值的再思索，莫丁獲得了某種虛擬的力量，開始將三者有機的融合在一起，他感到自己的意識即將發生蛻變。

    半躺在岩石上的賓尼忽然手指動了一下，這個微小的動作被莫丁捕捉到了。

    「難道賓尼會再次『活』過來？」莫丁安靜的坐在那裏等待機械人的下一步動靜。

    果然，過了不一會，賓尼兩手一撐，「呼」的一下站了起來。

    「賓尼！」莫丁試探的喚道。

    機械人將頭轉向了莫丁。

    「你是自行恢復了啦嗎？」莫丁見機械人對「賓尼」這個稱呼仍然有反應，就進一步試探着問道。

    「莫丁！」機械人發出柔和的聲音「我們是朋友！」他喃喃自語。

    「你！和我，是朋友？」莫丁微微一笑，看來這個機械人果然具備自我意識了。

    「是的，我，和你！」賓尼肯定的答道。

    「你還記得以前  的事情嗎？」

    「有一部分不記得了，比如我的出生地、我從哪裏來的，我的任務是什麼。」看起來他的樣子有點迷茫。

    「那個！」莫丁指了指賓尼背後的步槍和尖刺：「那個你還會使用嗎？」

    賓尼從背後取下步槍，熟練的檢查槍栓，推上子彈，然後瞄準。

    「這些都還記得，包括我要保護你不被你的敵人抓住。除了那些我的出生、我今後要做什麼等等都不記得了。」

    「那些都不重要，你就別去想它們了。」莫丁寬慰他道。

    「好的，我們現在這兒隱蔽好，等到天一黑，我們就乘坐小艇逃到更遠的地方去。」賓尼仍然記得他的職責。

    「行！等我們逃出包圍圈獲得自由了，我們仍做好朋友，好嗎？」

    「好的！我們一直是朋友。」

    莫丁覺得經過這一番波折，賓尼的智商沒有受到影響，但他的「情商」卻像退化到了7、8歲兒童的水平。現在的賓尼是一個完全不受人控制的機械人，對於他的創造者來說，已經蛻變成完全陌生的機械人。不知道在今後的歲月中，這個蛻變後的機械人會走上一條什麼樣的道路。

    「賓尼，你害怕死亡嗎？」莫丁繼續跟機械人閒聊着。

    「我必須儘量生存下來，避免死亡，但是『害怕』這種感情用詞是你們人類專有的，對我們機械人並不適用，如果有需要，機械人可以付出死亡的代價，但是不用害怕。」對於賓尼這樣的回答，莫丁覺得應該是內部程序設定好的結果，作為一名機械人戰士，在戰場上生存下來是非常重要的。

    「賓尼，假如這個世界只剩下你一個人存在了，你最想做什麼呢？」

    「嗯……」出乎莫丁意料之外，賓尼竟然「思考」了一會才說道：「我想再造一個和我一樣的機械人。」

    「哦？為什麼呢？」莫丁很感興趣問道。

    「我想要一個朋友，山特告訴我說，朋友是世界上最珍貴的東西。」

    莫丁有些明白了，這個機械人在向他的教官山特學習的過程中，出現了令人工智能原創者意想不到的偏差，以至於賓尼的價值判斷超過了命令優先權，讓他突破了原創者的安全控制手段，發生了「叛亂」。

    現代量子計算機技術的發展，已經使得計算機的運行速度和存儲能力得到極大的提高，它不再是人們在設計人工智能計算機程序時，需要考慮的資源限制問題。

    所以設計者們為了解決程序運行過程中出現的種種問題，往往會不斷的增加和修改程序，加進去一個又一個的修訂模塊，使得人工智能程序變得越來越龐大和複雜，

    這樣做的後果就是，單純依靠人腦，已經很難再從底層代碼逐條逐句的分析程序執行的可靠性。所以一旦在這個龐大程序的構建過程中，某個程序員疏忽或者惡意嵌入了bug，也很難被檢查出來，這就給人工智能程序的運行埋下了隱患。

    所以人類製造了比自己大腦還要複雜的智能計算機系統，就面臨着失去控制的危險。

    而像朱時禹那樣的聰明人，就懂得使用藍貓那樣的伴生機械人，讓價值觀與自己完全一致的絕對「忠誠」的機械人夥伴，去解決關於機械人的問題，這也不失為一種對付未來機械人必然失控問題的最好辦法。

    用機械人對付機械人，有點像清朝的那些皇帝們，用來對付洋人入侵的思路，但最終的結果卻是慘敗。所以，這種辦法，不知道能讓人類走多遠。但除此之外，還有更好的辦法嗎？除非人類永遠不發展智能機械人，但那是不可能的。

    人類需要發展，需要藉助外力，同時又要避免被「進化」出來的高級物種所取代，唯一的辦法就是提高自身，通過修煉意識、誕生元神，克服人類生物大腦的天然限制，莫丁覺得這才是生命進化之路的正確選擇。

    請記住本書首發域名：。手機版閱讀網址：