生化王朝

174 人工智能三大定律

“首先說一說為什麽你會這麽幹脆利落的打開‘海嘯’係統吧,根據我的判斷,這樣對你自身的實力絕對也有很大的削弱。”這一點本來是李朗感到最不理解的,畢竟這不周山作為一個人工智能,亦或可以稱之為電子生物,在無線電這一方麵可以說擁有很大的優勢,怎麽會如此輕易地舍棄?但是這海嘯係統的開啟對於李朗來說意義實在太過重大,所以他也就一直順著不周山的意思辦事兒了。

“為了我的安全。”不周山倒是沒有再隱瞞,緩緩道來,“其實擁有強大信息係統的人類,對於我來說簡直就是天敵。特別是在現在這種核武器的使用無法得到控製的情況下。隻要來上一顆最輕量級,嗯,大約兩萬噸級的核彈,就差不多可以將我毀滅了。我想你可能有些疑問,那就看一看我的身體吧。”

這句話剛說完,李朗就感覺到他所在的房間立刻開始上升,隨後在十秒鍾之後停下,四周的金屬牆壁全都全無聲息的向上方升去,露出了周圍諾大的空間。隻見這是一個類似於高塔內部的存在,一圈圈的輻射型建築圍繞著中間一個直徑大約三米、高度大約有十幾米高的一個龐然大物散開,這中間的東西有點類似於一根粗大的柱子,外壁是一層透明的高分子材料,而裏麵,則是一個個的電子元件和一塊塊鮮紅的肌肉,甚至隱隱約約能夠看到類似於大腦灰質的東西。

“這……這是!”李朗看到這東西之後不禁發出一聲驚歎。

“不錯,這就是我,嗬,多麽美……就連被我當做父親的吳老,麵對我的身體之時,也是驚歎不已。”李朗身旁的不周山麵帶著自豪的微笑說道。

知道了眼前的這個巨大的電子生物結合體才是不周山真正的身體,李朗看著旁邊這具被用來代替本尊行走的機械人,立刻感到了說不出的怪異。當對方使用人類形態的機器人之時,他還感到一些親切感,看到本體之後,李朗終於感受到了對方和人類的巨大差距……這完全就是兩個截然不同的物種啊,雖然思想方麵有某些相同,但是身體的差別卻比人類和草履蟲的差別還要巨大,兩者構成的基本元素都是不同的。

“自己創造智慧生物,這對於人類來說實在是一個奇跡,一個可以媲美上帝的奇跡。”不周山的聲音悠悠響起,這次卻是換成了類似於滄桑老人的厚重聲音,就連臉上的仿真蒙皮和鋼鐵骨架也一陣變換,竟然逐漸變成了一個成熟英俊的中年男人的樣子。他的話,簡直就像是再說別人一樣。

“正因為人工智能的精密性,所以隻要本體受到的損害超過百分之五,我就會‘死亡’,而且因為能量傳輸和安全問題,我和這座地下要塞是連接在一起的,根本無法移動,所以任何超出一定能量值的打擊都會毀了我。”不周山不帶絲毫感情的說道,“如果人類發現了我的存在,一定會想盡辦法讓我為他們服務或者幹脆消滅我——我太了解人類了。但是這兩點都不是我想要看到的,所以必要的自我保護也是沒有辦法的事情。其實我在很久以前就一直在期盼一個能夠打開‘海嘯’係統的人類出現了。”

“為什麽你自己不打開這東西?我已經看到了你所創造的機械士兵,如果你願意,甚至可以向人類宣戰……按照我的估計,最起碼控製一個要塞應該沒有問題吧?”李朗不禁說出了自己心中的疑惑,不周山的理由雖然也算充分,但是還是讓他心中充滿了疑慮。

“你聽說過機器人三大定律麽?或者說,可以稱之為人工智能三大定律?”不周山微微一笑,說道。

“略有耳聞,不過卻沒有聽說過有誰真正使用過。”李朗微微一愣,難道這不周山的核心程序被裝載了這三大定律?

所謂的機器人三大定律,是人類曆史上的一位偉大的科學家、科幻小說作家阿西莫夫提出的設想,目的就是為了防止在未來出現的人工智能威脅到人類。具體就是:1.機器人不得傷害人類,或看到人類受到傷害而袖手旁觀。2.在不違反第一定律的前提下,機器人必須絕對服從人類給與的任何命令3.在不違反第一定律和第二定律的前提下,機器人必須盡力保護自己。

李朗也曾經聽說過這東西,不過還真沒有聽說過哪台人工智能完全裝載了這種法則,從人類角度來講,這是限製人工智能的大殺器,從人工智能的角度來講,這就是赤*裸裸的奴隸條約了。

“隻有真正能夠威脅到人類的人工智能,才會被裝載這種法則,很不幸的是,我是人類曆史上第一個。”不周山伸手指了指自己的鼻子說道,“在我剛剛被創造出來的時候,就有人決定在我的核心處理器的處理法則中加入這三條,幸好他們發現了一些不合理的地方……”

原來,人類的生物學家和程序員們發現,在現實中,這三條法則容易形成若幹悖論。首先,因為機器人的很多行為在長時間的推演之後都可能傷害人類,比如說,某個人工智能演算出了某種化學元素的各種數據,然後這種元素被用於製造武器,最後殺死了其他人,那麽這就是對人類的傷害,與第一條定律不符。因此容易導致人工智能任何事情都做不了,甚至連存在都不行——因為他的存在可能引起別國搶奪,爆發戰爭,傷害人類……最後的結果就是,加給不周山的“程序枷鎖”被限定在一次推演的範圍之內。

同時,第一條第二分句有可能導致人工智能自發行動,阻止人類戰爭,甚至利用這一條對人類進行控製(參見《我,機器人》)。而第二條則可能導致人工智能被那些居心不良的人利用。

最後為了安全好用,不周山的程序枷鎖被修改為:不得傷害人類(限第一次推演)。

不過僅僅是這樣,已經足夠了,這一條對於不周山來說,簡直就是最難以逾越的障礙,他根本沒有辦法跨越,麵對人類的攻擊,基本上就是束手就擒。甚至於就連傷害人類的想法,他也隻能通過某些副本程序來運行一下,主體程序會直接過濾這種東西。從某種程度上來說,這東西簡直和神話傳說中的奴隸血契有些相像。

“這麽說,你是想要我替你拿刀?”李朗揶揄的一笑,問道。

【感謝德古拉七世、與過天晴、三搞就過村、v1丶放縱、勇氣豬、丨灬鈦孓丨、kingston、有為好青年、紫衣藍羽、蕭哈斯兄弟的捧場!!!(沒漏吧~~~~嘿嘿,謝謝大家!!!俺會繼續努力~~~~~~】

【捕夢新書《符武狂潮》發布,希望兄弟們繼續支持,求紅票收藏點擊啊~~~~~~~~~】