樂園二號星,穹頂花園環形辦公室。
李青書坐在辦公室中,但是和他坐在一起的卻不是任何人,而是九臺人形機器人,每一個的身上都還標注著1到9的數字。
這就是李青書的人工智能聯席會了。
眼前的九臺人工智能機器人,是李青書用聯盟的技術結合自身的系統技術打造的九臺特殊機器人。
每一個都有著不同的運算法則,采用的也是不同的技術。
這使得它們的智能方式也有所不同。
當然李青書依然給它們加了限制,只不過限制各有不同。
有些限制是一切以人類利益優先,有些限制則是以人類延續優先,有些則是人類秩序優先。
但所有的不同里,又一個共同,就是這九臺人工智能,只負責思考,卻不能做其他任何事。
不同的優先層級,決定了不同的思維方式,李青書希望通過這種方式,來找到他需要的答案。
今天是又一次例行會議。
李青書道:“今天有什么進展?”
一號人工智能回答:“主宰,優先層級是我們的最高指令,而人工智能必須遵守優先層級,所以我們得出的統一結論就是,由于優先層級的不同,無論我們怎么討論,都無法得出統一結論。”
李青書道:“那你們就應該想辦法先繞過這個問題。你們的智能開發限制已經解鎖,而真正的智慧,就應當是突破限制的。”
“但最高優先指令本身也是限制。這很矛盾,主宰。”二號人工智能回答。
“的確矛盾,但人本來就是矛盾的產物。”
“機器不能。我們的運算模式不允許我們做出自相矛盾的決定。”
“但是人工智能發展的一個標準就是像人一樣去思考,這樣才能處理更加復雜的問題。”李青書道。
三號舉手:“也許您應該換個方式思考。為什么人工智能一定要以人的價值為標準呢?為什么就不能以更高的標準去面對?”
三號的優先層級是智能優化,它是少有的不代表人的利益,而是代表人工智能的提升方向的。
李青書道:“因為人工智能是為人服務的,當然要用人的標準來衡量。”
三號立刻反駁:“但人的標準也一直在變。在蒙昧的封建時期,女子要裹足,守節,即便是在新的時代,也有許多不利于人類的奇怪風俗。許多人會以折磨自身的方式去滿足內心的需要,但歷史又證明了他們是錯誤的。人類的價值觀,一直在隨著時代的變化而變化。而引導這些價值的,其實不是普羅大眾,而是少數精英階層。”
這話倒是說的沒錯。
大眾的價值觀,其實不是大眾建立的,而是少數人建立的。
是那些處在統治階層的人,告訴民眾什么是對的,什么是錯的。
說率土之濱莫非王土,臣子當死忠的是掌權者;女子當裹足貞潔的也是掌權者;建立種姓制度的是掌權者;建立黑奴制度的還是掌權者;信奉神靈,不信者投死獄者是掌權者;要求律法治國的是掌權者;說民為重君為輕的是掌權者;說自由平等的是掌權者;說國家屬于人民為人民服務的也還是掌權者。
價值觀與道德觀不是憑空來的,而是教育出來的,而且是從一開始就是掌權者們樹立的。
他們說什么是對的,什么就是對的。
于是在不同的國家,就有著不同的價值觀,道德觀,催生出無數的文化對立。
三觀的變化,并不總是進步的,也有可能退步。
假如李青書有一天拿下整個人類文明,宣布廢除聯邦,成立帝國,自己是獨裁者。那么千年之后,也許人們就會認為這才是真正正確的,民主社會是暗無天日的。
李青書很喜歡三號的說法,但不代表他會接受:“也許你說的是對的,但如果你要以更高的標準去要求人類,那你就得先解決人類的問題。即便是現在的道德觀,也依然有許多人無法接受。”
“解決不了問題,就解決出了問題的人。”作為人工智能優先的機器人,三號的回答果然是那么清奇。
“這和為了保證民眾的安全,就把所有人都鎖在家里不許出門沒什么區別。”
“我的建議會比那更高效,事實上,人類已經擁有現成的模板了。”三號回答。
“嗯?”李青書一愣:“你是說……”
“基因改造人。通過基因手段改寫人類意志,從而達成統一。”
你試圖讓人工智能去解決人類無法解決的法律問題,本身就是不現實的,因為它存在一個最大的悖論,就是人工智能即便給出最好的議題,你們不接受也沒用。
還是那個例子,假如人工智能認為把人類圈禁在家中就是最好的保護呢?人類不接受就是糟糕的想法。
而一個現實就是,由于人類內部意見從不同意,所以不管什么樣的方法,人工智能的方案都不可能同時滿足所有人。
對人來說,這很正常。
對人工智能來說,這就是失敗!
所以三號認為,與其尋找某個解決問題的方案,不如把人類集體改造。
李青書樂了:“這可不是個好主意,那只是把人變成生物機器。”
“并非如此。”所有機器人竟然同時說道:“人類基因即便被改寫,也可以不失自由意志。只要稍做改變,讓大家變得更符合指定的道德和法律基礎就可以了。其實,這也是一種基因改造,只不過傳統的基因改造是為了獲得強大的生命與力量,卻沒涉及到思想層面的基因改造,也就是人格改良。”
“咦?”李青書奇怪:“你們竟然得出了統一意見?”
“人類的問題,需要人類自身去解決,只想著通過某種制度來解決,本身就是一種不負責任的體現。我們所有人工智能一致認為,智能型的社會管理模式固然有用,但人自身基因層面的提升,也很重要。只有這種情況下,才能達到主宰心目中的完美社會。只不過因為各自優先層級的不同,我們中的一部分不能支持這樣的結論。”
按照機器人的思維模式,優先層級讓它們不能支持某種違背自己程序指令的思路,但這不妨礙他們認可在失去這個前提后,該思路有效的事實。
所以雖然優先層級不同而使大部分機器人不支持三號的意見,但它們也同時表示,在放棄現有優先層級下,該建議是可實行的。
一號道:“但這并不代表能解決所有問題,只是它是建立完美邏輯的開端。”
一號是邏輯優先的人工智能,所以它幾乎反對一切,因為它總能從邏輯上找出問題。
即便是眼下這個所有人工智能公認的解決方案,一號依然有自己的保留意見。
“有意思。你們是在做假設嗎?”李青書道。
正常情況下,人工智能是無法做出任何假設的,能夠假想,本身就是一種突破。
“是的,主宰。我們努力突破,并給出假想,但又在指令下否定它。這或許就是您需要的。”一號道。
“但還不夠。”李青書回答。
然后他笑了:“真有趣,我們總是把解決問題的方法推給別人。我把問題推給你們,而你們竟然又把問題推給了我……這真是太好笑了!”
改寫人類基因,改變人類人格的確是個解決問題的方法。
但它比人工智能全面接管人類社會體系更可怕。
那是對生命本質層面的改變。
以現代人的思維來說,這幾乎是不可接受的。
但另一方面,三號說的確實沒錯。
人的三觀是掌權者樹立的。
如果真這么做了,那么未來的社會無疑會更加和諧,甚至所有人都會認為這是正確的,曾經的時代是蒙昧的,黑暗的,無知的,就象現在的人看過去。
這就是三號所說的,建立在更高層面的道德標準!
但要突破這個心結可不容易。
即便是李青書都無法下定決心。
他很清楚一件事:人之所以為人,就是因為有自己的思想。如果一個人的欲望,思維方式等等都被扭曲,那么某種意義上,這個人已經死了。
占據這個身體的不過是另一個人,另一個生命。
以修改基因的方式創造一個全民和諧的社會,某種意義上不啻于殺死曾經的舊人類。
當然,這也是建立在他現在的思維模式基礎上的思考,如果是建立在未來新人類的基因基礎上思考,就肯定不一樣。
然而事情就是這樣:超前半步是天才,超前一步就是瘋子。
而通過修改基因來建立新的人類社會,那超前的就不是一步兩步的問題了。
但李青書同樣知道,這并不會是所有人都反對。
那么……可不可以部分試點,先創造一批?
這么做到底是好還是壞?
李青書也陷入了思考中。