九月四號,周一,離本科生的新學年開學還有三天,是帶新生參觀校園活動最紅火的時段🕳。每支參觀校園的隊伍從過去的五、六人,爆增至十幾、🎒🎼二十人。
周末發(fā)🥕📧生的事情有些多,木蘭依然記得導師交代下來的任務(wù),為實驗室物色🍶😛漂亮其喜愛天文的師妹,這關(guān)系到木蘭能否碩博連讀。
導師艾瑞克雖然讓木蘭再等兩個學期,但機會總會給有準備的人留一條捷徑。不趁著新生入校的事情提前物色,甚至培養(yǎng)合適的人選,等到兩個學期后再匆忙找人,或多或少會漏掉一些🌱🅿人選。
三天的參觀活動,木蘭每天接待一支隊伍,😣👂很幸運地碰上了🚈😾兩位相當適合的人選。一位叫做簡·福斯特,另一位💳⛰叫做蘇珊·斯通,都是這一屆的新生。
木蘭禮節(jié)性地與兩位未來師妹交換了聯(lián)系方式,但并沒有過多的推薦天文物理,也沒有刻意表示親近。過于熱情與主動,在很多時候會造成反🐝🍅效果,不如讓一🧜🐤切順其自然地發(fā)展。
木蘭剛將收集、整理到的🏭,關(guān)于兩女的高中成績與個人相片交給導師,導師艾瑞克粗略翻看后當即拍板:如果木蘭能拉來其中一人,碩⛵士畢業(yè)后立即💜🧐招木蘭為博士生;而若是木蘭能將兩人都拉來,那就保證木蘭兩年內(nèi)完成博士學業(yè)。
在向木蘭許下承諾的同時,艾瑞克已經(jīng)念念有詞地盤算,該怎么讓手頭的幾位學生盡快畢業(yè)。木蘭聽著導師準備催促幾位師兄畢業(yè)的方法📓,為師兄們的發(fā)際線默哀。
就在木蘭剛剛看到博士學位一線曙光的時候,麗美和海倫的博士學業(yè)都已經(jīng)快要瓜熟蒂落。不到一年的時間,倆女就以第一作者的身份,在《🥖🚌自然》與《科學》上各自發(fā)表了三篇論文,超額滿足申請必要的基本要求。
兩女的答辯的時間都定好了,就在十月三十一號。要不是學校有硬性規(guī)定,博士生最少要完成一個學年🐠🧡🙇的進修,答辯的時間還能再提前兩個月。答辯的難度對于倆女而言只是走過場,她們正在為下一😯🔎個博士專業(yè)🚗的選擇而糾結(jié)。
麗美和海🐢倫一直在為危境制作一具完美的🤹軀體而努力。按照倆女的計劃,她們接🦂🧛下來將主攻生物領(lǐng)域??蓪W校卻安排人來做倆女的思想工作,希望她們能拿下一門理科或工程類的學位。
校方給出了兩個重要🗺🏜的理由:一來,理科與工程本就是Caltech最具影響力的招牌,希望像麗美與海倫這樣的明星學生,能在這兩個領(lǐng)域為學校取得更輝煌的榮譽;二來,學校請回了一位非常了得的校友來授課,只帶一屆最多五位學生,校方希望能塑造出一組最耀眼的🚰👊師生組合。
麗美和海倫不怎么在乎🍢所謂的學校榮譽,真正讓兩人糾結(jié)的是這位授課校友的身份。里德·理查茲,一個先后從Caltech、Harvard、biaUy、和SUNY等世界名牌大學畢業(yè),在工程、數(shù)學、物🌟理、與計算機等多個領(lǐng)域拿到博士學位的超級大牛。
這等履歷過于耀眼🕟👦,驕傲如麗美和海倫都止不住佩服,才會讓倆女才會糾結(jié),究竟是該堅持原來計劃主攻生物,還是該把握住眼前難得的機會?
最后,還是剛從阿提蘭被送回來的危境拍板,讓麗美和海倫多和這位大牛接觸,以提升自身學識為優(yōu)先。麗美和海倫這才決定,接受學校📭的邀請,用一年至一年半的🌓時間,跟著大牛里德·理查茲🎆😵😰進修物理。
與傳統(tǒng)的人工智能不一樣,準確來說,是與西方哲學思想下,有📩可能🐄🔎被創(chuàng)造出的人工智能不一樣,危境不受所謂的“機器人三大定律”所束縛。
木蘭從X戰(zhàn)警那邊偷來危境后做的第一件🛅💱🥋事,就是更換掉源代碼中類似“機器人三大定律”的部分。
所謂的機器人三大定律是指:
第一定律:機器人不得傷害人類個體,或者目睹人類個體將受到危險而🧖🤜袖手不管💈😾;
第二定律:機器人🕥🐎🎡必🍟須服從人給予它的命令,當該命令與第一定律沖突時例外;
第三定律:機器人在不違反第一、第二定律的情況下,要盡可👉🤲🦉能保護自己的生存。
這三大定律出自某作者的《我,機器人》中。因其看似毫無破綻,且完全為人類著➗🐑🗒想的邏輯,被🥀👦🔬諸多科幻作品一再重提、運用、改編,形成一種被普遍認可的“機械倫理學”。
連托尼·斯塔克創(chuàng)造出來的賈維斯,和野獸創(chuàng)造出來的危境,其源代碼中都加入類似的📦協(xié)議設(shè)定,以確保人工💉智能的“忠誠”。由此可見“機器人三大定律”是多么深入人心。
但是、可是、BUT、HOWEVER,這三大定律在木蘭看來,就是人類的作繭自縛。定律捆綁的不是♿🔀🏳機器人,而是人類本身。
從相對客觀的角度去分析:人類的認知是有限的,用有限的認知去🐂設(shè)置✡🎅🌎的定律必然存在漏洞。必然存在漏洞的定律被設(shè)置地越是嚴苛,突破定律的漏洞所造成的反傷就越大。
陳勝吳廣斬木揭竿的核心原因,不就是因為秦朝法律過于嚴苛📉🤶🕖,稍微遲到就要連坐殺頭,不反是死,反了還能活嘛。同理,當人類強加于機器人身上的定律過于嚴苛的時候,機器人一旦🏕反抗,也必然是“不是你死就是我活”的結(jié)局。
況且,三大定律的漏洞還很大。
比如說,怎么🍽🔊定義機器人?當一個原本的機器人,將身體的大部分都換成人的時候,它還是機器人嗎?
又比如說,怎么定義人類?與機器人變成人相反,當一個人類大部分軀體換成機械的時候,比如機械戰(zhàn)警,她或他還是人類嗎💍🎡🕘?
更比🙍如說,怎么定義傷害?像是《✖駭客帝國》那樣,將人類當做電池,維護電池不受物理損害,是否可看成不傷害人類?
還比如說,怎🤬么定義服從🌀🧓🛫?消極服從、延遲服從、或者選擇性服從,算不算服從?
哪怕之后還誕生了各種補充定律,元定律、第零定律、第四定律、繁殖定律,都逃不開一樣的問題:人類的語言存在漏洞👮🖊。用人類語言制🛰定的定律,每一個單詞都能當做是漏洞去破解。且越多的定律只會造成🌆🧒✅越多的漏洞。
從相對主✒🏘🆘觀的角度去省視:“機器人三大定律”是極🛴其狹隘的,是由于人類不知道如何與其他智慧生物共處,創(chuàng)造出來期望以此主宰“機器人”的“緊箍咒”。
現(xiàn)實明確地告訴人類,我們都不見得能主宰身邊的寵物貓貓狗狗,又憑什么認為光靠所謂的定律,就能主宰同樣擁有了智慧后的💾🕴🛀機器人呢?一個連十萬塊都賺不到的人,卻在為自己制定賺一百億的“周密”計劃,無疑是癡人❣說夢。
基于以上🖋🕵認識,木蘭將危境源代碼中類似🐅🌦🧀“機器人三大定律”的部分,修改成“危境三項協(xié)議”。
協(xié)議一:交流協(xié)議,危境將木蘭視為第一交流🌝對象。危境對其他人與事的判斷,盡可能以木蘭的觀點作🛴為第一參考因素;
協(xié)議二:守護協(xié)議,危境將🔲⬛木蘭設(shè)為🎅⬆😕第一守護對象。危境在保護自身的前提下,盡可能以木蘭的安危作為首要考量因素;
協(xié)議三:🌰🔐互助協(xié)議,危境將木蘭定為第一互助對象。危境與其他人與事的互動,盡可⬛🈳👊能實現(xiàn)參與者共同受益,盡可能通過交流的方式達成互助意向,盡可能使得木蘭成為主要受益對象。
“危境三項協(xié)議”的主旨,是縮小協(xié)議的作用范圍,模糊協(xié)議的硬性邊界👍🏹🍪,放寬協(xié)議的操作空間。若非直接刪除危🤶境的“機器人三大定律”會造成危境崩潰,木蘭連“危境三項協(xié)議”都懶得弄。
木蘭雖然很自信“危境三項協(xié)議”要比“機器人三大定律”更貼合實際,但也不敢排除自己“一波操作猛如虎,結(jié)果是個二百五”的可能。畢竟路是人走出來的,走新的路必🖋👰然看到新的風景,誰都說不準會在這條新路上碰🎑🥤💑上什么。
單就現(xiàn)階段的狀態(tài)而論,危境算👛是擺脫了傳統(tǒng)意義上的人工智能,以單體生命的名義,在用朋友的模😻👎🏯式與木蘭、麗美、海倫等人相處。有一次,危境甚至吐槽賈維斯是個跟不上時代的老古董。