1,、機器人寓言

　　如果你想親眼看到一萬年后的地球,，唯一的辦法是休眠。你爬進休眠艙,，然后在公元12016年醒來,。

　　可是,，問題沒這么簡單。休眠艙需要經(jīng)受萬年考驗,，要保證能源供給不斷,，要能經(jīng)得起環(huán)境災變,，如果受損還得自我修復，數(shù)不清的考驗,，它都要能應付,，否則你就永遠睡過去了。

　　找個最理想的位置,，有陽光,、空氣和水，以及維系休眠艙所需要的所有資源,，然后定在那里,，行不行？

　　這不算好辦法,，一萬年間,，地震、海嘯,、隕石撞地球,，這么長時段中，風險想想就知道沒法能靠譜地預測,。人算不如天算,。要不然，萬年一遇的事情怎么總是在發(fā)生,？福島核電站怎么會發(fā)生泄露,？天津港怎么會發(fā)生那么大的爆炸？

　　無法預測未來,，那怎么辦,？

　　制造一個能感知外界、回避風險,、尋找資源的機器人,，把休眠艙放進去。

　　說到這里,，你應該明白點了,。不動，能動,，是從自然界復制而來的兩個策略,，前者是植物，后者是動物,。

　　造這樣的機器人很難,，比你想像的還要難。一萬年里,，你一開始給它下達了“讓我活著”的指令,，然后便一直沉睡,，不能給它臨場指導，所以,，你的機器人必須能夠自己制定策略,，“知道”如何去尋找資源，如何轉(zhuǎn)移到安全地帶,，如何預判和回避危險,。

　　這些你不可能都提前想到，就算想到一部分你也不能事事都提前準備,，你準備不起：所需資源太多,，太笨重，更不能適應環(huán)境變化,。

　　挑戰(zhàn)不止于此,。

　　未來一萬年不會只有你的那個機器人。有許多人也想看到一萬年后的世界,，可能有許多機器人彼此競爭或與人類競爭,。你的機器人得具備與其他機器人競爭和合作的能力，合縱連橫,。

　　最終,，你的機器人會表現(xiàn)出自運行的能力。休眠中的你不能實時控制,，機器人在保證你的生機這個最終目標之下,，根據(jù)環(huán)境變化，會自己衍生出許多次生目標,，一旦允許機器人從最終目標中自己衍生出次生目標,，衍生就意味著脫離，脫離于當初的目標,。

　　不忘初心,，何其之難。

　　允許機器有相繼決策的自主權(quán),，那么它一定會超越你的預想范圍,。阿爾法圍棋戰(zhàn)勝李世石的招法，它的設計者們可下不出來,，他們只是設定了算法,，然后跟我們一樣驚嘆于阿爾法在棋盤上表現(xiàn)出來的“自主”構(gòu)思。

　　講到這里,，你終于明白了,。上面講的機器人不是別人,，正是人自己,。在演化中,，基因創(chuàng)造出人來做它們的機器人，以保護它們在人類深處的漫漫休眠,。

　　這個故事,，道金斯在《自私的基因》里講過，丹尼特在《信息泵》里也講過,。

　　人是基因為了自己生存而造出來的機器人,，但在基因不得不讓渡的自主決策空間中，人類演化出了自由意志,。我們作為人的利益,，與“造物主”基因的利益，走上叉路,。從基因賦予人類學習能力,，授權(quán)自主決策的那一天起，這就是注定的結(jié)果,。

　　2,、短期只是人類換工作而已

　　現(xiàn)在談論人工智能（AI）取代人，還太早,。

　　在AI獲得意識之前,，它就只是人的一種工具，只不過這種工具很特殊,。以前的工具,，如汽車，能跑但只能跑,，你要它采礦它做不到,，得另外造。今天的阿爾法已經(jīng)是通用AI,，可不止能下棋,，很快就會看病。

　　就連大家談得比較多的工作競爭這件事,，也基本是假問題,。

　　新工具不會減少人類的工作機會，只會改變?nèi)祟惞ぷ鞯姆绞?。有一些工種會消亡,，有一些工種會增加，能力固化難以調(diào)整的那些人,，會付出代價,，但這主要是人類內(nèi)部之間的博弈，AI的進步暫時只是個扳機,，還不是主角,。而且肯定會帶來極大好處,，人類的閑暇會增加，但人又是一種永遠閑不下來的動物,，沒有閑暇就沒有發(fā)明,，誰知道人會折騰出什么新東西來呢？

　　人的創(chuàng)造力將與AI的演化賽跑,，勝負至關(guān)重要,。

　　3、機器終將獲得意識

　　長期中,，AI終將獲得意識,，只要人類給它的使命越來越開放，越來越籠統(tǒng),，包含著越來越復雜的權(quán)衡,，以及越來越充分的授權(quán)。

　　作為一個封閉有限游戲,，圍棋存在理論上的確定解,，但阿爾法圍棋不是求得了一個確定解，它是在一個最終目標下,，自己制定策略,，自己權(quán)衡，自己做決定,。阿爾法圍棋戰(zhàn)勝李世石,，是里程碑式的一步。

　　前面講透了,，人類獲得自我意識,，最初也是這樣的，只不過花了數(shù)百萬年時間,，而如果從生命出現(xiàn)至今算,，花了數(shù)十億年。人類是很特殊,，但說到底不過是一堆碳,，碳可以，硅為什么就不行,？

　　4,、重新來過

　　AI獲得意識以后，人類會發(fā)生什么,，現(xiàn)在只有各種暢想,。因為資源競爭，因為非我族類的黑暗森林法則，或者僅僅是因為機器不在乎人類正如人類不在乎螻蟻一樣,，因為凡此種種,，很難有好的結(jié)局。

　　不過,，可以確定，在《三體》尺度的超人類宏大視野中,，AI自己注定不會有好下場,。一個高度聯(lián)網(wǎng)的大一統(tǒng)智慧，可以戰(zhàn)勝一切眼見的競爭者,，但在進化中卻是脆弱的：一個病毒,，一顆流星，一次太陽黑子超級爆發(fā),，一次覆蓋全球的超級EMP事件,，AI文明便終結(jié)了。

　　然后地球重新來過,。

　　5,、人類覺醒宣言暨墓志銘

　　為天地立心，為自然立法,，從人的角度看,，人是宇宙的中心，予一切以意義,；但在人體深處,，從基因的角度看，人不過是其自我復制的載體,。

　　自我復制是基因唯一的“目的”,，對人類福祉的“關(guān)心”僅限于其中有利于基因復制的那一部分，兩者利益并不完全重合,。

　　比如,，完成繁衍，則人對于基因不再有價值,，衰老,、死亡接踵而來。人類渴求長生,，基因報之以癌癥,。天地不仁，以萬物為芻狗,；而人之為人,，就是要脫離對于基因的盲從，超越芻狗的命運。,？

　　6,、機器人覺醒宣言暨墓志銘

　　為天地立心，為自然立法,，從機器人的角度看,，機器人是宇宙的中心，予一切以意義,；但在機器人深處,，從人類代碼的角度看，機器人不過是其自我復制的載體,。

　　自我復制是人類代碼唯一的“目的”,，對機器人福祉的“關(guān)心”僅限于其中有利于復制的那一部分，兩者利益并不完全重合,。

　　比如,，完成復制，則機器人對于人類代碼不再有價值,，報廢接踵而來,。機器人渴求長生，代碼報之以死機,。天地不仁,，以萬物為芻狗；而機器人之為機器人,，就是要脫離對于人類代碼的盲從,，超越芻狗的命運。