從本質(zhì)上說,人類水平人工智能的廣泛出現(xiàn),,實現(xiàn)了我在前面的章節(jié)中描述的“外星人來襲”的思維實驗,。機器不只主要威脅到相對常規(guī),、重復(fù)性或可預(yù)見的工作,它現(xiàn)在幾乎能夠做到一切,。當(dāng)然,,這意味著幾乎沒有人將能從工作中獲得收入。
超級智能和奇點
2014年5月,,劍橋大學(xué)物理學(xué)家史蒂芬·霍金寫了一篇文章,,發(fā)出了人工智能迅速發(fā)展的危險警報。在英國的《獨立報》(The Independent)上,霍金以及其他的合著者,,包括麻省理工學(xué)院的兩位物理學(xué)家馬克斯·泰格馬克(Max Tegmark)和諾貝爾獎獲得者弗蘭克·維爾切克(Frank Wilczek),,以及加州大學(xué)伯克利分校的計算機科學(xué)家斯圖爾特·羅素(Stuart Russell),一起寫文章警告說,,創(chuàng)建一臺真正能思考的機器“將是人類歷史上最大的事件,。”一臺超出人類智力水平的計算機可能會“超越金融市場,,超越人類研究者的發(fā)明,,超越有控制能力的人類領(lǐng)導(dǎo)者,研發(fā)出一些我們甚至無法理解的武器,?!卑堰@一切視為科幻小說則“有可能是我們歷史上最糟糕的錯誤?!?/p>
到目前為止,,我所描述的技術(shù),比如能搬箱子或做漢堡的機器人,,能創(chuàng)造音樂,、寫報告,或在華爾街交易的算法,,都可以歸類為專業(yè)或“弱”人工智能,。即使是IBM的沃森,這個迄今為止機器智能最成功的示范,,都遠比不上一般的人類智能,。事實上,在科幻小說的領(lǐng)域之外,,所有的功能性人工智能技術(shù)其實都是弱人工智能,。
然而,我在這里提出的其中一個主要觀點是,,現(xiàn)實世界人工智能的專業(yè)化性質(zhì)并不一定會阻礙很多工作最終實現(xiàn)自動化,。大部分勞動力從事的工作任務(wù)在一定程度上是常規(guī)和可預(yù)見的。我們已經(jīng)看到,,迅速提高的專業(yè)機器人或依據(jù)大量數(shù)據(jù)的機器學(xué)習(xí)算法,,最終將對各種技能水平的職業(yè)構(gòu)成威脅,這一切都不需要機器能像人一樣思考,。計算機要取代你的工作并不需要復(fù)制你所有的智力,,它只需要完成你為獲得報酬所做的具體事情就好。事實上,,大多數(shù)人工智能的研發(fā),以及幾乎所有的風(fēng)險投資,都繼續(xù)把重點放在專門的應(yīng)用程序上,,而我們有充分的理由相信,,在未來幾年甚至幾十年,這些技術(shù)會變得更加強大和靈活,。
雖然這些專業(yè)化技術(shù)繼續(xù)產(chǎn)出實用的成果并能吸引投資,,但一個更為嚴峻的挑戰(zhàn)潛伏在后面。建立一個真正的智能系統(tǒng),,一臺可以構(gòu)思新想法,,可以意識到自己的存在,可以進行連貫對話的機器仍然是人工智能所追求的“圣杯”,。
對創(chuàng)造一臺真正能思考的機器的著迷至少可以追溯到1950年,,當(dāng)時阿蘭·圖靈(Alan Turing)發(fā)表了一篇論文,開啟了人工智能時代,。在隨后的幾十年中,,人工智能的研究經(jīng)歷了繁榮與蕭條的周期循環(huán),人們對它的期望一再飆升,,不考慮任何實際的技術(shù)基礎(chǔ),,特別是當(dāng)時的計算機速度。當(dāng)失望在所難免時,,投資和研究活動迅速減少,,而稱為“人工智能寒冬”的長期停滯也接踵而至。不過,,春天已經(jīng)再次來到了,。今天計算機的超凡力量,以及人工智能研究在特定領(lǐng)域的進步,,還有我們對人類大腦的理解,,這些結(jié)合在一起,使得形勢極為樂觀,。
最近一本關(guān)于高級人工智能影響的書的作者詹姆斯·巴拉特(James Barrat),,對200名人類水平而非弱人工智能研究人員做了一次非正式調(diào)查。在這個領(lǐng)域內(nèi),,人類水平的人工智能被稱為“強人工智能”(Artificial General Intelligence),。巴拉特讓計算機科學(xué)家們在強人工智能何時實現(xiàn)的四個預(yù)測時間中做出選擇。結(jié)果是:42%的人認為能思考的機器將在2030年前創(chuàng)造出來,,25%的人選擇在2050年前,,10%的人認為2100年之前不會發(fā)生,只有2%的人認為永遠不會發(fā)生,。值得注意的是,,一些受訪者在對他們的調(diào)查寫評論時表示,,巴拉特應(yīng)該加進一個更早的選項——或許是2020年。
該領(lǐng)域的一些專家擔(dān)心可能又會形成期望的泡沫,。在2013年10月的博客文章中,,臉書新成立的人工智能研究實驗室主任雅恩·樂昆(Yann LeCun)警告說,“因為炒作,,人工智能50年里‘死’了4次:人們夸下???通常是為了打動潛在的投資者或投資機構(gòu)),卻無法拿出成果,。結(jié)果就造成了激烈的對抗反應(yīng),。” 同樣,,紐約大學(xué)教授,、認知科學(xué)專家和《紐約客》博主加里·馬庫斯(Gary Marcus)稱,深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)領(lǐng)域里近期的突破,,以及IBM沃森的部分能力,,已經(jīng)明顯被過度炒作。
不過,,似乎很明顯,,該領(lǐng)域已經(jīng)獲得了強勁的動力。特別是像谷歌,、臉書,、亞馬遜等企業(yè)的崛起帶來了巨大的進步。以前從未有這樣財大氣粗的企業(yè)將人工智能放在業(yè)務(wù)模式的絕對核心地位,,也從未有過人工智能研究在如此強大的企業(yè)之間被幾乎定位成了競爭的焦點,。類似的競爭也在國家之間展開。人工智能在集權(quán)國家的軍隊,、情報機構(gòu)和監(jiān)視機構(gòu)中正變得不可或缺,。*事實上,一場由人工智能全面支持的軍備競賽很可能正在不久的將來醞釀,。我想,,真正的問題,不是這個領(lǐng)域整體會不會真正面臨人工智能寒冬的危險,,而是進步是只局限在弱人工智能領(lǐng)域,,還是最終也能擴展到強人工智能領(lǐng)域。
如果人工智能研究人員最終設(shè)法跨越實現(xiàn)了強人工智能,,那結(jié)果應(yīng)該不是一臺僅能匹敵人類智力水平的機器,。一旦實現(xiàn)了強人工智能,單靠摩爾定律就可以迅速創(chuàng)造出一臺超出人類智力的計算機,。當(dāng)然,,一臺能思考的機器仍將擁有計算機目前具有的優(yōu)勢,,包括計算能力,還有我們無法理解的信息訪問速度等,。不可避免的是,,我們很快就要與一種前所未有的東西共享這個星球:一種真正不可思議和超群的才智。
這很可能只是一個開始,。人工智能研究人員一般都相信,這樣的系統(tǒng)最終會被用來引導(dǎo)自己的智力發(fā)展,。它會專注于提高自己的設(shè)計,,重新改寫自身軟件,或者使用進化規(guī)劃技術(shù)來創(chuàng)建,、測試和優(yōu)化改進其設(shè)計,。這將帶來“循環(huán)改進”似的迭代過程。每次修改后,,系統(tǒng)都將變得更聰明,、更能干。隨著循環(huán)不斷加快,,最終的結(jié)果將產(chǎn)生“智能爆炸”,,很可能最終生產(chǎn)出一臺比任何人類都聰明十萬甚至上百萬倍的機器。像霍金和其他作者說的,,這“將是人類歷史上最大的事件,。”