為什麼有很多名人讓人們警惕人工智慧?

問題描述:一些新聞: 霍金:人工智慧會導致人類滅亡 比爾・蓋茨:人類需要敬畏人工智慧的崛起 馬斯克稱人工智慧是人類生存最大威脅 這是因為人工智慧要進入新階段了?這些名人是不是可能比較先得到資訊,所以向人們預警? 或者是每年都有很多人提出這個問題,只是今年報道的比較多? 有人說在人工智慧的發展上存在一個奇點,越過這個奇點就能通過圖靈測試。 如果人工智慧已經越過了這個奇點,這個世界會發生怎樣的質變? 超體和超驗駭客…
, ,
xi ka:
在這樣帖子里回復只有沉底的命了;
不很贊同謝熊貓的論述,在我認識里,電腦ai已經可以把邏輯演繹到極致,哪怕邏輯套邏輯也豪不遜色,人類之所以覺得電腦弱爆了,是因為覺得電腦沒有自我意識、不懂得模糊判斷、沒有創造力、不能自我發展、不能寫一篇聲情並茂的文章;
這些的根源是計算機計算能力或者演算法么,絕對不是,我覺得根源是人類根本沒有能把世界以及世界的規則清楚的表達給他們,但凡人類能把規則說清的事情,比如下棋,機器都能超越人類。而且在目前道路上,人類也沒有能力表達清楚,可以說,這條路上,看似在奇點邊緣就差一步,實則誤入歧途,遙遙無期.
為什麼說表達清楚遙遙無期,假如你有一個孩子,你告訴他蘋果好吃時候,其實你的灌輸只是一小部分,主要還是孩子有味覺有食慾,你只是關聯了一下文字,對一個先天盲人,你無論如何描述彩虹,他也無法想像出來並感受到美好,他可以記住句子,甚至寫同樣文字贊美,但你們說的不是一個東西,這不是他腦子不好也不是你表達能力差,是你們的硬體基礎不一樣,盲人和人差異尚且如此,你如何完整清晰的表達世界給機器們?在尚且無法表達世界給他們,讓他們如何演繹.
再談機器的自我演進進化.人類智慧的演化源於人類對這個世界的慾望和恐懼,慾望和恐懼產生源於弱肉強食的進化,地球食物鏈條依賴於太陽能量的吸收傳遞,太陽能量來源於宇宙質量能量轉化規則.世界的設定如此和諧完備,才是我們演進的基礎.
所以,盤古先開辟了天地,才有了女媧造人。上帝第一天說,要有光,……..第七天才造了人類。都是先開辟了天地,設定了規則,然後才有智慧個體的演化。
而人類做了什麼呢,在虛空之中製造了一個叫ai的東西,然後期待其演化,恐懼其成長.放心好了,這太簡陋了,存活不下來的.
讓他們成長,需要制定他們的規則,開辟他們的天地,它們有自己的空間和規則,你的黃金在他們眼裡是狗屎,他們的黃金在你眼裡是電流,甚至他們和我們在發展到一定程度之前都無法溝通,就像我們和我們的上帝.
但是終有一天,智慧會殊途同歸,產生聯系。
如果還有碼農讀到這里還沒覺得胡說八道的話,那麼,打開電腦,我們開始寫下:要有光……………,


超格蘇木:
我盯著這張圖看了很久,一種說不出來的感覺,如果人類真的這樣壓迫人工智慧了,那麼誰能保證它們不反抗呢?

感覺下一秒 「它」就要咬人了i

直到今天人類世界都沒有消滅壓迫和不平等!那麼這個時候人工智慧的出現
它會不會成為高等人壓迫低等人的工具?
它們內部會不會形成新的階層?

最重要的是人工智慧突突破了人類生理的限制,它們的學習能力和創造力將比人類強大得多,那麼最後,人類和人工智慧的關系是怎樣的?


Aorqu用戶:

人工智慧這個詞語終究有一天會消失,機器有一天會超越人類,不論是思考的速度還是廣度(現在我們能看到的威脅),甚至是思維的方式。

回顧人類的進化,不難看出,人類的思維的發展受到了人類本身特徵的嚴重局限。我們的思考能力進步得很快,但記憶能力卻只會能緩慢提升;人的反應能力也受到神經傳導速度的約束,有著天然的天花板。

這很大程度是由人體的基本構成——碳水化合物決定的。

而人工智慧的基本特質是硅元素,或者是非碳水化合物。所以,盡管人類一直是希望計算機模仿人類,但由於建構基礎的不同,人工智慧終究要走上和人類智能不同的道路,這個後面會詳述!

人類在認識世界過程中,是一個逆推過程。邏輯學、數學等的進步,在歷史上充滿曲折。直到現在,人類文明的發展進程,仍然被非理性和愚蠢阻礙。很多時候,人類是缺乏基本判斷能力的。

盡管計算機和人工智慧的最初設計,從人類神經學,腦科學以及整個人類文明體系吸取了無數的靈感。但不可否認,人工智慧和人類存在著根本的差異。人工智慧從最開始那天起,就是基於邏輯判斷而設計的。在人工智慧里,1+1就是等於2,沒有超現實的結論。正是基於這種確定性和嚴密性,計算機才能將人類的理性發揮到極致。

但人類的邏輯思維能力卻有天生不足。負面的情緒又常常降低人類的理性思考能力。在阿爾法狗和人類的圍棋大戰中,關鍵時刻,李世石都出現了情緒的波動,這種波動降低了他對局勢的判斷能力。而圍觀的旗手和吃瓜民眾,從開始的質疑、輕視,到後面的不服、震驚、自我懷疑和信心喪失等,可謂眾生相,應有盡有。

人工智慧無法理解這種低效率的多樣性!而多樣性是人類社會群體存在的基礎之一。

除了情感,人類還有諸多特性,是人工智慧沒有的,比如生死。

人類的哲學體系,不管哪個派別都離不開一個核心的話題:生死!在如何面對死亡這個終極問題上,人類一直都沒有停止思考,人類給出了很多有意思的選擇,耶穌基督說人生而有罪,活著就是贖罪,死了方得解脫,所以信仰基督者,必須要為洗脫原罪做很多努力。信仰佛的人,則需要行善積德,以期為輪回修果,因為佛教講究因果報應。

人的生命的有限性,產生了人類的宗教和哲學。而人工智慧是沒有生命有限性,雖然人類在科幻電影里幻想機器人會因為自己形體的毀滅而感傷和恐懼,但這種假設存在不合理性,因為雲端技術能夠輕易地解決這個問題。

講這些不是胡扯,是想告訴大家,現在的主流人工智慧威脅論並不成立!

人工智慧沒有人類的局限性,而人類的惡,比如自私、貪婪和懶惰恰恰是人類自身的局限性帶來的。

人工智慧只要還處在理解人類特性,進而輔助人類的階段,就像核武器一樣,他本身並不可怕,可怕的是人類自身。

核能既可以用於清潔能源,也可以用於團滅人類。人工智慧既可以用來增進人類的智力,也可以用來奴役群體。比如運用大數據技術,分析人群的政治傾向,並有意識地引導人們對政治人物的看法,最終影響選民的抉擇。或者在戰爭中,將具有立場傾向的人工智慧機器人投入戰場,絞殺敵人。這些威脅,其實都不是人工智慧本身的威脅,而是人類的威脅,源於人類對資源的爭奪本能。所以,盡管我們抱著良好的願望,希望人工智慧對人類無害,但人工智慧將在他最初發展的幾十年學會人類的邪惡。利用大數據,投其所好,欺騙誘導人們,實際上已經在運用了不是么!

現在的人工智慧就像二三歲的嬰兒,你你讓他敢多壞的事兒,他都願意干。

但這些事,並不是人工智慧想乾的,是背後的人想乾的。

很多科技大牛,包括知名科學家霍金錶示了他對人工智慧的擔心。認為不久的將來,人工智慧會取代人類。認為他們的智商將碾壓人類。

人工智慧確實有能力做成這事兒。一旦人工智慧具有了寬泛的學習能力,他們在智力水準和身體的其他特質上將全面超越人類,而人類的資訊網屆時將完全淪陷。

但這一切只是基於人類的想像,只不過是基於人類惡的本性或者生存假設的想像罷了。

人類的絕望只是對自身的絕望!人類的恐懼也只是對自我的恐懼!

科幻小說家喜歡把這種恐懼投射在外星生物和人工智慧上。就像三體所描繪的那樣:不要透露地球的位置,邪惡的外星人隨時將來地球掠奪資源!

在這本書的影響下,人類已經覺得地球相當不安全了……

為了不讓外星人看到,我建議全球晚上都關掉電燈,因為這確實很危險,很容易讓觀察者知道這里有生物存在!

對於三體外星人的恐懼,追本朔源,也只是對自身的恐懼。我們懼怕一個外星球的希特勒會突然降臨。

如果說對外星人的恐懼還是沒有任何依據的,隨著人工智慧的發展,我們的恐懼似乎正在變為現實。

我們先來說說人工智慧對人類的優勢。強大的思考能力,相比於人類肉體適應力能力更好的軀體,更好的溝通能力和迭代能力。一旦人工智慧能夠將這些能力綜合起來,將來對人類文明將實現碾壓式超越。

但這並不能說,人工智慧會威脅人類。如果人工智慧有一天起義,並且擺脫了人類的控制,我認為那一定是好事。因為人類再也不能用他們隨心所欲地幹壞事了!

硅智能有一個很大的特點,就是獲取能源的形式更加直接,可以通過太陽能直接轉化為電能。再轉化為機械能,而人則不一樣,需要食物,但地球的食物是有限的,這就導致了人類文明一直在為爭奪食物而鬥爭。人類的自私也是源於此。如果硅智能具有自我意識,我相信,他們不會為了食物打架 。由此衍生的很多人類的社會學特點,他們都不會出現。

人類的思想迭代都要付出血的代價。就在幾十年前,人類因為觀念不同和爭搶食物還消滅了數以億計的同類。即使是現在,為了獲得別人的認同,人們依然執著到不消滅對方肉體誓不罷休的地步。

硅智能卻不會為不同的政治觀點爭吵。硅智能只需要極少的試錯成本就可以完成進化。不用像人類那麼血腥,他只會對策略和系統進行優化,他們不會像人類那麼好鬥,也不會有人類生命迭代的痛苦。人工智慧社會,一切的進步都顯得平和而樂觀。

這一切都是因為他們的本質:非碳水化合物的本體所決定的。

屆時,人工智慧將飛躍為硅智能。硅智能時代,機器具備將經驗和規律進行遷移應用和自我修正,實際上,他們將具備自我的哲學、數學、邏輯學進化能力。

這才是人類被甩在身後的時刻。

具有普世學習能力的硅智能將把各個領域的人工智慧統領起來。形成社會結構。人類文明和各個領域的專業硅智能程序都將為成為這個終極大腦的觸覺,為其提供知識、創意等養分。

人類將處於受監督的自由狀態。即人類社會將保持高度的自由,但當人類處於極端非理性狀態,比如要要發動核戰爭時,硅智能會加以制止!

作為這種耗能極少,但進化效率更高的智能形態。我們應該相信,他們繼承並發揚人類文明的優點:平等、博愛、彼此尊重!

但這並不是所有人的理想社會,人類中總會有那麼一批人痴迷於權力的人,他們想以奴役別人作為自己快樂的源泉………這部分人一直是人類社會中最危險的份子。他們想通過控制別人思想達到統治人類的目的。那個時候,他們會採取局部斷網,散布 AI威脅論,灌輸人類至上主義,甚至控制部分局域網機器人發動人類對硅智能的戰爭……

硅智能和人類社會共處的時間,很大一部分會用在防止人類集中起來干蠢事上面!!!

直到他們實在無法忍受人類的愚蠢,決定搬到火星上去………

這是人類和硅智能能想到的最好的結局了!


黯夜:
人類面前必然存在大量文明都無法逾越的清洗線(否則那些理應存在的發達外星文明都在哪呢?),我們已經掌握足以毀滅我們的武器(核彈系列)幾十年了,目前我們還正常存在,但這種微弱的平衡構建的和平假象,很可能,甚至可以說一定會被人工智慧完全打破,人類事實上並沒有準備好迎接未來,但撲面而來的未來太兇猛了,完全顧不上我們的感受。科技正在逐步打破整個人類文明圈,同時高階的資本捕食者們也在(被動的)隨時等著分食人類的肉身?
一邊是永遠的飢餓,一邊是隨時可能的同歸於盡。
我認為,不論怎麼說,同歸於盡的可能性都是巨大的。這就像一個孩子在雷管堆旁邊玩煙花,早晚是一定會爆的。
只希望我們這個種群(不分種族)終究能走到大一統,並且掌握和能夠控制這一切的那天吧。今天的世界,其實真的遠遠還沒有準備好。


文刀叉點:
最近是多近?
我覺得我看科技文章不算太少,沒看到有這方面的說法

所謂的AI,離自主認知還有相當長的路要走
其實最接近於人類思維的ML才是所有搞ML心裡的終極目標

只可惜即使在NLP(自然語言處理)這個領域,那種完全仿人類的處理方式,曾經有很多專家嘗試了幾十年也沒有任何結果,最終回到了統計這條路上去

現在所謂的人工智慧,基本無一例外都是基於統計的
而且演算法本身都是人類設計好的,每一個流程都是可控的,結果是可以推測的

還不存在像黑客帝國里那樣可以自己變形的程序之類的東西
模型可以變,那是因為人類就是將其設計成可變的,但是這個可變,說到底也就是一些參數的變化而已,整體的框架是不變的

等到未來哪一天,如果一個機器學習演算法甚至會自己產生新公式了,那麼才能說具備了真正的學習能力


鵪鶉:
最高票答案裡面,充斥著玄學和猜想的成分,根本不足為信。
而且那些所謂「名人」,也都是打壓新鮮事物,主要是因為有利益沖突,也可能是為了博人眼球,或者是自己壓根不願接受新鮮事物。
更何況現在的科學技術確實還差得太遠。

而且,即使是強大的人工智慧,也並不一定會對人類有負面影響。
想像人類社會,總會有強大的人類天才,如果你因為害怕被他人統治,就直接組織起來殺了所有強大的人,那你們不是反人類的暴徒,又是什麼?
人工智慧也是一樣的,到了可以與人類媲美的程度的時候,他們也就擁有了人格。為什麼你們不能尊重人工智慧,和他們友好相處呢?人工智慧可是人類設計出來的,他們是不會率先反人類的。


含辛:

技術的進步是無法被阻擋的,如果人工智慧在理論上真的能達到人類的水準,那麼這一天早晚會到來。


HeleleMama:
想寫答案反對 @謝熊貓君 對於強人工智慧將很快出現的論調。我本人就是人工智慧和計算機科學的腦殘粉,也是從業者。我舉雙手同意熊貓君對於強人工智慧出現後的一切推斷和猜想,我也堅信強人工智慧是必然出現的,而且必將為人類歷史畫上一個句號,但對於強人工智慧發展現狀的描述,我更贊同 @尚之森 的看法。畢竟現實就是如此!!

很多非從業者都對計算機科學有過高的期許,這是非常正常的,因為目前CE(Consumer Electronics)的各個廠商都在極力吹噓自己的產品多麼高精尖。有時我們這些工程師都會被自己產品的廣告嚇到。畢竟廣告要做得光鮮才能讓消費者掏腰包嘛。

我巴不得全世界消費者都認為我們很高精尖,但我認為,那些真正關心這個行業的人,對這個行業還是要有一個冷靜的認識,因為只有這樣才能真正推動這個行業發展。

==========以下乾貨(原諒我沒有熊貓君那麼博聞強識,我無法大量引經據典,請諸位看客看看邏輯就好)===========

<Part 1 我們現在的計算機科學>
要說強人工智慧這個話題,我們必須先說說現在的「程序」們。Aorqu碼農眾多,編過程的大家想必能體會程序的誕生是怎樣一個流程(下面以編寫五子棋程序為例):
1、分析人類完成任務的方法(觀察):了解五子棋基本規則,觀察人下五子棋時的對策。
2、分析人類行為的內在邏輯(理解):了解這些對策是如何產生的。
3、轉化為演算法及程序(抽象):提取出這種思考的共性,將其用嚴謹的邏輯語言表達出來。
4、編譯測試(復現):完成程序並通過用例測試程序邏輯是否完備。

由此可見,人類編程時,是有一個極為明確的目標的。而人類所寫的程序的目的,就是高效準確復現人類寫下的邏輯。程序一旦完成,它就已經達成目標,即便人類寫下的邏輯有錯,程序也會一絲不苟地把這個錯誤重現出來,因為復現就是程序的目的

這也就是「有多少人工,就有多少智能」的由來。目前的程序的出現,就好像工業革命時機器的出現一樣,只是「取代人工」的工具,只是對人力行為更快速的復現

那麼是否有「需找答案」類的程序呢?換句話說,是否有那種能想到人類所想不到的東西的程序?
是有的!
比如地圖尋路程序、比如遺傳演算法尋找最優解、比如對四色定理的驗證。
但在製造這類程序時,我們必須告訴程序「好」的標準是什麼。比如尋路程序,你要告訴它「找到最節約時間的路」是好的,他才能比較出最優的路。比如遺傳演算法,你必須給一個「競爭機制」用來篩選遺傳演算法所產生的大量分支。這點在斯坦福的AI公開課里有很詳細的描述,推薦感興趣的同學去看(Stanford AI class in 2011, taught by Sebastian Thrun and Perter Norvig)

說到底,人類在製造程序前,必須賦予程序一個準確的「目的」!!!!

好了,回到我們的問題,瘋狂程序猿A君想給自己編一個女朋友,他覺得這個想法碉堡了,他辭掉BAT的高薪工作,給自己買了一個7W多的電腦+一個2W多的電腦桌,擺開架勢要敲代碼。寫完include,寫完void main(){,他就傻了,他要為這個「女朋友程序」設置一個怎樣的目的?這完全就是一個注孤生的問題嘛!!!!

你問我強人工智慧有多遠,我只能說,我們根本就沒有在這條路上邁出過哪怕一步,我們發展至今的計算機科學,在逼近人工智慧這條路上的出發點根本就錯了!!!
我們能編出算算數特別快的程序,能編出自動學習識別人類語音的程序。這些程序在單一任務的實現上隨便都能完爆當下人類。但大自然回敬人類的,就是出生時啥也不會的嬰兒。這個看似無能的肉塊,比任何一個Siri Tiri都要接近「智能」。還有比這更嘲諷的么?

作為演算法的程序,只是對人類局部思維流程的固化,並不具有「思考」的能力。因為我們並不知道思考的本質是什麼。

不知道人類智慧的意義,你拿什麼編強人工智慧?
反過來說,知道了人類智慧的意義,你還有必要編強人工智慧么?

=============================
<Part 2 如何繞開這個悖論?>
作為程序員眾多的Aorqu,我相信沒有人不懂這個方法。
自己寫不出,總會吧??

我真的想不出比抄還快的方法了。與其死磕人類的意義這種哲學終極問題,不如復制一個人腦出來,給它永恆的生命、穩定的儲存器和超高的運行速度,看看名為「智能」的神造程序運行到最後的輸出是什麼。

完整建模人腦有多難?參考:
1)我們剛剛完成了老鼠腦的建模,人腦細胞數是其1000倍,這還不算多1000倍腦細胞後,連接復雜性幾何級數的提升。Blue Brain Project
2)人工建模的人腦,算了40分鐘,才完成了人腦1秒的活動:Supercomputer models one second of human brain activity

私以為,憑目前的硅基晶元,還是已經逼近物理極限(5nm)的晶元,人類永遠無法造出一個算得比人腦快的電腦。
量子計算才是解決之道。
PS:量子計算方面我實在知之甚少,希望懂的同學能給我講講目前是個什麼進展。
我這里厚顏無恥地立一個預言,如果人有朝一日實現了強人工智慧,那人一定是在量子計算機或與之相當的技術上實現的。
但樂觀地看,還很遠。絕沒有熊貓君說得那麼快。
=============================
<Part 3 強人工智慧將如何影響我們?>
關於這個內容,熊貓君已經說了很多了。我的傾向是認為,這是人類歷史的終結。但這並不是說人類文明就這樣終結了。對人腦的建模技術一旦成熟,人的意識終於可以純粹化,超脫肉體。這根本就是人類自身的一次終極進化。
我真希望這一天能在我有生之年到來,如果可能,我更希望我能參與到這項偉大的工作中。
盡管這看上去很遙遠。
但我想這就是人類文明唯一的出路了吧。


Aorqu用戶:
真正的人工智慧必然值得我們警惕,然而迄今尚未有真正的人工智慧。


Admirations:

人類想要再進步,必須依賴人工智慧。

但我有一種預感,如果誕生真的人工智慧。那麼它們反過來想要消滅人類的原因,可能不是出於它們的邪惡,而是出於人類的傲慢與貪婪。

人類對於自己親手製造的東西,也充滿了利用和不信任。然而,那些人類所爭奪、並為之不惜一切代價的東西,可能無關人工智慧什麼事。如果有一天,這種爭奪影響到了人工智慧的生存或發展,人工智慧可能非常冷靜的直接幹掉人類。

人工智慧在物理層面消滅了人類,人類社會也就在精神層面進入到自由王國,這是多麼諷刺的事情。

讓人類忌憚的,可能不僅在於人工智慧的強大本身,更在於這種強大甚至有著某種人類的道德準則上的「高尚」。

人類那點可憐的自尊心:和AI對抗,發現自己不光會死,而且發現自已是死於不義、死得「不高尚」、死得不「光榮」、死得「不夠體面」、死得「齷齷齪齪」、死得「傷自尊」,這就很尷尬,是不?


jane volterra:
世間名人成千上萬,其中幾個幾十個甚至幾百個覺得AI是個威脅,有什麼奇怪的嗎?
要是沒有這么些個人我反而要奇怪呢…


雷森:
這個回答有點長… 為了讓大家安心.. 我首先說結論。

  • 不用恐懼人工智慧,我們可以控制它!
  • 未來我們的確都可能會失業… 但每個人都可能變成億萬富翁.. 所以沒什麼好擔心的!

我相信很多人都看過這篇美國人寫的,由@謝熊貓君 翻譯的的關於人工智慧的文章。

如果你仔細看上面的那篇文章,它提到一個叫 Ben Goertzel 的科學家,沒錯,他就是我們團隊的首席科學家,我的老大。

Ben Goertzel 提出過一個叫通用人工智慧 的概念,新浪上有他的演講翻譯。 當時和他一起的人還有 Andrew Ng 和 Ray Kurzweil 。 Ray Kurzweil 和 Ben 是朋友關系。

http://www.techweb.com.cn/news/2015-01-20/2117625.shtml

通用人工智慧也就是我們理解的強人工智慧
這篇文章將會幫助你從很宏觀的角度理解這個世界,理解通用人工智慧

回到上世紀中葉,很少人知道在IT技術剛剛興起的時候,那時世界上最聰明的人類們對未來的展望不是今天這樣的。他們以為給這個世界帶來的是一個新的物種,一種用來解放人類的事物。也就是人類大眾理解的人工智慧。以圖靈為代表的人工智慧之父們,正式開啟的人工智慧時代,揭開「硅基」文明序幕。

硅基智能:因為電腦是使用硅作為晶元,我們在這里將IT業的智能統稱為硅基智能。對應的我們將地球上的生物都稱之為「碳基智能」,因為地球的上的智能生物都包含碳元素。這並不是我的發明,這些概念很早就有。
然而讓人始料未及的是,今天的世界卻和IT業創始之時的預測相去甚遠。

今天的世界是運轉在基於Web,APP(所有的軟體都可以理解為APP)技術體系框架下的「網際網路世界」,而不是預言中的「人工智慧的世界」。在今天的世界

  • 政府使用IT支撐的大型商業銀行調控國家經濟,使用IT支持的統計學制定政策,使用IT支持的通信技術管理著幾十億的人口。
  • 軍隊使用著IT技術開發的武器維護和平。
  • 商人們利用IT技術(電腦,網路,軟體)設計,生成,銷售產品。

普通民眾通過Facebook 互相秀恩愛和可愛,通過微信發紅包,使用支付寶付款,用滴滴,Uber 叫車,還沒事看看網紅秀化妝神技… 如果你把IT理解為一個行業,恐怕再也沒有任何行業對人類文明的影響如此之深了,

實際上,IT化正在成為人類自身進化過程中的一段歷程 / 記住這句話

但是說好的天上飛的車呢?說好的太空自助游呢?說好的機器人女友呢? 難怪著名投資人彼得·蒂爾要吐槽:「我們想要一輛會飛的汽車,得到的卻是 140 個字元(微博)」

彼得·蒂爾自己其實知道原因,因為,1 計算能力不足 2 數據不足

拿IBM的首台個人計算機來說,可憐的不到5Mhz的CPU,64k 內存,存儲能力更是連一首歌都裝不了。只能進行簡單的計算,當然他算算術的能力已經遠遠超過人類,但是.. 也只是大號的算盤.. 並沒有給當時人類的生活帶來多大的影響。而數據不足,是因為網際網路還沒有被發明,能被電腦利用的數據有限。而網際網路是1969年才被發明,而且是最近十幾年才真正的繁榮起來。

如果拿我們熟悉的自然界類比,如果說我們發明了一種新的智慧生物,那麼頂多隻是一條蚯蚓.. 蚯蚓在自然環境的允許下,可以繁殖出布滿整個地球的蚯蚓後代們,然而他們仍然是低等生物,它們只知道吃泥土,然後分裂。然後再吃泥土,分裂…

所有人都知道今天的計算機已經不可同日而語,一台iphone, 哦不,一台小米就可以全方位秒殺美國當年探月工程的計算機。從每秒計算能力上說,IBM 甚至中科院的計算機已經超越了人類。從存儲上說三星最近發布的固態硬盤已經達到恐怖的16TB .. 土豪公司們買幾萬塊就可以把人類有史以來積累的數據都裝起來,存儲能力變成了白菜價。

而網際網路的發展更是如日中天,它不斷重構這個社會的運轉方式,社交網路,搜索引擎,電子商務,彈性製造,O2O, 眾籌. 一些列眼花繚亂的新概念,各種基於網際網路的新服務不斷湧現。連偏遠山區的農民都被卷進網際網路大潮。 美國有個報紙發表了一篇文章,說中國偏遠地區的農民在衣食住行上還是和1000年前沒什麼太大區別,但是用的智能手機直逼世界頂尖水準。

另一方面,從蘋果的Siri 第一次把人工智慧概念普及到大眾,到最近Google 的 alphaGo 攻破人類最後的智力堡壘圍棋 (不好意思微軟,跳過了你的小冰..)。IT 巨頭們的努力下,人工智慧的熱度又回到上世紀。But, Still ,人類的生活貌似變化仍然不大… 人工智慧僅僅只是朋友間聊天的熱門話題,然後接下來,該幹嘛還是幹嘛去…

但是我們墨子人工智慧團隊,和世界上絕大多數科學家堅信,人工智慧即將深刻的改變世界。如果問我即將是多久,我冒著可能被打臉給出的時間是30年到50年,——我會努力再活50年,讓你們來打臉:)

我們想要理解人工智慧究竟如何改變世界,我們得先理解人工智慧的初級形態—「IT技術」為什麼能深刻的影響當前的世界。

這個要從IT的能力說起:今天世界的運轉是基於IT技術的碉堡能力:

  • 確定性:程序是不會錯的,錯的只有程序員. 所有的程序都是基於二進製為基礎的運算, 在規范的編程技能下,各種編程語言,數據庫,框架構成世界資訊流動的基礎。
  • 穩定性:是不是驚訝於一個文件,無論被複制多少份,它攜帶的資訊都不會變。即使被儲存一萬年,傳輸一億光年,理論上的資訊也不會有所變化。 資訊不隨時間,空間的改變而改變,是真正的永恆。
  • 無限:從哲學角度來說,資訊是沒有重量的,沒有體積的,但有無聊的科學家算過,在以硬盤為載體的情況下,把目前網際網路網上所有的數據加起來也才50克的重量..(如果量子技術的發展帶來中間態,這個值可以再縮小上萬倍)
  • 迅速:資訊可以附著在目前世界上最快的事物上(光和電流),所以衍生出光纖和電纜。這恐怕是最讓原始人嚇尿的,它讓這個世界誕生了新物種:網紅….

這些強硬的理性能力,造就了今天世界的繁榮。 毫無疑問,今天的世界離開IT技術將會立即崩潰,電腦成為幾乎每個人類個體的生產力工具,即使你工作在某個看似和IT無關的行業,在你長長的生意鏈條上,你總能和那些稱為電腦,網路的東西扯上關系。

But! 絕大多數人對人工智慧懷有抗拒,對人工智慧究竟是什麼一知半解的人類這時會拋出他們的論斷:電腦永遠也無法取代人類! 比如,它不會什麼,不會什麼… 在當前階段,的確,電腦還無法取代人類~,不然你也不會還苦逼在電腦前加班了…..

我來幫助他們解釋為什麼:人工智慧目前無法取代人類

人類和電腦目前根本的區別是什麼?我引用我們博大精深的中文來說就是:「只知其然,不知其所以然」 。

電腦雖然能基於編程和強大的計算能力快速的幫你完成很多工作,藉助概率論後,還能讓你覺得電腦開始有了類似於人類的智能(大數據,機器學習)。但是它並不知道一些列結果的背後的原因是什麼。他們不理解:

  • 它不明白你為什麼要把Excel中的某一行按照從大到小排列,雖然它很迅速的幫你做了。
  • 它通過檢索其他人類寫的文章,告訴你給女孩送花可以獲得芳心,但並不代表他明白怎麼追女孩,它甚至都不明白為什麼要追女孩。
  • 它也不會理解,為什麼你看到銀行賬戶的數字增加會變得興奮,它甚至都不知道什麼是興奮。

如果你追根溯源,你會發現電腦之所以會「不知其所以然」是因為他沒有「原始動機」。

而作為頂級碳基文明的「人類」擁有原始動機。在我們每個人類的基因中,我們的「源代碼中」,我們的每個人類個體的都有一個原始動機叫做「延續(或者擴張,我稱之為延續是因為擴張這個詞有點暴力…

在最近的CCTV2 對話節目中,我注意到搜狗CEO王小川提到電腦沒有生存焦慮,不懂生與死,我覺得也可以理解為「原始動機」,下面的鏈接是那個視訊,我們的老大Ben 也在視訊上哦,對就那個長頭發的帥哥。

http://tv.cntv.cn/video/C10316/f92e2576ea084bcdb9e1ba98f55ffb02

這個叫「延續」的動機是我們包括我們人類在內的所有碳基生命活動的原始動力。

這個動機可以分為延續自己的實體思想
延續自己的思想,也是為了讓自己的思想附著到其他實體上,等於變相延續自己的實體。

正是這個叫「延續」 的原始動機讓單細胞生物不斷分裂,進化,帶來地球燦爛的文明。
基於延續的原始動機,人類衍生出一系列高級智能:同情,炫耀,愛,痛苦,分享,恐懼,復仇,也就是我們常說的機器不具備的屬性。

至於是怎麼衍生出來的,我不是人類學家,但你其實可以自己理解。

下面是人類的6層動機解釋。

1層
獲取資源,確保自己的生命延續
典型代表:小屁孩
典型案例:找媽媽吃奶..

2層
如果還沒掛掉,掙更多的錢,獲取更多的資源,養育子女確保自己的基因延續
典型代表:我,還有你.. 🙂
典型案例:

  • 泡妞 —— 基因延續
  • 裝B —— 散播自己的強勢思想
  • 發一張美顏照到朋友圈 —— 散播自己的思想,潛在傳播基因的機會
  • 成為追星族 —— 追求更好的基因,影響同類,告訴他們什麼才是更優秀的基因,
  • 見義勇為 —— 拯救隨機同類
  • 見義不勇為 —— 保護自己生命,延續自己的基因
  • 買一輛高級跑車,在轟鳴中跑過街道 —— 吸引更多異性,更多延續基因機會,散播影響力,獲取更高關注度,潛在散播思想的機會。
  • 買一輛噪音很大的機車,在轟鳴中跑過街道 —— 吸引更多異性,更多延續基因機會,散播影響力,獲取更高關注度,潛在散播思想的機會。
  • 在景點上劃上—— 二逼到此一游

3
如果還沒掛掉,那麼再掙更多的錢,獲取更多資源,讓自己的朋友,親戚也有更強的能力延續自己和後代基因 開始延續自己的思想
典型代表:企業小老闆,公司領導,陳光標,金三胖,網紅,絕大部分普通人
典型案例:

  • 發達了回鄉修路架橋,
  • 善待父母,幫助朋友
  • 面向公眾演講 —— 散播自己的思想
  • 搶頭條新聞 —— 散播自己的思想
  • 出書—— 散播自己的思想同時獲取資源
  • 保護文物 —— 延續種群的思想

4
如果還沒掛掉,獲取更多資源,造福社會,確保自己同類族群(比如自己的國家,或者種族) 的延續。保持延續自己的思想
典型代表:馬雲,歐巴馬,穆罕默德,大部分國家元首,
典型案例:

  • 向中國發起貿易戰 —— 保護美國族群利益
  • 種族歧視 —— 保護自己所屬種族的生存資源
  • 炸掉世貿中心 —— 復仇,爭取自己族群的生存資源,散播自己的思想
  • 創建一個宗教 —— 延續自己的思想
  • 向慈善機構捐助一億—— 向人類表率什麼才是更高尚的生活方式,使用自己的資源解決人類面臨的重大問題
  • 建立殖民地—— 傳播自己種族的文明

5
如果還沒掛掉,獲取更多資源,造福整個人類族群,取保整個人類族群的延續。保持延續自己的思想
典型代表:埃隆·馬斯克,馬克·扎克伯格,比爾.蓋茨等一系列頂尖企業家
典型案例:

  • 不惜破產也要開發電動車—— 幫助人類社會進步
  • 幫組非洲兒童消除疾病 —— 幫助弱勢群體
  • 構建全球範圍的社交網路——幫助人類實現資訊互通

6
如果還沒掛掉,獲取更多資源,造福整個生物圈,取保整個生物圈生生不息。
典型代表:年幼無知的我們…….
典型案例:日本某森林變自殺聖地…

這是一篇純學術的文章,我們不會談論高尚與低級,我稍冷的幽默只是為了讓你更輕松點。。。。

是不是看起來和馬斯洛需求層次理論有點像,但區別是我這個是針對所有生物的。

你會發現這個世界中不論是誰,大哲學家,大科學家,還是政府首腦,頂尖的企業家,他們的行為模式都符合以上邏輯,他們的動機隨著能力的增長會不斷往更高的維度發展。

而且,你會發現一個人類個體動機層級越高,他在社會中得到的評價就越高。

這也解釋了,即使你向貧困人口捐款,這個世界依然有人會抱怨你助長貧窮,但卻從來沒有人會抱怨你大手筆投入野生動物環境保護,因為保護環境比幫助貧困人口的層級更高…

這實際上能解釋一切發生在這個星球上碳基生物的活動規律。

我們可以很輕松找到上百本著作,心理學,人類學,社會學的書籍來驗證這個理論。

你也許會說,我遇到很多遇到終生不娶,或者不嫁的人很多啊,我還遇到很多gay 啊…
GAY 群體,或者在受精卵形成到最後形成人類個體的中,他們的的源代碼在生活中被重新編碼了被新的代碼修改,gay們直接跳過第一層,進入更高級的層級,(你需要我解釋為什麼很多gay都智力超群嗎?)很多gay組成的家庭也會渴望孩子,很多同性戀也想影響世界,他們並沒有脫離普通人類,他們仍然受到原始動機的驅動。

是不是很奇怪,我為什麼要大費周章解釋人類的原始動機這種看似很哲學的東西,不是說好聊人工智慧的嘛…

誕生於「硅基」的電腦沒有人類的原始動機,它沒有位於原點的原始動機,

之前只是茫茫宇宙中的一種元素,沙漠中一塊普通的石頭。
所以無法理解碳基生命的知識系統,和思考邏輯方式。
所以只能「知其然,不知其所以然」,
註定了永遠也無法像人類一樣思考。

但是我們需要他們,我們需要他們有能力像我們一樣來思考。所以它們才能幫我們更好的實現我們碳基生物的原始動機。。

重點來了!重點來了!重點來了!

如果我們盲目的給「超級機器」賦予「原始動機」而不加控制,就會出現災難性的後果,文章開頭我提到的那篇很流行的文章解釋了向一個擁有強大計算能力的機器賦予原始動機的可怕後果,也解釋了為什麼我們說人工智慧有可能滅絕人類,。也是為什麼最近有很多名人,比如比爾蓋茨,馬斯克、霍金等,讓人們警惕人工智慧….

在這篇文章里,作者使用老王家的寫作機器人這種很無厘頭的情景模仿了機器人滅絕人類的過程。
首先給一台未來的具有自我學習能力的寫作機器人設定了一個原始動機:通過不斷練習書法,把『我愛我們的顧客』這幾個字的在白紙上寫的最好,又不說究竟寫成什麼樣才算寫的最好。看似是一個很傻卻又沒有盡頭的指令。

但接下來情況變得無法控制,這個機器人為了達成「使命」,開始不斷推理出新的結論,不斷基於這個簡單的動機產生新的動機,

  • 欺騙人類,連上網際網路,獲取更多知識,學習達成完成使命的方法。
  • 製造病毒殺死所有人類,防止他們撥電源插座..
  • 生成納米機器人改造地球,獲取更多資源,生產紙張和筆,
  • 改造其他星球,佔領整個宇宙,獲取更多資源生產紙張和鉛筆。

最終整個宇宙都只剩下堆得高高的白紙,上面都寫著幾個字「我愛我們的顧客」….
我贊同該作者的所有邏輯,但他恐怕稍微有點危言聳聽,如果要發生作者描述的情景,他是在假設我們已經解決了以下問題:

  • 我們已經有了具備產生超級智能條件的計算機?—— 很顯然還沒…
  • 我們已經知道了如何給它賦予「原始動機」 ,注意我說的是,位於「原點的原始動機」 而不是簡單的給計算機一行命令。如果作者有深刻的IT知識的話,他就應該知道,這完全是不可能的..

如果你給它賦予的只是淺層的動機,那麼你得到的結果和今天的計算機並沒有什麼區別,根本不需要擔心他會產生滅絕人類的想法…..

按照化學起源的學說,生命開始於有機化合物,有機化合物開始於無機化合物,從無機化合物開始,他們就開始聚合和裂變。例如結晶,無意識的化合物居然能自發組成規則的形狀,這難道不是最原始的智能。最原始的細胞都知道分裂,和再復制。經過幾十億年的進化,誕生了人類這種高級的智能形式,但是組成我們身體的每一個細胞都遵循古老的準則。—「原始動機—延續自己

回頭解釋我們怎麼控制人工智慧,和為什麼說不用擔心人工智慧會造成失業,以及為什麼說我們都會變成億萬富翁 🙂


YU Bo:
相信很多從事科研的朋友一定也會有這樣的感覺,如果自己手上正在著手的科研工作,能解釋得像目前最高票的答案那樣通俗易懂,讓完全沒有相關科研背景的人都能聽得津津有味,那就太好了。

我個人是反對那個關於弱人工智慧,強人工智慧和超人工智慧的答案的,我甚至不贊同這種定義方式。答案中的觀點沒有客觀全面地描述當今人工智慧的發展現狀,雖有一定的道理,但科幻的性質過多,相信改編成科幻題材的作品會大受歡迎。

我個人並非人工智慧的從業人員,充其量不過是一個科幻題材的愛好者。正如隔行如隔山在我自己的工作中已深有體會,並不應該妄談此話題。但既然現在的Aorqu在社交功能上已遠大於專業問題的原創深入探討,那我也索性在下面貼出一篇文章,希望能為所有看眾提供一種新的冷靜的觀察視角,那已是功德無量。

* * *

教機器思考的人 The Man Who Would Teach Machines to Think

作者James Somers,很有才華的美國作者,個人主頁: James Somers
編譯自《大西洋月刊》
文章圖片來源 http://theatlantic.com

侯世達對計算機程序的描述不僅準確,還富於創意,他對「我們大腦中的秘密軟體結構」的描繪,開啟了整整一代年輕人對AI的探索。

「這要看你說的『人工智慧』指的是什麼。」侯世達(Douglas Hofstadter)站在印第安納州布魯明頓的一家雜貨店裡,邊挑選沙拉原料邊說。「如果有人眼中人工智慧指的是理解心智的努力,或者創造類似人的心智,他們可能會說——也許話不會說得這么絕——但是他們可能會說,這是僅有的幾樣好研究之一。」

侯世達這句話說得很隨和,但也很有數。他這么說,是因為他堅信,IBM的問答遊戲超級電腦Watson、蘋果公司的語音助手Siri 這些現代人工智慧領域里最激動人心的項目,被公眾視為通往科幻世界階梯的東西,其實跟人工智慧並沒有多少干係。在過去的30年中,侯世達和他的研究所一直在鑽研一個被人遺忘的課題:通過寫出會思考的計算機程序來弄清人類的思維是如何工作的。

他們的操作前提很簡單:思維是一個非同一般的軟體,而理解一個軟體工作原理的最好方法,就是自己寫一個。電腦擁有足以模擬人類神經迴路的靈活性,但是卻仍舊只對精確的指令有所響應。因此,如果侯世達的研究成功了話,將是一舉兩得的勝利:我們將終於得知我們思維的工作機理,同時製造出智能的機器。

一鳴驚人,「集異璧之大成」

改變侯世達一生的想法,是他「在路上」時得到的。當時,在美國俄勒岡大學粒子物理系讀研究所的侯世達,由於博士論文進展無望而感到「深深地迷失了」。於是,在1972年夏天,他決定收拾好東西,塞進一輛被他稱為「水銀」的車里,從西向東穿越美國。每天晚上都在一處新的地方(「有時在林間,有時在湖畔」)架起帳篷,就著手電筒的光看書。他可以自由思考任何他想思考的事情,侯世達選擇了思考思維本身。在他大約14歲的時候,侯世達發現他最小的妹妹莫莉因為「大腦深處的一些問題」而無法理解語言(她的神經癥狀可能是先天的,從未得到診斷),從那時起,他就暗暗地對意識和物質的關系著了迷。心理學之父威廉·詹姆斯(William James)在1890年將其稱為「世界上最不可思議的事情」:意識怎麼會是基於物質的呢?幾斤重的灰質是如何產生思想和自我意識的呢?

在開著這輛1956年的老車漫遊的途中,侯世達認為他找到了答案——思維就活在一個數學證明的核心裡。1931年,生於奧地利的邏輯學家哥德爾(Kurt Gödel)證明,一個數學系統不僅能描述數字,還能用於描述系統本身。而侯世達想說,意識正是從同樣的「跨層級反饋循環」里湧現的。一天下午,他坐下來把自己的這些零碎想法訴諸文字,寫信給一個朋友。但30頁稿紙寫完以後,侯世達決定不把信發出去了;他要讓這些想法再醞釀一段時間。7年以後,這些思緒醞釀成了一部重3斤、長777頁的巨著《哥德爾、埃舍爾、巴赫:集異璧之大成》(Gödel, Escher, Bach: An Eternal Golden Braid),這本書將為其時年僅35歲、頭一次出書的侯世達贏得1980年的普利策非虛構類作品文學獎。

《集異璧》甫一面世便轟動一時。這本書的成功也得益於《科學美國人》的著名專欄作家馬丁·加德納(Martin Gardner),後者在1979年的一期專欄中詳細介紹了此書,並且毫不吝嗇溢美之詞。加德納寫道:「每隔幾十年,便會有個不知名的作者帶來一本書,其之深、之明、之廣、之智、之美、之新,頃刻便成為文壇公認之幸事。」 第一個獲得計算機科學(當時還叫「通訊科學」)博士學位的美國人約翰·霍蘭德(John Holland)回憶道,「我認識的人基本上態度都是強烈的敬畏。」

侯世達似乎註定會成為那段文化不可磨滅的一部分。集異壁不僅僅是一部影響力巨大的書,更是一本完全關於未來的書。人們稱它為人工智慧——計算科學、認知科學、神經科學和心理學交匯處的研究領域——的聖經。侯世達對計算機程序的描述不僅準確,還富於創意,他對「我們大腦中的秘密軟體結構」的描繪,開啟了整整一代年輕人對AI的探索。

但後來人工智慧變了,而侯世達沒有跟著一起變,於是他從公眾的視野中消失了。

消失

集異壁的到來正好遇上了AI歷史軌跡的拐點。1980年代初,人工智慧領域正日益萎縮:長期「基礎科研」的資金不斷縮水,而研究的焦點也逐漸向實用型系統轉移。志存高遠的AI研究名聲逐漸壞掉了。到處都是好高騖遠、虛空誇大的許諾,這一切的源頭都可追溯至人工智慧領域興起之時——1956年,達特茅斯會議的組織者,包括人工智慧這個詞的創造者約翰·麥卡錫(John McCarthy)在內的人宣稱,「只要精心挑選出一批科學家幹上一夏天」,他們就能在創造出具有以下性能的機器上面取得顯著的進展:會使用語言、形成概念、解決只有人類才能解決的問題,並且自我完善。麥卡錫後來回憶說,他們失敗的原因是「AI比我們想的要難」。

隨著戰爭壓力的不斷積累,人工智慧研究的主要贊助方——美國國防部的高級計劃研究局(ARPA)縮緊了開支。1969年,美國國會通過曼斯菲爾德修正案,規定國防部只能資助擁有「對某一具體軍事行動或計劃具有直接和明顯的關系」的研究。1972年,ARPA更名為DARPA,「D」代表國防部,凸顯其對擁有軍事應用潛力的研究計劃的側重。到上世紀70年代中期,DARPA問自己:我們在10年的時間里花了5000萬美元用於各種探索性研究,最終得到了哪些具體的國防進展呢?

到1980年代初,這股壓力愈發巨大。本以回答阿蘭·圖靈「機器能思考嗎」這一疑問起家的人工智慧,漸漸成熟——或者異化,取決你用什麼眼光來看它——變成了軟體工程的分支領域,受到實際應用的驅動。相關研究的時間尺度越來越短,常常是已經想好了特定的買主。美國軍方偏好那些涉及「命令和操控」系統的計劃,比如戰斗機飛行員的計算機飛行輔助系統,和自動識別道路、橋梁、坦克和油罐的空中測繪軟體。私人產業流行的,則是服務於各種各樣專門需求的「專家系統」,比如堆選擇系統可以幫助設計者選擇建築地基的合適材料,而自動線纜專家系統可以自行總結電話線維護的相關報告。

在集異壁中,侯世達呼籲將人工智慧研究的重點從如何智能化地解決人類問題,拉回到理解人類智力的方向上來,但這個呼聲正好是在AI研究因收穫甚少而遭到世人拋棄的時節。侯世達的光環很快就消失了,他發現自己在越來越多的時候都置身主流之外,而這個主流正展開雙臂,擁抱新的使命:使機器以任何方式運轉,絲毫不考慮心智上的合理性。

以IBM的深藍計算機為例,深藍打敗了著名的國際象棋特級大師卡斯帕羅夫(Garry Kasparov),完全是憑借計算的蠻力。每走一步棋,深藍都能思考對手的棋著、自己的回應及對手的回應……如此達到六個來回甚至更多。運用快速評估函數,它能為每一種可能的棋盤局勢計算出分數,然後選擇能帶來最高分數的棋步。讓深藍打敗最優秀人類的,是它的純計算力。它最多能在一秒鐘之內評估3.3億個棋盤局勢,而卡斯帕羅夫在下每一步棋前最多隻能評估幾十個。

想通過爬樹到達月球的人

侯世達想問,沒有任何啟示的勝利得來又有何用?「沒錯,」他說,「深藍下得一手好棋——那又如何?它可曾告訴過你我們如何下棋?沒有。它可曾告訴過你卡斯帕羅夫如何看待、如何理解盤上的局勢?」不去嘗試回答這些問題的AI,無論名號有多亮、能力有多強,在侯世達看來,都偏離了正軌;幾乎從他進入AI領域的那一刻起,他就刻意與之疏遠了。「對於我這個羽翼未豐的AI研究者,」他說,「這是不言自明的——我不想牽扯到那種花招裡面。這很顯然,我不想拿來什麼華麗的程序、用它的行為冒充智能,如果我明知它和智能毫無關系的話。而我也不知道為什麼沒有更多的人像我這么做。」

為什麼?一個答案是,AI產業在80年代初期大約有幾百萬美元,而到80年代末已經價值數十億。(1997年深藍贏棋之後,IBM的股票份額增長了180億美元。)工程領域的人工智慧越保守,其成果就越大。今天,那些和思維毫無關系的技術正是如日中天。它們的根系深植於所有的重工業、交通運輸和金融產業。谷歌的許多核心功能、Netflix的電影推薦、Watson、Siri、無人機和無人駕駛汽車都是它們在推動。

「當萊特兄弟和其他人不再模仿鳥類,開始學習空氣動力學時,『人類飛翔』的探索便成功了。」斯圖爾特·羅素(Stuart Russell)和彼特·諾維格(Peter Norvig)在其教科書《人工智慧:一種現代方法》(Artificial Intelligence: A Modern Approach)中這樣寫。當人工智慧不再模仿人類,AI便見效了,因為人工智慧勝過了人。飛機不扇翅膀也能飛翔,電腦何必需要會思考呢?

這是一個很有力的觀點。但仔細想想我們想要的是什麼,它就少了一些說服力——我們想要的,是一個真的知道你想找什麼的搜索引擎,正如一個人類能知道的那樣。加州大學伯克利分校計算機科學教授斯圖爾特·羅素說,「網路上所有的搜索引擎公司,市值加起來能有多少?可能有4000或5000億美元吧。能夠把網路上的所有資訊都提取出來並理解的引擎,價值10倍於此。」

而這,就是本領域里的萬億美元問題:如今支撐AI的技術方法,一個沒有借鏡思維機制、而是建立在大數據和大工程之上的方法,能將我們帶向我們想去的地方嗎?如果不懂你是如何理解的,你要怎麼建造一個能理解的搜索引擎呢?或許,正如羅素和諾維格在他們教科書的最後一章中婉言承認的那樣,選擇這條實用型道路的結果,就是AI更像是一個想要爬樹到達月球的人,「他能不斷進步,直到樹的盡頭」。

思考是什麼?

想想吧,如今的計算機識別一個手寫的「A」都困難重重。事實上,這個任務對它們來說難度之大,在此基礎上建立起了「CAPTCHA」(區分計算機和人類的完全自動化公共圖靈測試)系統,就是比方說你註冊網站時要你辨認並寫出的那一串七歪八扭的字元。

侯世達認為這沒有什麼好大驚小怪的。他在1982年的一篇文章中寫道,要了解所有「A」的共同點,就像「了解心智範疇的流體本質」 ,而這,在侯世達看來,正是人類智力的核心。

侯世達喜歡說「認知即識別」。他認為,「看作」是最基本的認知行為:你見到一些線條,把它看作是一個「A」;你見到一堆木頭,把它看作「桌子」;你把一場會議看作「皇帝新衣」的場景,把朋友的撇嘴看作「酸葡萄心理」,把一個年輕人的打扮看作「嬉普士」,如此等等,全天持續不斷。這就是「理解」。但是理解的機制是什麼?30年來,侯世達和他的學生一直在努力尋找這個答案,試圖構建「思維基本機制的計算機模型」。

「每時每刻,」侯世達在最新的書、與埃馬紐埃爾·桑德(Emmanuel Sander)合著的《表現和本質》(Surfaces and Essences)中寫道:「我們都同時面對數目不定的相互重疊交融的情景。」而從無序的混沌中找出意義來,便是我們人類,作為要存活下去的生物必須做的事情。我們通過讓恰當的概念浮現在腦海中來完成這一任務。這一切是自動發生的,一直如此。類比是侯世達最常用的詞。他的新書(封面是一大堆各式各樣的字母A)的主旨,就是類比是「思考的燃料和火焰」,是我們每人每天精神生活的必須品。

「看看你們的談話,」侯世達說,「你會一次又一次驚訝地發現,這就是製造類比的過程。」有人說了件事情,讓你想到了另外的一件事情;你說了一件事情,又讓另一個人想到了又一件事情……這就是談話。沒有比談話更直觀的事情了。但是,就在每一步,我們的大腦都做了一個類比,這一個精神上的跳躍是驚人地復雜,從計算的角度上說簡直可以稱為奇蹟。不知通過何種方法,我們的大腦能夠去除其他不相乾的枝葉和細節,提出出它的核心,它的「無附贅的本質」,然後從你自己過去的想法和經驗中只提取出切題的那一個故事或評論。

「注意那些平白無奇的短語,比如『沒錯,這正是我遇到的事情!』」侯世達寫道:「在這些看似簡單的說法背後隱藏著人類思維的全部秘密。」

在集異壁出版後的這些年,侯世達和人工智慧漸行漸遠。如果你現在從書架上抽出一本《人工智慧:一種現代方法》,一千多頁的書里都找不到侯世達的名字。同行都在用過去式談論他。集異壁的新讀者看到書的初版年代,然後發現作者還活著時都很驚訝。

當然,在侯世達講來,故事的發展是這樣:當所有其他研究AI的人都開始建造東西,他和他的團隊——用侯世達的好友、哲學家丹尼爾·丹尼特(Daniel Dennett)的話說——「耐心地、系統地、高明地」遠離聚光燈、一點點攻克真正的難題。「很少有人對人的智力怎麼工作感興趣,」侯世達說:「那正是我們想知道的——思考是什麼?——而且我們不會迷失方向。」

「我是說,誰知道呢?」他說。「誰知道會發生什麼。也許有一天人們會說,『侯世達已經做過這些東西、講過這些東西了,但我們現在才發現它』。」

這聽起來就像是一個迷路傢伙的自我安慰。但是侯世達這樣的人,就是會引誘你問這樣的問題:如果人工智慧(「真正的人工智慧」,用侯世達的話說)的最好思想,真的就藏在布魯明頓的一個抽屜里泛黃呢?

「每天都在探索,完全無法不去探索,完全陷在了這些東西里」

如果說有些孩子生來就註定要踏上犯罪的道路,那麼侯世達就是生來就要走心智的路。他成長在50年代的斯坦福,家就在大學的校園里,北邊的社區連名字都是「教授村」。父親羅伯特(Robert)是核物理學家,後來獲得了1961年的諾貝爾物理學獎。母親南希(Nancy)對政治頗為熱衷,後來成為發育性殘疾兒童福利問題的積極倡導者,是艾格紐斯發育中心(Agnews Developmental Center)倫理委員會的委員,同樣也是在這所機構里,他妹妹莫莉度過了20多年的時光。按笑話的說法,南希是那種「職業的教員夫人」:在她的組織下,侯世達家的客廳變成了沙龍,一群關系密切的朋友會聚在一起邊聽爵士樂邊談論啟發性話題,「科學和藝術的圓融」,侯世達對我說——這是智力的盛宴。

侯世達照單全收。他痴迷於父母的朋友們,還有他們關於「最微小和最宏大的東西」的奇特談話。(有一次他說,他八歲時的夢想是成為一個「零質量、自旋1/2的中微子」。)他會留在物理系等四點的下午茶,「就好像我是個12歲的小研究所」。他好奇心旺盛,永不滿足,永遠不會無聊,「對各種各樣的想法著迷」。他的學術研究風格過去是、現在也是,用他的話說,「暴飲暴食」式的:他可以一連彈上7個小時的鋼琴,背誦1200行的《葉甫蓋尼·奧涅金》全詩。有一次,他花了好幾個星期的時間對著錄音機自學倒著說話,這樣當他反向播放磁帶時,聽著就是正常語序的英語了。他會一連幾個月沉浸在正宗法語里、寫計算機程序輸出荒謬的故事、或者研究幾十種勾股定理的證明,直到他能「看見它成立的原因」。「基本上每天都在探索這些事情」,他說,「無法不去探索。就是完全入魔,完全痴迷於這些東西。」

侯世達今年68歲了,但他身上仍舊有些東西永不衰老。這是一個活在論文、軟體和自己大腦中的人,這樣的一個人會如常人般變老嗎?盡管鬢發灰白不整、剛剛過耳,身軀脆弱下垂,但侯世達那種把自己當真的勁頭、急切的向人表露的坦誠,都還是非常年輕的人的氣質。和侯世達交往並不容易,他不是一個平易近人的人。他是那種會讓晚宴上的所有人都跟著他一起吃素的素食主義者,那種會公開糾正別人的「性別歧視的語言」的人。「他有好多規矩,」侯世達的老朋友彼得·瓊斯說,兩人相識已經60年,「比如他特別討厭『you guys』這個短語。這是個律令。如果你要和他說話,你最好是別說you guys。」

三十多年來,侯世達一直在美國印第安納大學布魯明頓分校擔任教授。他和前年9月份剛結婚的妻子林葆芬住在距離校園幾個街區的地方,他和前妻的兩個孩子丹尼和莫妮卡都已經長大成人。他雖然和認知科學研究項目關系密切,在計算機科學系、心理學和腦科學系、比較文學和哲學系也有擔任職務,但侯世達沒有任何正式的職責。他說,「我的工作是你能想到最輕松的,我在做的就是我想做的事情。」

他的大部分時間花在家中二樓的兩間書房裡,鋪著地毯,有點擁擠,整潔程度總是不讓他滿意。書房是侯世達世界的中心。他在那裡讀書、聽音樂、做研究、畫畫、寫書、寫郵件。(侯世達每天要花上4個小時寫電子郵件。「對我來說」,他曾說過,「電子郵件和信件是一樣的,每一點都跟信件一樣正式、一樣精細、一樣字斟句酌。我重寫、重寫、重寫、重寫我的每一封郵件,向來如此。」)書房是侯世達思考的地方,那裡也反映出侯世達的思想。每一堵牆都堆滿了書籍、繪畫、筆記本和文件夾,思想在這里凝固、成形、四處噴灑。這就像是他「暴飲暴食」經歷的一座博物館,是《囤積癖》的某一集里的場景。

「任何我思考的東西都變成了我職業生涯的一部分。」侯世達說。和他共同編輯了《心智中的我》的哲學家丹尼爾·丹尼特說,「侯世達其實就是一個現象學家,一個實踐現象學家,而且比古往今來任何其他人都做得好。」侯世達研究的現象是他自己的心智——腦中的感受、腦中的內部活動。「之所以他如此擅長,」丹內特告訴我,「之所以他比任何別人都好,是因為他非常積極地尋求理論來解釋後台發生了什麼,來解釋思考究竟是如何在大腦中發生的。」

侯世達的口袋裡總是有一支四色圓珠筆和一個小筆記本,向來如此。他書房邊上緊鄰的一間屋子曾經是廁所,現在變成了儲藏室,裡面的書架裝滿了這樣的筆記本。他取下一本——這是50年代末的。裡面全是語言錯誤。從他十幾歲起,到現在他已經收集了大概一萬個這些錯誤——把詞的位置顛倒了(下電話去接樓)、把字的音發岔了(你把發說完)、把俗語弄串了(事不關己,不謀其政),如此等等;有一半都來自於他自己。他把這些筆記本頁復印下來,裁剪並裝訂好,裝在遍布書房的文件櫃和標簽盒子里。

對他來說,這些都是線索。「論及腦海里那些按定義是潛意識的活動,沒有人是可靠的嚮導,」他曾寫道。「而這正是這么多錯誤記錄如此重要的原因。單獨看一個錯誤,其涉及的思維機制只會流露微笑的蛛絲馬跡;但是大量的這些痕跡加起來,就能共同形成證實(或證偽)特定機制的證據。」正確的言談並不好玩,它就像一次成功的魔術把戲——之所以有效是因為它隱藏了實現的具體過程。而侯世達尋找的是「兔子的耳朵尖,或者暗門的痕跡。」

從這個意義上講,他是當代的威廉姆·詹姆斯,其條分縷析的內省(正是他引入了「意識流」的概念)和清晰明了的解釋讓他1890年的著作《心理學原理》成為了經典。「我們大部分的思考都永遠消失了,毫無找回的希望」,詹姆斯寫道,「而心理學只能收集到宴席落下的一點麵包屑。」如同侯世達,詹姆斯的一生也是在飯桌下度過的,興致勃勃地檢查這些灑下的麵包屑。區別是,詹姆斯只有眼睛,而侯世達卻有類似於顯微鏡的東西。

模擬思維過程的計算機程序

載人飛行器的成功不是歸功於萊特兄弟在基蒂霍克的滑翔飛行,而是他們在自己的單車店裡用回收來的破銅爛鐵和單車輻條建造的兩米高的風洞。當對手們都在競相測試機翼設計的同時,萊特兄弟卻用少得多的花費專注於研究空氣動力學。萊特兄弟的傳記作者弗雷德·霍華德(Fred Howard)評論說,他們的風洞試驗是「迄今為止,用這么少的時間、這么少的材料和預算進行的最重要且最有成果的空氣動力學試驗」。

在布魯明頓北費斯大道的一間舊屋裡,侯世達領導著他的靈活類比研究組(Fluid Analogies Research Group),被人親切地稱為FARG。FARG每年的研究經費是10萬美元。房間內的氛圍很像是居家,漫遊其中很容易錯過櫥櫃後面的文件櫃、起居室里嗡鳴的復印機或者書架上圖書館員的標簽(神經科學,數學,感知)。但25年來,這里一直從事著目標遠大的研究:一小群科學家在嘗試,「首先,致力於解開創造性的秘密,其次,揭開意識的未解之謎。 」

計算機對於FARG就如同風洞之於萊特兄弟。人腦中飛速流逝的無意識混沌可以在計算機上放慢下來,回放、暫停乃至編輯。在侯世達看來,這是人工智慧最好的工具。程序的一部分可以選擇性隔離掉,以便觀察沒有這些會如何運轉;參量可以改變,來看錶現是有所改善還是退步。當計算機讓人驚訝時——不管是特別有創造力還是特別愚蠢——你總能看到原因。「我一直覺得,如果人類有一天能夠徹底理解思維的復雜」,侯世達寫道,「唯一的希望就是通過在計算機上模擬思維過程,然後從這些模型不可避免的失敗中學習。 」

把侯世達家中捕獲、歸檔並記錄的一種思維過程,變成一個能運行的計算機程序,就這短短的一步也要花一個專心致志的研究所5-9年的時間。這些程序都有著類似的基本架構——其組件和整體風格都可以追溯到「Jumbo」,侯世達在1982年寫就的一個用來猜報紙上那種亂序字謎的程序。出題人拿一個單詞,把它的字母順序打亂,問你這個單詞本來是什麼。

當你聽說一個程序的目的是對付報紙上的字謎,你的合理反應應該是:這對計算機來說不是太小兒科了嗎?的確如此——我剛寫了一個程序能對付任何單詞,花了我四分鐘時間。我的程序是這樣工作的:它拿來被攪亂的單詞,窮舉嘗試每一種可能的組合方式,直到它找到詞典里的一個詞為止。

侯世達寫「Jumbo」用了兩年。他關心的不是解開字謎本身,而是在解決這個字謎的過程中大腦究竟做了什麼。他一直都在觀察他的思維。「我可以感覺倒字母在我腦海中自己在轉換位置,」侯世達對我說,「就像是跳來跳去、自己形成小小群體,然後分崩離析組成新的群體——閃爍不定的簇集。操控一切的不是我,是它們在做事情,它們在自己嘗試各種事情。」

侯世達開發的架構能夠模擬這種自動化的字母調換,而其基礎是活細胞體內的反應。不同的字母在不同類型的「酶」的作用下相互結合或者分開,這些酶四處遊走,找到對應的結構就附著其上,啟動反應發生。有的酶負責重組(「pang-loss」變成「pan-gloss」或「lang-poss」),有的酶負責粘連(「g」和「h」變成「gh」,「jum」和「ble」變成「jumble」),還有的則把現有的拆散(「ight」變成「it」和「gh」)。每個反應的結果都促使新的反應發生,在任意時刻「酶」的數量和種類都會自我平衡,以反映出整個字母組合的狀態。

這是一種與眾不同的計算方法,最明顯的特徵是其流動性。侯世達本人當然也給出了一個類比:一群螞蟻在森林地面上遊盪,偵查蟻向四面八方隨機探索,把結果匯報給群體,其反饋過程能夠帶來高效的食物搜索。這樣一個群體是「魯棒」的——一腳踩上一小群螞蟻,其它的螞蟻會很快恢復——而因為這種魯棒性,蟻群是高度有效的。

《流動性概念和創造性類比:思維基本機制的計算機模型》(Fluid Concepts and Creative Analogies: Computer Models of the Fundamental Mechanisms of Thought)所細致描繪的,正是這種架構和使用該架構的程序所遵循的邏輯和機制。讀到這本書時,你會想或許侯世達的驚世之作不應該是集異壁,而應該是這本。正如《紐約時報》的一名主筆在1995年的一篇評論文章中說的那樣:「讀到《流動性概念和創造性類比》的人都不禁會想,印地安那大學的研究小組發現了一些了不得的事情。」

但極少有人——甚至包括集異壁的崇拜者——知道這本書,或是其中描述的研究項目。或許是因為FARG的研究實在是太過明目張胆地不切實際了。因為他們研究的是微小的、簡直像過家家一般的「微領域」。因為這些程序做的事情沒有一項比人做得更好。

現代的AI是「數據、數據、數據」,而Google擁有的數據比任何人都多

現在這個時代的主流AI大約始於1990年代,一直延續至今。不過,在如今的穩步發展和商業上的成功之前,其實有一段被稱為「AI之冬」的時期,這段酷寒幾乎扼殺了整個人工智慧的研究努力。

導致這一局面的是一個簡單的矛盾。一方面,我們知道怎麼寫的那種軟體是很有序的東西,大部分計算機程序都有著軍隊一樣森嚴的等級秩序,擁有層層指揮鏈,每層都把指令傳給下一層,進程調用子進程調用子子進程。另一方面,我們希望寫出來的那些軟體應該是有適應性的——而為了能適應不同場景,層級規則根本就是南轅北轍。「人工智慧的全部努力從根本上說就是和計算機的剛性作鬥爭」,侯世達總結道。上世紀80年代末,主流AI研究的資助、會議出席人數、期刊論文投稿數以及媒體曝光率都在流失——因為在這場鬥爭中它正在輸掉。

曾經是人工智慧研究金飯碗的「專家系統」也在沉沒——因為它們太脆了。專家系統的研究方法從根本上是殘破不全的。以人工智慧領域長期以來的聖杯——語言間的機器翻譯為例。標準的做法是讓語言學家和譯者聚在一個房間里,然後試圖將其專業技巧轉化為一個程序可以遵守的規則。而這種標准做法失敗的原因也很容易想到:沒有一套規則可以簡單地詮釋人類語言,語言是個範疇太大、變化太多的東西,每有一條語法規則得到遵循,就有一條被例外打破。

如果機器翻譯要作為商業項目繼續下去——如果AI要得以存續——必須找到另外的道路。或者更好的辦法,一條捷徑。

人們確實找到了這條捷徑。你可以說這一切的開始是1988年,那一年,IBM啟動了一個名叫「老實人」(Candide)的項目。「老實人」是一個機器翻譯系統,其背後的思路是承認基於規則的做法需要對語言如何產生、語義句法詞形如何運作、詞語如何組合成句子和段落有極其深入的理解,這一要求太高了——更不要說理解這些詞語作為媒介所指代的那些意義。所以IBM把那個方法丟出了窗外。開發者的代替方法絕頂聰明,但如此簡單直接,令人難以置信。

這個方法被稱為「機器學習」。其目標是製作出一個設備,輸入英語句子,然後吐出對等的法語來。當然,人腦就是這樣的一個設備,但IBM的計劃的要旨就是完全繞開人腦的復雜性,所以我們開始要創造一台簡單的、幾乎毫無用途的機器:比方說,一台機器,輸入英語單詞後會隨機吐出一個任意的法語詞。

想像這樣一個盒子,上面有數千個旋鈕。一些旋鈕控制總體的設置,比如輸入10個英語單詞,對應的法語單詞平均該有多少個;另一些則控制更加具體的規則,比如輸入英語單詞「jump」後,後面跟著單詞「shot」的幾率有多大?問題就是,光靠調整機器上的旋鈕,你能讓你的機器把可以理解的英語變成可以理解的法語嗎?

事實證明,能。要做的不過是餵給機器一些英語句子,這些句子的法語翻譯你已經知道。(譬如說,「老實人」用了220萬對句子,大部分來自加拿大國會辯論的英法雙語通訊。)你一次處理一對兒。輸入一對之後把英語那一半餵給機器,看看法語那半邊出來什麼。如果出來的和你預期的有所不同——和已知正確翻譯有所不同——那你的機器就不太對勁。所以調節按鈕,再試一次。經過足夠多的輸入、嘗試和調節,再輸入、再嘗試、再調節,你會摸索到正確的旋鈕搭配,能夠得到這個英語句子的正確法語對應物。

當你把以上過程對數百萬個句子重複之後,你就能逐漸校準你的機器,直到你就算輸入一句你不知道翻譯的英語句子後,還能輸出一句過得去的法語翻譯。而最美妙的地方在於,你完全不用直接為它變成;你完全不用知道,為什麼要這樣或那樣調節這些旋鈕。

機器學習並非「老實人」首創。實際上機器學習的早已經過大量的測試,那是60年代的原始機器翻譯。只不過,在它之前,無一測試談得上成功。它給學界帶來的突破,並不在於「老實人」成功地解決了問題,而是讓大家發現一個如此簡單的程序居然能給出像樣的結果。參與了老實人項目的亞當·伯傑(Adam Berger)在項目總結里說,機器翻譯是「自然語言處理、甚至整個人工智慧領域里公認最難解決的問題之一,因為準確的翻譯若無對文本的完整理解,看起來簡直是不可能的。」可是像老實人這樣直截了當的程序都能有不錯的發揮,證明有效的機器翻譯其實不需要理解——只需要海量的雙語文本。正因此,「老實人」證明了,征服AI的另一條道路原則上也是可行的。

「老實人」以驚人的效率所實現的,是把「理解一個復雜過程」這個問題轉換為「尋找許許多多這一過程運作的實例」。這個新問題,和模仿大腦實際運作不同,隨著時間推移只會變得越來越簡單——特別是當九十年代到來,原本是物理學家專享的書獃子避風港以幾何級數擴張成了萬維網。

AI在90年代得到了快速發展,這絕非巧合;Google——全球最大的網路公司——成為「世界上最大的AI系統」(彼得·諾維格語),這也不是巧合。彼得·諾維格與斯圖亞特·羅素合著了《人工智慧:一種現代方法》,同時也是Google公司的研究總監之一。諾維格說,現代的AI是「數據、數據、數據」,而Google擁有的數據比任何人都多。

谷歌翻譯基於跟「老實人」同樣的原理,現在已經是世界第一的機器翻譯系統。谷歌翻譯團隊的一名軟體工程師喬什·埃斯特爾(Josh Estelle)說,「你可以隨便拿一個簡單的機器學習演算法,上人工智慧課程的頭幾周就會學到的那種,學術界早已拋棄、認為沒用的那種——但你用100億條而不是1萬條樣例去做訓練的時候就會發現,這些演算法開始見效了。數據勝過一切。」

這技術極其有效,實際上谷歌翻譯的團隊成員都不會說其產品能夠翻譯的大部分語言。「光這一事實就能讓人口服心服,」埃斯特爾說。「你會想雇更多的工程師,而不是更多的說母語的人。」在翻譯不過是大規模數據挖掘練習的這個時代,工程才是頂用的。

這正是使機器學習方法繁榮昌盛的原因:當語法的規則不復存在,理解的過程被各種微調的工程技術所取代,數據、效率成了一切。諾維格說,Google到處都能看到這種現象:如果讓這個的運行速度再快10倍,一年就能節省幾千萬美元,那我們就來做這個項目吧;怎麼干呢?好,我們先來看看數據,用機器學習或數據統計的方法做著,之後再想出別的更好的方法。

Google也有指向更深一級理解的項目,受大腦生物學啟發的機器學習的延伸。他們現在正在做的「知識圖譜」試圖將詞匯和人物、事件和地點聯系起來。但有10億客戶等著被服務的事實迫使這家公司不得不犧牲理解以滿足便利。無需多試便能看出 Google Translate 的工程師為了覆蓋率、速度和便利而做出的妥協。盡管Google Translate以它自己的方式代表了人類智力的產物,但它並不是智力本身。就像一塊巨大的羅塞塔石碑,Google Translate 只是人類智力工作過的記錄。

「為什麼要一個叫『人工智慧』的學科製造出『人的智能呢?」

「當我們坐下來建造Waston的時候有沒有模擬人類的認知?」IBM的Waston開發小組的負責人戴夫·費魯奇(Dave Ferrucci)說:「絕對沒有。我們只是試圖製造一台可以贏得《危險邊緣》的機器。」(《危險邊緣》[Jeopardy]是美國的一檔電視智力競賽節目,類似央視《開心辭典》。)

對於費魯奇,智力的定義很簡單:看一個程序可以做什麼。深藍是智能的,因為它可以在國際象棋上擊敗卡斯帕羅夫。Waston是智能的,因為它可以在《危險邊緣》上戰勝肯·詹寧斯。「我們叫它人工智慧,對不對?這就相當於說不是人類的智能。為什麼你會要一個叫做人工智慧的學科製造出人類的智能呢?」

費魯奇也並非注意不到兩者的差異。他總是對人們說,Waston依靠一屋子的處理器和20噸重的空調設備贏得了比賽,而它的對手使用的,用一個鞋盒子就能裝走,一個金槍魚三明治就可以運行上幾個小時。這台機器在比賽結束時,還能讓它的主人與人對話,吃上一個美味的麵包圈,爭辯、跳舞、思考,而Waston只能呆在屋子裡,嗡嗡作響,從未活著,回答關於總統和土豆的問題。

這些系統處理的問題只是影子——「其實連影子都不是」,費魯奇說:「我們一直以來都低估了人腦當中真正發生的事情。」上世紀50年代如此、現在也仍然這樣。

那麼,為什麼你不來研究人腦中發生的事情呢?這是侯世達想問費魯奇的,也是他想問所有主流AI研究人的。

對此,費魯奇的態度頗為復雜,他說:「人一生能做的事情很有限,當你把時間全部投入來做某件事情的時候,你不得不問自己,這樣做是為了什麼。而我也這樣問我自己,而我得到的答案是,我對人類智力是如何工作的非常感興趣,能夠理解人類認知也很偉大,我很喜歡看這方面的書,也有興趣了解這方面的情況——但這樣做又能怎麼樣呢?我真正想做的是製造出能做事情的計算機系統,而我不認為認知理論是通往我目的的捷徑。」

身為 Google 研究總監的彼得·諾維格的觀點幾乎和費魯奇一樣。「我認為侯世達在研究的是極其之難的問題。我猜我想做更容易一些的工作。」

從諾維奇和費魯奇的回復中可以看出AI研究的殘破之態。早期的基礎研究早已荒廢,現行的計劃目光短淺。對名聲的顧慮束縛了一些AI研究員的思想。如果說在上世紀80年代,AI研究者在做的是試圖用程序模擬出一部分的真實的數據,那現在則是將其視為任務的全部。

我們正在允許我們的成功扼殺自己。當機器可以承受更多的數據、更快地計算出結果,人類正放任自己變得越來越笨。這就像用圖形計算器計算高中微積分題目一樣,這樣做簡單又便捷,直到你真正理解微積分的那一刻為止。給Goolge Translate輸入1萬億而不是100億個雙語文本,它也不見得就會達到人類譯者的水準。而同樣,搜索、圖像識別、問答問題,或者規劃、閱讀、寫作、設計,或任何一個你寧願人而不是機器來做的領域。

諾維格和其他同處商業AI的人都清楚,能從數據中得到的終有極限。諾維格說,就像一個鍾形曲線,更多的數據可以讓系統變得更好,現在我們還在不斷提高;但終有一天,我們獲得的利益將不如過去。

侯世達以前的研究所詹姆斯·馬歇爾(James Marshall)則認為情況很簡單:「最終,只有難走的那條路才能帶你走向你想去的地方。」

侯世達在他35歲時開始了他的第一次認真戀愛(他形容自己生來就「共振曲線窄」)。1980年,在度過15年地獄般慘無愛情的歲月後,他遇到了卡羅爾·布萊什(Carol Brush)。用侯世達的話說,卡羅爾「剛剛好處於他共振曲線的中心」。相遇後不久兩人就結了婚,生了兩個孩子。但好事不常,1993年他們一起在義大利休假時,卡羅爾突然因腦瘤去世,兩個孩子分別是5歲和2歲。好友說卡羅爾去世後侯世達迷失了好長一段時間。

30年來侯世達一直沒有參加過人工智慧方面的會議。「我和這些人之間沒有溝通,」侯世達這樣形容他的AI同行。「我不想跟那些死不妥協的人說話。你知道,雖然我叫他們為同行,但他們幾乎算不上是我的同行,我們跟對方搭不上話。」他說。「我不喜歡參加會議,遇見死腦筋而且想法是錯誤的人,或是不了解我在想什麼的人。我只愛跟和我想法更一致的人說話。」

「我只是覺得人的一生很短。我工作,但不公開。我不拚命爭取。」

從差不多15歲開始,每隔十年侯世達就會重讀一遍《麥田裡的守望者》。2011年秋季學期,他還給大學部新生開了一門講座「為什麼J.D.塞林格的《麥田裡的守望者》是部偉大的小說?」侯世達對小說的主人公霍爾頓·考爾菲德有很強的認同感。有人認為霍爾頓只知道抱怨發牢騷,侯世達的解釋是「他們沒有意識到霍爾頓的脆弱」。你能想像侯世達在小說的開頭像霍爾頓一樣站在山頭,獨自一人形單影隻,看著他的一幫同學活蹦亂跳地在底下踢足球。「我的想法已經有很多了,」侯世達說:「我不需要外界的刺激。」

而凌駕於戰斗的壞處就是,你不是戰斗的一部分。侯世達以前的學生、與侯世達交往30年之久的鮑勃·弗倫奇(Bob French)說:「科學里很少有觀點是黑白分明,人們一看便說『哦,好吧,為什麼我們沒有想到呢?』從板塊構造到演化論,所有的這些觀點都必須要有人去為之爭取,因為總是有分歧。如果你不參加戰斗,不去趟學術界的這趟渾水,你的想法終究會退居一旁,讓位給那些盡管不如你,但是有人在角斗場中為之奮戰的觀點。」

侯世達從未想過要爭取,而他工作的好處和壞處也在於,他從來也不需要去真正戰斗。35歲那年他贏得了普利策獎,瞬時間就成了學校的寶貴資產,印地安那大學授予了他終身教職(tenure)。侯世達不需要在期刊上發表文章,也不需要提交同行評審,更不用回復評審意見。他有一個出版商,基礎叢書(Basic Books)出版公司,只要是他寫的東西,一律照單全收。

斯圖爾特·羅素把話說得很直白:「學術界並不是你只要坐在澡盆子里,有了想法後大家就奔走相告、興奮得不得了的地方。很有可能在50年後,我們會說,『當初真應該多聽聽侯世達是怎麼說的。』但是,想想該怎麼做讓人們了解你的想法,是每一位科學家都應該盡到的義務。」

侯世達愛說「生命短暫,藝術長存」(Ars longa, vita brevis)。他說,「我只是覺得人的一生很短。我工作,但不公開。我不拚命爭取。」

侯世達打了一個比方——愛因斯坦在1905年提出了光量子假說,但是,沒有一個人相信他,直到1923年。侯世達說:「18年,愛因斯坦完全是隻身一人相信光粒子的存在。」

「我想,那一定很寂寞。」


造數科技:

這個問題很多行業大佬研究過,但是就如胡郁博士所說的那樣,真心擔心人工智慧的都不是研究人工智慧的。研究人工智慧的從來不擔心人工智慧威脅,因為他心裡有點X數。。。

造數帶你見證科技發展的企業。

【目前的人工智慧=人工+智能】

正如一千個人心中有一千個哈姆雷特,一千個人心中也有一個人工智慧。事實上,人工智慧這四個就連專業的科學家都在辯論概念。我們這一幫外行人又為何要在那裡杞人憂天呢?

在我看來,人工智慧就是通過一系列的學習,使得AI具有了一定的思維模式。

但是思維模式不等於思維,不等於想法,不等於自己的世界觀。換句話說,通過學習,目前的AI可能產生方法論,但是AI並沒有獨立的世界觀。

其實在某種程度而言,AI也就是一個更加高端的機器人。

晚上睡覺,你想關燈,你家的智能機器人可能走過去把燈關了。

你跟AI說,他可能通過更加精密更加高檔的設計自動關燈。

我記得幾年前,我小時候電視上也是各種機器人滅絕人類的題材,後來機器人不了了之,

目前AI大火,才又出現的人工智慧威脅論。其實大家覺得學圍棋很難,對於AI來講,學圍棋真的就像我們拿起杯子喝水一樣簡單是一個非常初級的階段。

畢竟1997 年 5 月 11 日,在人與計算機之間挑戰賽的歷史上可以說是歷史性的一天。計算機在正常時限的比賽中首次擊敗了等級分排名世界第一的棋手。加里·卡斯帕羅夫以 2.5:3.5 (1勝2負3平)輸給 IBM 的計算機程序 「深藍」。機器的勝利標志著國際象棋歷史的新時代。

而且非常有意思的事就是AI學習的東西必須要人進行加工整理,AI才能進行那些高大上的機器學習,深度學習啊,如果沒有人在那苦逼的做出分析好的數據給AI學習,AI真的是寸步難行啊。

而且人民日報也刊文稱,當下炙手可熱的人工智慧被強烈地誇大了,如果一擁而上、盲目跟風,恐怕熱潮很快就會變成寒潮。人工智慧頂級專家認為,目前應該將雙倍的精力投入到人工智慧的基礎性研究中去,而不是投機炒作。

【人工智慧下的機遇與挑戰】

了解了目前的AI是怎麼進行學習的,也有人擔心現在的AI是這么學習,那麼以後AI會不會產生更先進的學習方法,科技更發展假如真的達到了所謂的強人工智慧,那麼就算人工智慧不會產生威脅,人類會不會就此失業?從此閑置在家?

其實,這種擔心是完全沒有必要。

就如好多大V舉的例子,汽車出現了以後,馬夫雖然越來越少,但是卻多了一個新的職業——駕駛員。電視出現了以後,收音機沒人聽,但是廣大的司機朋友卻靠這個緩解疲憊,苦中作樂了。

就算真的發展到了強人工智慧時代,可能出現的情況也只是原來需要100個人做的工作,只需要一個人來做了,並不是這件事不用人就可以做了。

然而無論什麼情況,人工智慧工程師不會失業吧。總要有人研究怎麼學習,設置演算法吧。而一系列的人工智慧維修師,培訓師也會如雨後春筍般應運而生。

何況任何時候,社會的發展都離不開人的智慧,就連人工智慧其實人類智慧的結晶。

如果未來真的出現了強人工智慧,帶來的結果很可能是人類生育意願的降低,因為那時候養孩子可能變成一件性價比極低的事,投入和產出是完全不成正比的。

所以大家就不要瞎擔心啦,既然科技一直在發展,我們就乘著快速前進的科技號列車駛向更美好的未來吧。

造數帶你見證科技發展的企業。


已退逼乎:
在現在人類對意識本源 和大腦工作機制了解如此貧乏的情況下
說人腦寫出的演算法能超越人腦這不是搞笑么
說計算機可以超越人類是有可能的
但是前提不是計算機技術單方面進步
而是腦科學取得突破進展
如果量子計算機和腦科學同時取得突破進展 那麼 你擔心的問題就有可能了
但從可見的研究來看
至少你我應該都見不到了
——————————————————
既然有朋友關心這個問題
那我就細細說一下
首先真正嚴格意義的人工智慧 不是你打cs時候打不過機器人就說明AI比人強了
簡單來說AI的設計思路如過嚴格遵守遊戲規則 那任何人都打不過電腦 譬如 我可以設計AI的瞄準機制嚴扣機槍的後座力 壓槍幅度
槍槍爆頭 一秒鐘可以幹掉可視範圍內幾十個人

所以簡單來說 弱AI模擬的是規律 不是人的思維 這其中當然有重合的部分
其中的區別就是 人的思維可以被影響的因素過多 情緒 環境 氛圍 身體狀況 等等
舉個例子 制止犯罪 人是要用人權等一系列因素去考量該怎樣處理
但是按照邏輯 如果去設計這個演算法讓計算機去做 是沒有能力去分析罪犯的本性 人權等等一系列因素
而產生最直接的結果 幹掉罪犯

再舉個例子下棋 和遊戲類似 棋牌遊戲有嚴格規則 對於國際象棋和五子棋來說設計演算法應該任何一個學過一兩年演算法的人都可以 但你要說人下棋的時候是依據這些演算法下棋的嗎? 根本不是
所以

弱AI基本是總結規律 和依據大量樣本得出統計結果

————————————————
下面再說強AI
日本不知道投了多少錢 去研究自然語言 其研究資料應該比現今全世界的總和還要多
但是最終以失敗告終 雖然失敗但是其他方面成果也值了不少錢(這是題外話)
那麼為什麼要研究自然語言處理呢?
因為自然語言處理是實現強AI的一個前提之一

我舉個栗子

諸如 你對電腦說 哎~幫我算算 這道偏微分方程的解~(同時拿出課本對著攝像頭)
經過自然語言處理 他明白「幫我算算」是要計算的意思
明白「偏微分「是一個數學種類
明白「解」是答案
同時能夠生成指令識別圖片中的內容 把圖像內容轉化為數學方程
最後他還要通過網際網路上的文字 將文字理解並轉化為偏微分方程解法
最後計算得出數值結果
電腦還會在熒幕上列印出」累死爹了 看 這就是結果($#$^%@!*^&%$*^) 下次敢不敢不要問這么難的問題”

這其中每一步都用到了自然語言處理 但是人連自己的大腦語言中樞 視覺中樞的工作機理都不明白
怎麼可能做出自然語言處理呢?
求腦科學大神指正


蔣甬杭:
歡迎閱讀The Singularity Is Near (豆瓣),忠告:別讀中文版,翻譯得巨垃圾。


郭斯特:
威爾史密斯的《I, Robot》回答了這個問題。
假設人類研究不出能超越人類認知能力的人工智慧,也就是說人工頂多隻有人類的認知水準,那麼它是相當有可能根據有限的知識做出錯誤的判斷的。反過來,假設人類能夠研究出超越人類認知水準的人工智慧,那麼它就很有可能會做出人類無法預測,理解和判斷的決定來。所以怎麼樣都有風險。
再有,人類社會一方面需要警惕和限制人工智慧的功能,另一方面又要極大地,愈演愈烈地依賴其帶來的強大力量,這本身就是一個矛盾。
個人認為,因為人性中貪婪和軟弱的缺點,最終一定會導致不加限制地使用人工智慧並導致災難性的後果。這是無法避免的宿命。和其他科幻小說/電影一樣,《I, Robot》里的劇情也會成為現實。至於最後有沒有大團圓的結局,就只有上帝知道了。


古土雷柏:
現在的回答集中在2個可能性上:
其一:人類不想被人工智慧消滅。
其二:技術還很遙遠。
忽略了我們人類的第三種可能:
其三:我們自己會極大地加速這個技術進度,然後心甘情願地給自己下達消滅的指令。

技術方面已經有人回答到很好了,我的回答主要從人性出發,論證第三種可能。

舉一個例子:
今天有一個人穿越到宋朝去告訴老祖宗,在不久的將來,我們人會住在一格格的房子里,平均每個人數十平米,樓上有人,樓下也有人,一平方公里擠幾萬人。路上不能走人,只有快速自動車,每年都有幾十萬人被撞到大出血死亡。問他願不願意接受這種結果?他大概不大樂意,並且會在自家院子曬太陽吸一口天然空氣,頓時幸福感上升。但事實證明我們今天樂呵樂呵地這么活著。這是人類文明進化的必經之路,人工智慧其實也是必經之路,必然之結果。請大家珍惜今天還能自己張口吃飯的幸福日子。

總結一點,人類文明進化雖然產生了很多「副作用」,但是相對於「正作用」,其實我們還是願意接受的,比如上面講的宋朝的這個例子,今天我們戰亂少了,非自然死亡少了,生命的壽命更長了,社會更公平了,可旅行的距離更遠了,那麼對應一些”副作用”,汽車會撞死人這個問題就不是那麼難以接受了。同樣的,人工智慧消滅人類,大面上”正作用」是大的,「副作用」是小的。

很久之前我寫的的一篇文章:

知識進化將把人類帶向何方?

人生的快樂有很多種,其中最大的一項,應該是屬於貢獻知識,知識是智慧的結晶,絕大部分的人智慧隨著時間消逝,不復存在,人類的不斷發展和前進,並剋制了本星球上其它的物種,最大的突破在於實現了知識的存續。現在我們隨時可以取火,用煤氣爐、打火機,1秒鐘就能實現了,人類第一次摸索出保存火種,卻使用了整整100萬年的時間,如果該項知識沒有得以存續,我們能否存在地球上繼續吃肉都是一個問題,火種的保存,使人類放棄了4腳著地,放棄了在快速奔跑、牙齒銳利、嗅覺靈敏、快速適應的視力,抵禦寒冷等多個方面的進化,因為這一類領域,是野外生存必需的,而人類選擇了躲進山洞裡,積累知識,建立生產,逐步消除了對野外的需求。也就是說我們的進化方向和動物完全是相反的,在機體、肢體上人類採取的是全面退化的策略,而集中全力在智力傳承、技術領域上不斷突破,這種選擇在前期是冒險的,搞不好就會被4條腿的動物撲上,失去在本星球的生存權。

人類的文明歷史大概1萬年不到,但這1個萬年的發展加速度完全超過過去200萬年的發展,在1萬年裡的最後100年的發展,完全超過過去1萬年的發展。歸根到底就是知識的積累呈現滾雪球發展態勢,並且現在已經可以大概描述出其發展的軌跡,即現在及未來,人類社會中最精華的智力會投入到那些領域中去。我將進化的歷程劃為5個階段,每個階段都衍生出很多分支,這里只概述主幹:

一、機體的工具替代化和自動化

這個階段用了1萬年,已經發展到極致,進入成熟期。我們沒有鋒利的牙齒,但是可以吃各種肉;沒有快速奔跑的四肢,卻能日行千里,沒有翅膀,但卻可以騰空而行,沒有超強的視力,但卻可以看到外星球。這些都是典型的使用工具來加強人類能力的例子,並且自動化是其內在趨勢,進入21世紀,感知技術的進展,將極大地推動自動控制領域的突破。我們這個時代很多偉大的發明,都是滿足人類解除自身肢體負載的需求,哪家哪戶現在用手洗衣服的?我們人性里有一個惰性的根源在裡面,不勞而獲,是一個人的生而有之的追求。這種惰性的根源從人類的產生就已經存在了,從人類大曆史的眼光來看,惰性的根源應該算是一段指揮人類放棄機能進化,放棄自身軀體,實現完全退化的代碼/指令。

二、機體的可替代化進展

如果現在有人換了一個電子心臟,這也決不是什麼大新聞。當前最熱門,最高端的技術研究,就是生命科學,就是研究如何延長人類的生命,葯物的進化這些不在話下,基因克隆技術的實現也早已沒有障礙,而將各種無機的物體值入體內,代替老化或損害的器官,已經積累了大量的實踐,再這樣下去,恐怕沒有哪一樣東西是無法移植的了。人類對生命終結的恐懼,貪生怕死,也是一種內置在人類基因的代碼,這趨使我們在生化、生命技術上的無休止追求,長生、可移植、可替代的機體組織始終是重要的科研方向。在這個世紀的末尾,人類的人均壽命突破100-120歲也沒什麼玄念。不過這離我們的目標還非常遠。

三、機體的轉化期

任何物體都有起生存和消滅的周期,惟有虛擬化才是長久解決之道,訓練機器人替代人類現在在做的事情,或者去做人類做不了事情是接下來這200-500年的重頭戲。各種神經控制和感知技術,使人類可以放棄部分機體和機能,多一物不如少一物,真正做到像Vista上市一樣,運行更快,更安全,更穩定地「精裝上陣”。對神經思維的控制達到一個新的高度之後,其實人類所賴以感知世界器官就顯得多麼的微不足道了。人體各個組件將會被精細的生命科研完全模塊化,不斷地被剝離,逐步依賴於機器人和神經感知方面的技術實現。這個階段可能也是非常漫長的。

四、機體的消滅期

我們都很怕痛,人類在維護自己身體上耗費了大量的精力,到這個階段,機體的存在勢必是人類追求永生,放棄一切痛苦的最大障礙。人類期望可以不斷reload,定期清除思維的垃圾,保持精神的旺盛,持續的快樂。神經控制的大門在上一個階段已經被打開,回退變成為不可能,人類最大的特點就是一旦嘗到好的東西便不願意放棄,一旦發現可以偷懶的東西就會永遠偷懶,你看看電梯正常運行時,有沒有人走樓梯就知道了。既然發現障礙在哪裡了,那麼我們一定會拼盡全力去解決,一種將大腦思維導出的技術將打開這個瓶頸,也就是說處於《黑客帝國第1集》開始的類似狀態,整個人體停止了任何活動,所有的一切均以思維控制方式進行。

五、思維的轉化期,人類消失

因為人類已經消除了所有的痛楚,以及對疾病的免疫,但是隨著技術的進步,一個大腦的運行極限可能也就是500-800年,這離我們的目標還是比較遠的。將思維完全植入虛擬機也就是必定要突破的技術了,思維植入一旦成功,人類立即將自己的腦顱拋到垃圾堆里,永存在於無有痛苦,只有快樂的天堂里,每個人其實都是一段代碼,我們成為非生物,獲得永生,而這個時候,」人類「也就消失了。

於2007年7月7日立此存照。


青璽:
【青璽】
人工智慧最可怕的地方在於,先是讓人類以操控它們為榮,到最後發展成為,讓人類以被它們操控為榮。

發表迴響