從他對(duì)研究人員的調(diào)查中,他認(rèn)為到2040或2050年我們將達(dá)到ASI,這可能是一個(gè)巨大的變化。引用尼克:
“現(xiàn)在,大多數(shù)人在思考什么是聰明而什么是愚蠢時(shí),我認(rèn)為腦海中大概有這樣一張照片。因此,在一端,我們有鄉(xiāng)村白癡,然后在另一端,有埃德·維滕(Ed Witten)或阿爾伯特·愛(ài)因斯坦(Albert Einstein),或者您最喜歡的老師是誰(shuí)。但是我認(rèn)為,從人工智能的角度來(lái)看,真實(shí)的畫面實(shí)際上可能更像是這樣:
人工智能從此處開(kāi)始,此時(shí)的智能為零,然后經(jīng)過(guò)許多年的艱苦努力,也許最終我們將獲得鼠標(biāo)級(jí)別的人工智能,它可以像鼠標(biāo)一樣在混亂的環(huán)境中導(dǎo)航。然后,經(jīng)過(guò)許多年的艱苦努力,大量的投資,也許最終我們會(huì)獲得黑猩猩級(jí)的人工智能。然后,經(jīng)過(guò)多年的努力工作,我們到了鄉(xiāng)村白癡人工智能。片刻之后,我們超越了埃德·維滕?;疖嚥辉贖umanville車站停下來(lái)。相反,它很可能會(huì)突然出現(xiàn)。”
對(duì)于那些不熟悉該主題的人,他以非常直接的方式解決了這個(gè)問(wèn)題。他提出了許多與人類利益分化有關(guān)的擔(dān)憂,以及一旦開(kāi)發(fā)ASI,我們控制ASI的能力受到限制。他在演講中的最終處方是樂(lè)觀的,但考慮到過(guò)去幾年中人類對(duì)武器化代碼的進(jìn)步,它可能并沒(méi)有引起人們的關(guān)注。在ted.com上絕對(duì)值得一看