當(dāng)今的AI系統(tǒng)似乎就像是智力強(qiáng)國，能夠在各種各樣的任務(wù)上擊敗人類同行。但是，實(shí)際上，當(dāng)今最先進(jìn)的AI代理的智力能力是有限的。以AlphaGo為例。盡管它可能是棋盤游戲Go的世界冠軍，但這實(shí)際上是系統(tǒng)擅長的唯一任務(wù)。

當(dāng)然，還有AlphaZero。該算法掌握了許多不同的游戲，從日本和美國的國際象棋到Go。因此，它比許多當(dāng)代的AI代理更具能力和活力。但是，AlphaZero無法輕松將其智能應(yīng)用于任何問題。它不能像人類一樣不受限制地從一項(xiàng)任務(wù)轉(zhuǎn)移到另一項(xiàng)任務(wù)。

可以對所有其他當(dāng)前的AI系統(tǒng)說同樣的話-它們的認(rèn)知能力是有限的，并且不會超出其創(chuàng)建任務(wù)的范圍。這就是為什么人工智能(AGI)是許多研究人員的長期目標(biāo)的原因。

AGI系統(tǒng)被廣泛認(rèn)為是AI研究的“圣杯”，它是具有廣泛問題解決能力的人工智能代理，可幫助他們解決設(shè)計(jì)階段未曾考慮過的挑戰(zhàn)。與專注于一種特定技能的傳統(tǒng)AI系統(tǒng)不同，AGI系統(tǒng)將能夠有效地解決他們遇到的任何問題，從而完成各種各樣的任務(wù)。

如果該技術(shù)得以實(shí)現(xiàn)，它將以無數(shù)種方式使人類受益。斯坦福大學(xué)的經(jīng)濟(jì)學(xué)家馬歇爾·伯克(Marshall Burke)預(yù)測，AGI系統(tǒng)最終將能夠建立大規(guī)模的協(xié)調(diào)機(jī)制，以幫助緩解(甚至消除)我們最緊迫的問題，例如饑餓和貧困。但是，在社會獲得這些AGI系統(tǒng)的好處之前，DeepMind的AGI安全研究員Ramana Kumar指出，人工智能設(shè)計(jì)師最終將需要解決自我完善的問題。

自我完善符合AGI

當(dāng)前的AI系統(tǒng)中已經(jīng)存在早期自我完善的形式。Kumar解釋說：“在正常的機(jī)器學(xué)習(xí)過程中會發(fā)生一種自我提升。”“也就是說，該系統(tǒng)提高了在訓(xùn)練過程中很好地執(zhí)行一項(xiàng)任務(wù)或一組任務(wù)的能力。”

但是，Kumar斷言，他會將這種形式的機(jī)器學(xué)習(xí)與真正的自我完善區(qū)分開來，因?yàn)樵撓到y(tǒng)無法從根本上將其自身的設(shè)計(jì)更改為新的東西。為了實(shí)現(xiàn)重大改進(jìn)(包括新技能，新工具或創(chuàng)建更高級的AI代理)，當(dāng)前的AI系統(tǒng)需要人為他們提供新的代碼和新的訓(xùn)練算法等。

然而，從理論上講，創(chuàng)建一個能夠真正自我完善的AI系統(tǒng)是可行的，Kumar指出，這種自我完善的機(jī)器是通向AGI的更可行途徑之一。

研究人員認(rèn)為，自我完善的機(jī)器最終可能會導(dǎo)致AGI，因?yàn)檫@一過程被稱為“遞歸自我完善”?；舅枷胧牵S著AI系統(tǒng)繼續(xù)使用遞歸自我完善來提高自身智能程度，它會變得越來越好，在使自己更聰明。這將迅速導(dǎo)致其情報呈指數(shù)級增長，并最終導(dǎo)致AGI。

庫瑪說，這種情況是完全合理的，并解釋說：“要使這種方法可行，我們需要幾個幾乎沒有爭議的假設(shè)：理論上存在這樣的高能代理，可以通過一系列局部改進(jìn)來找到它們。”從這個意義上說，遞歸自我完善是許多理論的核心，這些理論涉及如何從當(dāng)今的中度智能機(jī)器轉(zhuǎn)變?yōu)槌悄蹵GI。但是，庫瑪(Kumar)澄清說，這不是通往AI超智能的唯一潛在途徑。

人類可以發(fā)現(xiàn)如何通過各種方法來構(gòu)建功能強(qiáng)大的AGI系統(tǒng)。這可能“通過擴(kuò)大現(xiàn)有的機(jī)器學(xué)習(xí)方法來實(shí)現(xiàn)，例如使用更快的硬件?；蛘呖梢酝ㄟ^在表示學(xué)習(xí)，轉(zhuǎn)移學(xué)習(xí)，基于模型的強(qiáng)化學(xué)習(xí)或其他方向上進(jìn)行增量研究來實(shí)現(xiàn)。例如，我們可能會在大腦掃描和仿真方面取得足夠的進(jìn)步，以復(fù)制和加速特定人的智力。”