在今天發(fā)表在《科學(xué)報(bào)告》雜志上的一篇文章中，研究人員展示了如何采用一個(gè)世紀(jì)前引入的物理概念來(lái)解決這兩個(gè)挑戰(zhàn)，該物理概念描述了鐵塊冷卻過(guò)程中磁體的形成。

通過(guò)精心的優(yōu)化程序和詳盡的模擬，巴伊蘭大學(xué)的一組科學(xué)家證明了冪律定標(biāo)的物理概念對(duì)深度學(xué)習(xí)的有用性。物理學(xué)中的這一中心概念源自多種現(xiàn)象，包括地震的時(shí)機(jī)和震級(jí)，互聯(lián)網(wǎng)拓?fù)浜蜕缃痪W(wǎng)絡(luò)，股票價(jià)格波動(dòng)，語(yǔ)言學(xué)中的單詞頻率以及大腦活動(dòng)中的信號(hào)幅度，這些事實(shí)也適用于AI不斷發(fā)展的領(lǐng)域，尤其是深度學(xué)習(xí)。

“在線學(xué)習(xí)中的測(cè)試錯(cuò)誤(每個(gè)示例僅接受一次培訓(xùn))與由大量紀(jì)元組成的最新算法(每個(gè)示例都經(jīng)過(guò)了多次培訓(xùn))非常一致。這一結(jié)果具有重要意義暗示著需要快速做出諸如機(jī)器人控制之類的決策。”負(fù)責(zé)這項(xiàng)研究的Bar-Ilan物理系和Gonda(Goldshmied)多學(xué)科大腦研究中心的Ido Kanter教授說(shuō)。他補(bǔ)充說(shuō)：“冪律定標(biāo)控制著不同的動(dòng)態(tài)規(guī)則和網(wǎng)絡(luò)體系結(jié)構(gòu)，可以在不同的檢查分類或決策問(wèn)題之間進(jìn)行分類和層次結(jié)構(gòu)的創(chuàng)建。”

這項(xiàng)研究的合著者，博士生Shira Sardi說(shuō)：“高級(jí)深度學(xué)習(xí)算法的重要組成部分之一是最近在實(shí)驗(yàn)神經(jīng)科學(xué)和高級(jí)人工智能學(xué)習(xí)算法之間建立了新的橋梁。”我們?cè)谏窠?jīng)元文化上進(jìn)行的新型實(shí)驗(yàn)表明，訓(xùn)練頻率的增加使我們能夠顯著加速神經(jīng)元適應(yīng)過(guò)程。另一位合著者之一的博士生尤瓦爾·梅爾(Yuval Meir)表示：“這種受大腦啟發(fā)的加速機(jī)制可以構(gòu)建優(yōu)于現(xiàn)有算法的高級(jí)深度學(xué)習(xí)算法。”

從物理和實(shí)驗(yàn)神經(jīng)科學(xué)到機(jī)器學(xué)習(xí)的重建橋梁有望在有限的訓(xùn)練示例下促進(jìn)人工智能，尤其是超快速?zèng)Q策的發(fā)展，從而有助于深度學(xué)習(xí)領(lǐng)域的理論框架的形成。