與預(yù)防疾病疫苗相同的編程技術(shù)可以保護(hù)機(jī)器學(xué)習(xí)系統(tǒng)免受惡意網(wǎng)絡(luò)攻擊。該技術(shù)由澳大利亞國(guó)家科學(xué)機(jī)構(gòu)CSIRO的數(shù)字專(zhuān)家組開(kāi)發(fā)，最近在美國(guó)加利福尼亞州長(zhǎng)灘舉行的機(jī)器學(xué)習(xí)國(guó)際會(huì)議上發(fā)表。

機(jī)器學(xué)習(xí)系統(tǒng)或神經(jīng)網(wǎng)絡(luò)在現(xiàn)代社會(huì)中變得越來(lái)越普遍，在現(xiàn)代社會(huì)中，它們被廣泛應(yīng)用于交通管理，醫(yī)療診斷和農(nóng)業(yè)等領(lǐng)域。它們也是自動(dòng)駕駛汽車(chē)的關(guān)鍵部件。

它們?cè)诔跏加?xùn)練階段運(yùn)行，在該階段中，它們被饋送給定任務(wù)的數(shù)萬(wàn)次可能的迭代。然后，由此產(chǎn)生的算法具有學(xué)習(xí)的能力 - 增加其自身的可能性并相應(yīng)地采取行動(dòng)，而無(wú)需進(jìn)一步的人為輸入。

然而，盡管它們是高效的，機(jī)器傾斜系統(tǒng) - 像任何計(jì)算機(jī)驅(qū)動(dòng)的機(jī)制 - 仍然容易受到黑客攻擊。發(fā)生這種情況的主要方式是引入“噪聲” - 干擾和扭曲輸入信號(hào)的附加數(shù)據(jù)點(diǎn) - 這樣外部元素就會(huì)被錯(cuò)誤分類(lèi)。

該方法在業(yè)務(wù)術(shù)語(yǔ)中稱為將“對(duì)抗性示例”引入系統(tǒng)。通過(guò)添加噪聲(并且通常不是非常大的噪聲)，可以將機(jī)器學(xué)習(xí)算法誤導(dǎo)為將熊貓的圖像分類(lèi)為長(zhǎng)臂猿的圖像。

更有針對(duì)性的是，鑒于自動(dòng)駕駛汽車(chē)的興起，他們可以被黑客攻擊并說(shuō)服將停車(chē)標(biāo)志歸類(lèi)為綠色交通燈。

使機(jī)器學(xué)習(xí)系統(tǒng)具有抗破壞性是一個(gè)生動(dòng)的研究領(lǐng)域，最近的研究發(fā)現(xiàn)，現(xiàn)實(shí)世界的例子很容易被使用，而不是使用比智能手機(jī)相機(jī)更復(fù)雜的東西。

由Richard Nock領(lǐng)導(dǎo)的研究人員采用的最新方法從公共衛(wèi)生中獲得了啟發(fā)。

在醫(yī)學(xué)上，接種疫苗的做法取決于將身體的免疫系統(tǒng)暴露于病原體的弱或死版本(例如導(dǎo)致流感或脊髓灰質(zhì)炎的病毒)的合理想法，促使特定抗體的發(fā)展。然后免疫系統(tǒng)“記住”病原體，以便下次遇到它時(shí) - 全力和真實(shí) - 它會(huì)識(shí)別它并立即消除它。

Nock和同事以同樣的方式接近他們的任務(wù)。

“我們的新技術(shù)使用類(lèi)似于疫苗接種的過(guò)程來(lái)防止對(duì)抗性攻擊，”他解釋道。

“我們實(shí)施對(duì)手的弱版本，例如對(duì)圖像集合的小修改或失真，以創(chuàng)建更”困難“的訓(xùn)練數(shù)據(jù)集。當(dāng)算法針對(duì)暴露于小劑量失真的數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，得到的模型更加強(qiáng)大并且不受對(duì)抗性攻擊。“

該方法仍處于早期階段，尚未在真實(shí)情況下針對(duì)真正的惡意入侵企圖進(jìn)行測(cè)試，但結(jié)果很有希望。它們?cè)诖颂幪峁┑念A(yù)印紙中詳細(xì)描述。

雖然顯然需要進(jìn)行更多的檢測(cè)，但現(xiàn)階段沒(méi)有證據(jù)表明疫苗接種可能會(huì)導(dǎo)致計(jì)算機(jī)自閉癥。