今天的惡意黑客平均有312天的時間來利用“零日”計算機軟件漏洞，然后人類網(wǎng)絡安全專家才能找到并解決這些漏洞。美國軍方專注于破壞性技術的主要研究機構旨在了解人工智能是否能夠在幾秒鐘或幾分鐘內更好地發(fā)現(xiàn)和修復此類攻擊。
今年夏天，美國國防高級研究計劃局(DARPA)網(wǎng)絡大挑戰(zhàn)賽的七支決賽隊伍 將與AI系統(tǒng)展開激戰(zhàn)，這些系統(tǒng)可以通過積極發(fā)現(xiàn)和修復軟件漏洞，自主掃描競爭對手的網(wǎng)絡服務器以獲取漏洞并保護自己的服務器。直接獎勵的形式是首獎200萬美元，第二名100萬美元，第三名750,000美元。但從長遠來看，DARPA希望挑戰(zhàn)結果將證明自主AI系統(tǒng)已經(jīng)足夠能夠幫助人類在永無止境的斗爭中保護計算機軟件和網(wǎng)絡。
DARPA網(wǎng)絡大挑戰(zhàn)賽的項目經(jīng)理Mike Walker在7月13日舉行的電話會議新聞發(fā)布會上說：“他們將直接進行現(xiàn)場直播。”我們希望看到證據(jù)證明應對漏洞的整個計算機安全周期可以實現(xiàn)自動化。“
今天的網(wǎng)絡安全防御主要依靠人工團隊手動掃描崩潰報告，試圖找出他們需要修復的問題; 當計算機故障產生數(shù)百或數(shù)千個錯誤報告時，這個過程變得異常繁瑣。一些技術巨頭如微軟已經(jīng)開始開發(fā)軟件程序，可以自動發(fā)現(xiàn)問題并生成這樣的錯誤報告。
但DARPA試圖提高自動化AI系統(tǒng)如何找到和停止攻擊的標準。美國軍方希望這種自動化系統(tǒng)可以大大加快軟件補丁的開發(fā)和應用時間，以修復軟件漏洞。此外，自動化系統(tǒng)可以幫助監(jiān)控整個軟件系統(tǒng)，而不是僅僅依靠人工專家來檢查出現(xiàn)問題時的崩潰報告。
七個入圍團隊獲得了高性能計算硬件，以開發(fā)他們的AI“網(wǎng)絡推理”系統(tǒng)。8月4日，在拉斯維加斯舉行的為期10小時的網(wǎng)絡大挑戰(zhàn)賽決賽期間，他們將退后一步觀看人工智能系統(tǒng)相互競爭。
當決賽開始時，每個AI競爭者都會發(fā)現(xiàn)自己處于一個運行已知協(xié)議并涉及以前未經(jīng)審查的計算機代碼的網(wǎng)絡中。這意味著AI系統(tǒng)在開始發(fā)現(xiàn)漏洞之前需要學習網(wǎng)絡的軟件語言和邏輯。
為了攻擊競爭對手，AI競爭對手將首先掃描其網(wǎng)絡服務器中的漏洞。如果他們發(fā)現(xiàn)漏洞，他們將不得不告訴DARPA裁判有關漏洞并預測何時可能發(fā)生此類軟件崩潰。沃克說，這就像一個叫臺球的臺球選手，比如“七球，角落口袋” - 在他或她排隊的球場提示射擊之前。AI競爭對手通過證明競爭對手的這些漏洞贏得積分，如果他們無法保護自己的服務器免受此類模擬攻擊，則會失去積分。
AI競爭對手還必須同時創(chuàng)建自己的網(wǎng)絡防御，以保護其服務器免受競爭對手的侵害。沃克解釋說，這種網(wǎng)絡安全防御可以使用兩種策略。首先，您可以創(chuàng)建一個通用的“二進制裝甲”，以防止對網(wǎng)絡服務器任何部分的一般威脅。這種方法的缺點是它在運行其通常的計算任務時會降低服務器軟件的速度。沃克說：“人們希望計算機是安全的，但不希望它以兩小時的時間發(fā)送電子郵件為代價。”
第二種防御策略包括找到軟件缺陷并使用針對這些問題量身定制的特定補丁來修復它們。對于AI競爭對手而言，這種逆向工程和問題的“點修補”更具挑戰(zhàn)性。但是，在2015年6月舉行的網(wǎng)絡大挑戰(zhàn)賽的前幾輪資格賽中，由決賽隊伍開發(fā)的人工智能系統(tǒng)確實產生了這樣的補丁。沒有個別競爭對手在資格賽期間成功找到所有590個軟件缺陷，但他們一起發(fā)現(xiàn)所有戰(zhàn)功。
但是，如果這樣的網(wǎng)絡安全AI系統(tǒng)可以用于惡意目的，例如尋找攻擊并發(fā)起網(wǎng)絡攻擊，該怎么辦?作為一個柜臺，Cyber?? Grand Challenge的結果和競爭對手的軟件將成為公共領域的開源。開源軟件使得在線社區(qū)發(fā)現(xiàn)和修復任何漏洞或攻擊的可能性更大，而不是隱藏在公眾知識之外。這種開放性是沃克所描述的“開放安全革命”方法的關鍵，這種方法可以最大限度地減少這種技術的“惡意濫用”。
在網(wǎng)絡大挑戰(zhàn)賽決賽開始之前，沃克不想推測這種人工智能系統(tǒng)在網(wǎng)絡安全方面的未來能力。但他指出，商業(yè)軟件的任何網(wǎng)絡安全改進也會使美國軍方受益，因為后者普遍依賴這種現(xiàn)成產品。
“我們將在21天內進行科學實驗和生存能力實驗，因此我會更加準備推測，”沃克說。“說實話，在我們說它存在并推測未來發(fā)展之前，我們試圖證明自治。”
即使是DARPA網(wǎng)絡大挑戰(zhàn)中令人信服的勝利也只是這種人工智能系統(tǒng)的第一步。決賽團隊已經(jīng)口頭同意其中的獲勝者將參加類似的“奪旗”競賽，該競賽將在8月份同時在拉斯維加斯舉行的世界最大的黑客大會之一DEF CON 2016上與人類黑客進行競爭。 。這標志著自動機器第一次在桌面上對抗人類專家。