專家說，在黑客攻擊變得更加復(fù)雜的時(shí)候，固有偏見的人工智能程序可能會給網(wǎng)絡(luò)安全帶來嚴(yán)重問題。
根據(jù)IBM Security副總裁Aarti Borkar的說法，偏差可能發(fā)生在三個(gè)方面 - 程序，數(shù)據(jù)和設(shè)計(jì)這些AI系統(tǒng)的人。
人工智能的作用正在擴(kuò)展到網(wǎng)絡(luò)安全領(lǐng)域。許多CEO認(rèn)為網(wǎng)絡(luò)攻擊是未來十年全球經(jīng)濟(jì)面臨的最大威脅。
專家告訴CNBC，在黑客攻擊變得更加復(fù)雜的時(shí)候，固有偏見的人工智能程序可能會給網(wǎng)絡(luò)安全帶來嚴(yán)重問題。
根據(jù)IBM Security副總裁Aarti Borkar的說法，偏差可能發(fā)生在三個(gè)方面 - 程序，數(shù)據(jù)和設(shè)計(jì)這些AI系統(tǒng)的人。
“一個(gè)是算法本身，”她告訴CNBC，指的是教授AI程序執(zhí)行特定任務(wù)的代碼行。“它接近的方式是否有偏見，以及它試圖解決的結(jié)果?”
她解釋說，一個(gè)有偏見的計(jì)劃最終可能會關(guān)注錯(cuò)誤的優(yōu)先事項(xiàng)，并可能錯(cuò)過真正的威脅。
“如果你試圖解決錯(cuò)誤的結(jié)果，并且結(jié)果存在偏差，那么你的算法是有偏見的，”Borkar說。
人工智能的作用正在擴(kuò)展到網(wǎng)絡(luò)安全領(lǐng)域。許多CEO認(rèn)為網(wǎng)絡(luò)攻擊是未來十年全球經(jīng)濟(jì)面臨的最大威脅。
隨著數(shù)字威脅的不斷發(fā)展，防火墻和防病毒被視為古代的工具，黑客現(xiàn)在正在使用更先進(jìn)的技術(shù)，如AI，對企業(yè)發(fā)起復(fù)雜的攻擊。
一旦他們能夠破壞系統(tǒng)，許多攻擊者保持低調(diào)，這使得IT團(tuán)隊(duì)更難以檢測他們的存在。有些人會悄悄地在網(wǎng)絡(luò)上嗅聞敏感數(shù)據(jù)，而其他人可能會慢慢改變重要信息而沒有人注意到 - 專家說這種情況會隨著時(shí)間的推移而產(chǎn)生嚴(yán)重影響。
根據(jù)行業(yè)專業(yè)人士的說法，打擊這種情況需要依靠人工智能來構(gòu)建能夠自動(dòng)響應(yīng)威脅的安全系統(tǒng)。
事實(shí)上，科技巨頭微軟委托進(jìn)行的一項(xiàng)研究發(fā)現(xiàn)，75%接受調(diào)查的公司已采用或正在尋求采用人工智能的網(wǎng)絡(luò)安全計(jì)劃。
人工智能使我們能夠更快地了解問題所在，在人類難以處理所有數(shù)據(jù)的情況下，微軟網(wǎng)絡(luò)安全現(xiàn)場首席技術(shù)辦公室的Diana Kelley周二告訴CNBC的“Squawk Box”。
認(rèn)識到偏見
AI系統(tǒng)通常需要大量所謂的訓(xùn)練數(shù)據(jù)來學(xué)習(xí)它們的功能。
Borkar說，如果使用的數(shù)據(jù)存在偏差，那么人工智能將只了解世界的局部視圖，并根據(jù)這種狹隘的理解做出決策。
同樣，如果設(shè)計(jì)該計(jì)劃的人來自相似的文化或背景，并且心胸狹窄，那么認(rèn)知多樣性就會很低。
“那是你開始創(chuàng)建隧道視覺和回聲室的時(shí)候，”她補(bǔ)充道。
固有偏見可能導(dǎo)致AI系統(tǒng)錯(cuò)誤識別可能減慢業(yè)務(wù)流程，導(dǎo)致信任問題并影響公司底線的問題。在更大范圍內(nèi)，它也會影響公司的品牌。
Borkar補(bǔ)充說，更令人擔(dān)憂的是，它可能導(dǎo)致程序可能錯(cuò)過完全識別嚴(yán)重威脅的情況。
據(jù)她說，網(wǎng)絡(luò)安全威脅來自各方面，這使得它們“自然多樣化”，不偏不倚。
因此，公司需要“同樣多樣化且同樣不偏不倚的人工智能系統(tǒng) - 否則，一些東西會悄悄進(jìn)入，所以，這就是漏洞的來源，這就是你錯(cuò)過了什么......因?yàn)槟銢]有像對手那樣廣泛地思考， “ 她說。
盡管如此，微軟的Kelley解釋說，雖然可能很難完全消除固有的偏見，并且最大限度地減少這種情況“需要對AI提供的數(shù)據(jù)進(jìn)行規(guī)劃和仔細(xì)監(jiān)督”。
“這并不像壞人在等我們學(xué)習(xí)如何做到這一點(diǎn)。因此，我們到達(dá)的越快，越好(我們)，“Borkar補(bǔ)充道。
