歐盟威脅要對(duì)大型高科技公司處以罰款，前提是大型高科技公司沒有在出現(xiàn)在網(wǎng)上的一小時(shí)內(nèi)刪除恐怖分子的內(nèi)容。之所以發(fā)生這種變化，是因?yàn)榫o張局勢(shì)正在發(fā)展，并且正在社交媒體平臺(tái)上播放。
曾經(jīng)在幕后會(huì)議中積累并在城市街道上席卷而來的社會(huì)沖突，現(xiàn)在在社交媒體平臺(tái)上積蓄了勢(shì)頭，然后才蔓延到現(xiàn)實(shí)生活中。過去，政府傾向于控制傳統(tǒng)媒體，而個(gè)人傳播仇恨的可能性很小甚至沒有。
數(shù)字革命改變了一切。
恐怖主義組織，最著名的是伊斯蘭國(ISIS)武裝分子，已使用 Facebook，Instagram和Twitter等社交媒體平臺(tái)進(jìn)行宣傳，并計(jì)劃了針對(duì)平民的恐怖襲擊。
包括德國的反難民極端分子在內(nèi)的極右翼團(tuán)體也越來越多地利用技術(shù)平臺(tái)來擁護(hù)反移民的觀點(diǎn)并妖魔少數(shù)群體。
從斯里蘭卡到緬甸，在線上引發(fā)的社區(qū)緊張局勢(shì)導(dǎo)致了暴力。
由于西方國家越來越多的政治意愿來規(guī)范社交媒體公司，因此許多技術(shù)巨頭爭(zhēng)辯說他們可以自我調(diào)節(jié)，而人工智能(AI)是減少在線仇恨的主要工具之一。幾年前，我們創(chuàng)建了“防止大規(guī)模暴行數(shù)字實(shí)驗(yàn)室”，致力于改善公共政策，以遏制暴力極端分子對(duì)技術(shù)平臺(tái)的利用。
超賣能力?
科技公司痛苦地意識(shí)到其平臺(tái)的惡意使用。
2017年6月，F(xiàn)acebook，微軟，Twitter和YouTube宣布成立反恐全球互聯(lián)網(wǎng)論壇，旨在破壞在線極端主義活動(dòng)。然而，隨著消除有害在線內(nèi)容的政治壓力越來越大，這些公司開始意識(shí)到其人類內(nèi)容主持人的局限性。
相反，他們?cè)絹碓蕉嗟亻_發(fā)和部署AI技術(shù)，以自動(dòng)執(zhí)行不需要的內(nèi)容檢測(cè)和刪除過程。但是他們這樣做是在沒有監(jiān)督的情況下進(jìn)行的，而且很少有關(guān)于這些AI系統(tǒng)如何工作的公共信息，這是公共政策論壇在最近的一份報(bào)告中指出的問題。
根據(jù)其最新的透明度報(bào)告，Twitter聲稱其在2017年上半年使用AI刪除了超過300,000個(gè)與恐怖主義有關(guān)的帳戶。
Facebook本身承認(rèn)，在圍繞仇恨言論的問題上，它正在努力有效地利用AI。首席執(zhí)行官馬克·扎克伯格(Mark Zuckerberg)今年早些時(shí)候告訴美國國會(huì)議員，人工智能仍然在努力解決語言方言，語境以及聲明是否符合仇恨言論的細(xì)微差別，并且可能需要花費(fèi)多年的時(shí)間才能解決。
但是，該公司還聲稱能夠使用AI驅(qū)動(dòng)的算法和人工內(nèi)容主持人，刪除ISIS和基地組織附屬內(nèi)容的99%。人工智能還是人類是公司成功聲明的關(guān)鍵，尚未進(jìn)行獨(dú)立調(diào)查。
人工智能的失敗
2017年，有250家公司因涉嫌未能控制YouTube極端主義內(nèi)容而暫停與Google的廣告合同。一年后，Google廣告和商務(wù)高級(jí)副總裁Sridhar Ramaswamy表示，該公司在平臺(tái)安全方面取得了長足進(jìn)步，以重拾客戶失去的信心。
但是，NGO反極端主義項(xiàng)目最近的一項(xiàng)研究駁斥了該公司限制和刪除極端主義視頻的努力的有效性。鑒于這項(xiàng)研究發(fā)現(xiàn)，超過90%的ISIS視頻被上傳了多次，并且未對(duì)違反公司服務(wù)條款的帳戶采取任何措施，因此YouTube需要提高透明度和問責(zé)制。
顯然，沒有簡(jiǎn)單的前進(jìn)道路。刪除無害，冒犯，極端主義或非法的內(nèi)容，即使這些內(nèi)容令人反感，也妨礙了言論自由。在某些情況下，使用AI刪除內(nèi)容會(huì)阻止人權(quán)捍衛(wèi)者發(fā)布的合法材料。
例如，2017年，人權(quán)活動(dòng)家莎·侯賽因(Shah Hossain)發(fā)現(xiàn)他在Facebook上有關(guān)迫害緬甸羅興亞少數(shù)民族的大量帖子被刪除。YouTube還刪除了他的新聞?lì)l道，該頻道有近80,000個(gè)訂閱者。侯賽因在記錄侵犯人權(quán)行為，而不是仇恨行為。
在敘利亞，獨(dú)立新聞受到戰(zhàn)爭(zhēng)的嚴(yán)格限制，激進(jìn)分子在網(wǎng)上發(fā)布的視頻和照片對(duì)于了解該國的局勢(shì)至關(guān)重要。然而，為了打擊極端主義內(nèi)容，YouTube的AI驅(qū)動(dòng)算法刪除了數(shù)千個(gè)針對(duì)平民的暴行視頻。錄像帶被發(fā)布，以作為最終起訴敘利亞官員危害人類罪的證據(jù)。這很麻煩。
向前進(jìn)
知名的社交媒體巨頭公開表示，他們將投入更多資源來監(jiān)管其平臺(tái)。但是，鑒于當(dāng)前的結(jié)果，是時(shí)候考慮這種方法是否合乎道德和有效。
英國，法國，德國，歐盟和美國等已開始公開討論和實(shí)施有關(guān)高科技行業(yè)的監(jiān)管措施，不僅涉及恐怖主義和仇恨言論，而且還涉及數(shù)字選舉干擾，傳播虛假新聞和虛假宣傳活動(dòng)。
加拿大已經(jīng)開始認(rèn)真對(duì)待這一問題，在加拿大全球事務(wù)部成立了數(shù)字融合實(shí)驗(yàn)室，致力于加強(qiáng)七國集團(tuán)的共同努力。
這些是非常需要的舉措。大型科技巨頭一直在夸大AI在對(duì)抗其平臺(tái)上的仇恨方面的有效性。我們的民主和開放社會(huì)必須拋棄人工智能是解決眼前問題的靈丹妙藥的觀念。除非民選官員監(jiān)管大科技公司，否則社會(huì)兩極分化和日益增長的不信任將繼續(xù)存在。