隨著圖片和視頻上越來越多地使用人工智能(AI)，“ deepfake”內(nèi)容已在Internet上變得非常普遍。盡管這些內(nèi)容中的許多內(nèi)容都是為了娛樂和娛樂而制作的，但對于那些不太了解信息的人群，這些內(nèi)容仍然可能成為錯誤信息的來源。因此，為了通過“深造”圖像和視頻來對抗錯誤信息和虛假新聞的傳播，Microsoft開發(fā)了一種工具，可以檢測AI制作的圖像和視頻。

由總部位于雷德蒙德(Redmond)的軟件巨頭的研發(fā)部門開發(fā)的“視頻身份驗證器”工具可以分析圖像和視頻，并檢測它們是虛構(gòu)的還是真實的。該工具研究視頻和圖像，并為它們提供“百分比機(jī)會或置信度分?jǐn)?shù)”。

“今天，我們宣布了Microsoft Video Authenticator。Video Authenticator可以分析靜態(tài)照片或視頻，以提供媒體被人為操縱的機(jī)會或置信度分?jǐn)?shù)。” 微軟的高管在官方博客中寫道。

據(jù)微軟稱，在分析視頻的情況下，該工具將實時為視頻的每一幀提供“百分比機(jī)會”。

盡管檢測AI操縱的媒體可能很困難，但該公司表示，該工具 “通過檢測可能無法被人眼察覺的Deepfake和細(xì)微褪色或灰度元素的混合邊界來工作。”

現(xiàn)在，進(jìn)入一些技術(shù)細(xì)節(jié)，“視頻身份驗證器”工具是使用FaceForesnics ++的公共數(shù)據(jù)集開發(fā)的。然后在DeepFake檢測挑戰(zhàn)數(shù)據(jù)集上對其進(jìn)行了測試。根據(jù)微軟的說法，這兩個是 “用于訓(xùn)練和測試深度檢測技術(shù)的領(lǐng)先模型”。

總部位于雷德蒙德的巨人正在與舊金山的AI基金會合作以分發(fā)該工具。隨著該工具的推出，該公司旨在防止錯誤信息的傳播，特別是在美國大選之前。

因此，該工具“最初只能在RD2020 [Reality Defender 2020]上使用，它將通過任何Deepfake檢測技術(shù)固有的局限性和道德考量來指導(dǎo)組織。” 。因此，它將分發(fā)給競選活動的組織者以及涉及政治新聞的新聞和媒體。