微軟呼吁美國政府介入并規(guī)范面部識別技術(shù)的使用。Chris Middleton解釋了原因。

“所有工具都可以用于好或壞。微軟總裁布拉德史密斯在周五晚上(7月13日)的博客文章中寫道，即使是一把掃帚也可以用來掃地或打人頭。

但史密斯并不是在談?wù)撉鍧嵎课?- 至少不是傳統(tǒng)意義上的。他指的是面部識別系統(tǒng)，以及他們被私人公司和公共機構(gòu)使用和濫用的可能性。

“面部識別技術(shù)提出了基本人權(quán)保護的核心問題，如隱私和言論自由，”他繼續(xù)說道。“這些問題加劇了創(chuàng)建這些產(chǎn)品的科技公司的責(zé)任。”

解決這項技術(shù)潛在的大規(guī)模濫用問題的解決方案是微軟稱之為“深思熟慮的政府監(jiān)管”而不是供應(yīng)商自我監(jiān)管，以及制定可接受使用的新規(guī)范。

史密斯呼吁“政府采取行動，規(guī)范面部識別技術(shù)的正確使用，首先由兩黨和專家委員會通報”。

新的背景

那么是什么促使微軟要求美國政府監(jiān)管技術(shù)部門，以及自己使用產(chǎn)品?或者，從另一個角度來看，尋求兩黨共識和補救措施?

最近一個月出現(xiàn)了一些關(guān)于面部識別在執(zhí)法中越來越多使用的新聞報道 - 特別是在與少數(shù)民族公民打交道時，錯誤識別和偏見的風(fēng)險增加。

“科技行業(yè)的研究人員正在加班加點以應(yīng)對這些挑戰(zhàn)，并且正在取得重大進展，”史密斯寫道。“但正如 重要研究表明的那樣，缺陷仍然存在。該技術(shù)的相對不成熟使得更廣泛的公眾問題變得更加緊迫。“

商業(yè)聯(lián)盟最近報道了兩名美國警察使用亞馬遜的實時重新識別系統(tǒng)，以及英國警方自己使用該技術(shù)造成的不良結(jié)果的爭議：2%的成功率和零逮捕。

但微軟表示，這些問題只是問題的一部分：急于使用這項技術(shù)是我們努力創(chuàng)造的世界的核心所在。史密斯寫道，這項技術(shù)“不再脫離社會”。“它正在我們的個人和職業(yè)生活中深深融入。”

史密斯承認(rèn)，面部識別的一些新興用途是積極的和變革性的，但是公眾監(jiān)督，政治監(jiān)控，甚至零售商未經(jīng)同意共享客戶數(shù)據(jù)的風(fēng)險應(yīng)該迫使我們問：我們想要這些技術(shù)的作用是什么在我們的社會中發(fā)揮?

由自己的花瓣提升

但是微軟本身在做什么，因為它可以解決問題的一部分?

最近關(guān)于微軟與美國移民和海關(guān)執(zhí)法局(ICE)的關(guān)系的爭議不僅僅是因為全球?qū)δ鞲邕吘车膬和c父母分離的反感，而且還與對可能歧視性地使用面部識別的擔(dān)憂有關(guān)。通過ICE未來。

正如谷歌最近對道德人工智能開發(fā)的承諾是由員工反對其與五角大樓的Project Maven交易而引發(fā)的，因此微軟關(guān)于面部識別的公開聲明似乎受到了自己與ICE相關(guān)的強烈反對的刺激。

“有問題的合同根本沒有被用于面部識別，”史密斯用一個值得注意的，防御性的聲音寫道。“微軟也沒有與美國政府就任何與邊境兒童與家人分離有關(guān)的項目進行合作，我們強烈反對這種做法。

“合同下的工作取而代之的是支持舊電子郵件，日歷，消息傳遞和文檔管理工作負(fù)載。這種類型的IT工作在美國的每個政府機構(gòu)中進行，對于這個問題，幾乎每個政府，企業(yè)和非營利機構(gòu)都在世界各地。

“但有些人建議微軟取消合同并停止與ICE的所有合作。”

顯然，微軟無意這樣做 - 或者至少，史密斯在這一點上放棄了這個主題，而是選擇將一些微軟的主要競爭對手引入更廣泛的爭議：

“[這些問題]今年早些時候出現(xiàn)在谷歌和其他科技公司。最近幾周，一群亞馬遜員工反對與ICE簽訂合同，同時重申美國公民自由聯(lián)盟(ACLU)對執(zhí)法使用面部識別技術(shù)的擔(dān)憂。Salesforce員工提出了與移民當(dāng)局和這些機構(gòu)使用其產(chǎn)品相關(guān)的相同問題。

“越來越多的技術(shù)公司需要限制政府機構(gòu)使用面部識別和其他技術(shù)的方式。”

但是，當(dāng)然，供應(yīng)商可以簡單地拒絕從他們認(rèn)為違反自己聲明的價值的部署中賺錢。但目前有五百億美元的五角大樓云計算合同可供爭奪，他們中的任何一個都會走開嗎?

但問題本身并沒有消失，史密斯說，并補充說這使得“我們利用這個時刻來確定方向更為重要”。