飛機可接受的故障率是多少?好吧，這不是零 ……無論我們多么想相信其他方式。有一個數(shù)字，但它是一個很小的數(shù)字。在機器，計算機，人工智能等方面，它們是不完美的。會犯錯誤。推薦不當。人工智能永遠不會完美。這并不意味著它們不提供價值。人們需要了解機器為什么會出錯，并據(jù)此設定自己的信念。這意味著了解AI失敗的三個關鍵領域：隱性偏見，不良數(shù)據(jù)和期望。
第一個挑戰(zhàn)是隱性偏見，即人們對云的思想和行為的無意識感知?？紤]一下，最近關于種族正義和警察暴行的抗議活動以及“ 黑人生活至關重要”的有力信息。《福布斯》(Forbes)文章AI屈膝：法律下的改善平等待遇的行動，很好地說明了隱性偏見如何在歧視中發(fā)揮作用，以及使用AI減少對我們的偏見有多困難(但并非不可能)執(zhí)法和司法系統(tǒng)。人工智能向人學習。如果隱性偏見正在訓練中，則AI將學習該偏見。此外，當AI執(zhí)行工作時，該工作將反映這種偏見……即使該工作是為了社會公益。
以Allegheny家庭篩選工具為例。它旨在預測哪些福利兒童可能會受到養(yǎng)父母虐待的威脅。但是，此解決方案的最初推出面臨一些挑戰(zhàn)。當?shù)氐娜祟惙詹砍姓J該工具可能存在種族和收入偏見。疏忽之類的誘因常常被生活在貧困中的寄養(yǎng)父母與注意力不集中或虐待相聯(lián)系而混淆或誤解。自從學習了這些問題以來，采取了巨大的措施來減少e篩選工具中的隱性偏差。消除困難得多。當談到偏見時，人們?nèi)绾翁幚砦粗奈粗獢?shù)?如何處理社會環(huán)境?“正確”或“公平”行為是什么意思?如果人們無法識別，定義和解決這些問題，那么他們將如何教機器?這是一個主要的驅(qū)動程序，由于隱性偏見，AI將是不完美的。
第二個挑戰(zhàn)是數(shù)據(jù)。數(shù)據(jù)是人工智能的動力。機器通過大量的真實數(shù)據(jù)(即如何制定決策的規(guī)則，而不是決策本身)進行訓練，并從大量大數(shù)據(jù)中進行訓練，以學習數(shù)據(jù)中的模式和關系。如果我們的數(shù)據(jù)不完整或有缺陷，那么人工智能將無法很好地學習?？紤]COVID-19。約翰·霍普金斯(John Hopkins)，COVID追蹤項目，美國疾病控制中心(CDC)和世界衛(wèi)生組織全部報告不同的數(shù)字。有了這樣的變化，人工智能很難從數(shù)據(jù)中閃現(xiàn)出有意義的模式，更不用說找到那些隱藏的見解了。更具挑戰(zhàn)性的是，不完整或錯誤的數(shù)據(jù)該怎么辦?想象一下，教一個關于醫(yī)療保健的AI，但只提供有關女性健康的數(shù)據(jù)。這阻礙了我們?nèi)绾卧卺t(yī)療保健中使用人工智能。
隨之而來的挑戰(zhàn)是人們可能會提供過多的數(shù)據(jù)。這可能無關緊要，毫無意義，甚至會分散注意力。考慮一下IBM是何時讓Watson閱讀《城市詞典》的，然后它無法區(qū)分何時使用普通語言還是使用語和罵人的單詞。問題變得如此嚴重，以至于IBM必須從Watson的內(nèi)存中刪除Urban Dictionary。同樣，一個AI系統(tǒng)需要聽大約1億個單詞才能流利使用一種語言。然而，一個人類孩子似乎只需要大約1500萬個單詞就能流利。這意味著我們可能不知道什么數(shù)據(jù)有意義。因此，AI培訓師可能實際上專注于多余的信息，這可能導致AI浪費時間，甚至更糟的是識別錯誤的模式。
第三個挑戰(zhàn)是期望。即使人類犯錯，人們?nèi)匀幌Ｍ麢C器是完美的。在醫(yī)療保健領域，專家估計誤診率可能高達20%，這意味著五分之一的患者有可能被誤診。考慮到這些數(shù)據(jù)以及AI輔助診斷的錯誤率可能為十萬分之一，大多數(shù)人仍然喜歡只看人類醫(yī)生。為什么?給出的最常見原因之一是AI的誤診率太高(即使它比人類醫(yī)生低得多)。人們期望AI完美。人們甚至期望人類AI培訓師也很完美，甚至有可能變得更糟。
2016年3月23日，微軟發(fā)布了Twitter機器人Tay(對您的想法)。微軟已經(jīng)對AI進行了培訓，使其達到了一名19歲美國女孩的語言水平和互動能力。在一次盛大的社交實驗中，Tay被釋放到全世界。96,000條推文之后，微軟不得不在發(fā)布后約16小時關閉Tay，因為它轉(zhuǎn)變了性別歧視，種族主義并促進了納粹主義。遺憾的是，有些人決定教Tay有關煽動性語言的內(nèi)容，以使其腐化。同時，Microsoft并未考慮教Tay有關不當行為的信息，因此沒有任何理由(或理由)知道諸如不當行為和惡意意圖之類的東西。盛大的社會實驗導致失敗，可悲的是，這可能更多地證明了人類社會，而不是人工智能的局限性。
內(nèi)隱的偏見，不良的數(shù)據(jù)以及人們的期望表明，人工智能將永遠不會是完美的。這不是許多人希望擁有的神奇的解決方案。人工智能仍然可以為人類做一些非凡的事情，如恢復失去肢體的活動能力或在減少資源的情況下改善糧食生產(chǎn)。人們不應該折衷我們可以得到的價值。我們應該永遠記住：AI就像我們一樣，是不完美的。
