包括Facebook，Twitter和Pinterest在內的社交網絡都可以利用AI和機器學習系統來檢測和刪除濫用內容，就像LinkedIn一樣。微軟擁有的平臺擁有6.6億用戶，其中每月有3.03億活躍。今天，該平臺詳細介紹了其處理包含不當內容的配置文件的方法，從褻瀆到非法服務廣告。

正如軟件工程師Daniel Gorham在博客文章中所解釋的那樣，LinkedIn最初依賴于阻止列表(一組違反其服務條款和社區(qū)準則的人工編寫的單詞和短語)來識別和刪除潛在的欺詐性帳戶。但是，對其進行維護需要大量的工程工作，并且列表往往無法很好地處理上下文。(例如，雖然“護送”一詞有時與賣淫有關，但它也用于“安全護送”或“醫(yī)療護送”等語境中。)

這激勵了LinkedIn采取一種涉及卷積神經網絡的機器學習方法，卷積神經網絡是一類通常應用于圖像分析的算法，并接受了公開會員資料內容的培訓。有問題的內容包含標記為“不適當”或“適當”的帳戶，其中前者包括由于使用阻止列表和手動審核發(fā)現的不適當內容而刪除的帳戶。Gorham指出，只有每個帳戶的“很小”部分都受到這種限制，這需要從整個LinkedIn成員庫中進行下采樣才能獲得帶有“適當”標簽的帳戶，并避免算法偏差。

為了進一步減少偏見，LinkedIn確定了造成大量誤報的有問題的單詞，并從包含這些單詞的成員庫中抽取了適當的帳戶。然后，對帳戶進行人工標記并添加到訓練集中，然后對模型進行訓練并將其部署到生產中。

戈勒姆說，濫用帳戶檢測器每天會為新帳戶評分，并且該帳戶檢測器是在現有成員基礎上運行的，以識別包含不適當內容的舊帳戶。展望未來，LinkedIn打算使用Microsoft翻譯服務來確保所有語言的一致性能，并完善和擴展培訓集以擴大其能夠在模型中識別的內容范圍。

“檢測和防止LinkedIn上的濫用是一項持續(xù)不斷的工作，需要多個團隊之間的廣泛合作，” Gorham寫道。“以有效，可擴展的方式查找和刪除包含不適當內容的配置文件是我們不斷努力提供安全專業(yè)平臺的一種方式。”

LinkedIn對AI的使用不僅限于濫用內容檢測。在2019年10月，它拉開了模型的帷幕，該模型會自動生成上傳到LinkedIn的圖像的文本描述，這是使用Microsoft的認知服務平臺和獨特的LinkedIn衍生數據集實現的。另外，其“ 推薦候選人”功能可學習給定角色的招聘條件，并在專用選項卡中自動顯示相關候選人。其AI驅動的搜索引擎利用數據，例如人們在個人資料上發(fā)布的內容以及候選人進行的搜索以生成最適合工作和求職者的預測。