研究人員發(fā)現(xiàn)，由AI生成的評(píng)論和評(píng)論對(duì)消費(fèi)者構(gòu)成了重大威脅，但是機(jī)器學(xué)習(xí)可以幫助發(fā)現(xiàn)假貨。

TripAdvisor，Yelp和Amazon等網(wǎng)站會(huì)顯示用戶對(duì)產(chǎn)品和服務(wù)的評(píng)論。消費(fèi)者要注意：十分之九的人閱讀了這些同行評(píng)價(jià)并相信他們所看到的。實(shí)際上，多達(dá)40%的用戶決定僅根據(jù)幾條評(píng)論進(jìn)行購(gòu)買，而出色的評(píng)論會(huì)使人們?cè)谫?gòu)買上花費(fèi)30%以上。

但是，并非所有評(píng)論都是合法的。真實(shí)的人撰寫的虛假評(píng)論在評(píng)論網(wǎng)站上已經(jīng)很普遍，但是機(jī)器產(chǎn)生的假貨數(shù)量可能會(huì)大大增加。

根據(jù)阿爾托大學(xué)的博士生Mika Juuti所說，如今基于算法的虛假評(píng)論易于生成，準(zhǔn)確且快速。大多數(shù)時(shí)候，人們無(wú)法分辨真實(shí)的和機(jī)器生成的虛假評(píng)論之間的區(qū)別。

“行為不當(dāng)?shù)墓究梢試L試通過人為地創(chuàng)造正面的品牌形象或通過對(duì)競(jìng)爭(zhēng)對(duì)手進(jìn)行虛假的負(fù)面評(píng)論來(lái)促進(jìn)銷售。當(dāng)然，動(dòng)機(jī)是金錢：在線評(píng)論對(duì)于旅游目的地，酒店，服務(wù)提供商而言是一項(xiàng)大業(yè)務(wù)和消費(fèi)產(chǎn)品。” Mika Juuti說。

2017年，芝加哥大學(xué)的研究人員描述了一種使用Yelp上的300萬(wàn)個(gè)真實(shí)餐廳收視率數(shù)據(jù)集來(lái)訓(xùn)練機(jī)器學(xué)習(xí)模型，即深度神經(jīng)網(wǎng)絡(luò)的方法。訓(xùn)練后，模型會(huì)逐個(gè)字符地生成假餐廳評(píng)論。

但是，該方法略有打ic。很難停留在話題上。對(duì)于拉斯維加斯的一家日本餐廳的評(píng)論，該模型可以引用巴爾的摩的一家意大利餐廳。這些錯(cuò)誤當(dāng)然很容易被讀者發(fā)現(xiàn)。

為了幫助評(píng)論生成者留下深刻的印象，Juuti和他的團(tuán)隊(duì)使用了一種稱為神經(jīng)機(jī)器翻譯的技術(shù)來(lái)使模型具有上下文感。他們使用“評(píng)論等級(jí)，餐廳名稱，城市，州和食物標(biāo)簽”的文字序列，開始獲得令人信服的結(jié)果。

Juuti說：“在我們進(jìn)行的用戶研究中，我們向參與者展示了由人類撰寫的真實(shí)評(píng)論和由機(jī)器生成的虛假評(píng)論，并要求他們識(shí)別出虛假的內(nèi)容。多達(dá)60%的虛假評(píng)論被錯(cuò)誤地認(rèn)為是真實(shí)的。”

然后，Juuti和他的同事設(shè)計(jì)了一個(gè)分類器，可以發(fā)現(xiàn)假貨。結(jié)果證明分類器表現(xiàn)良好，尤其是在人類評(píng)估人員很難判斷評(píng)論是否真實(shí)的情況下。

這項(xiàng)研究是與阿爾托大學(xué)的安全系統(tǒng)研究小組以及日本早稻田大學(xué)的研究人員合作進(jìn)行的。它在9月的2018年歐洲計(jì)算機(jī)安全研究研討會(huì)上進(jìn)行了介紹。