Facebook已開始利用人工智能技術(shù)，以阻止恐怖分子利用其網(wǎng)絡(luò)進行相關(guān)活動。
周四，公司官員在一篇博客文章中表示，F(xiàn)acebook將通過人工審閱和人工智能技術(shù)，確保宣揚恐怖主義的內(nèi)容在還沒接觸到其瀏覽者之前就遭屏蔽。
Facebook和Youtube在早前就已經(jīng)利用了相關(guān)技術(shù)來屏蔽兒童色情內(nèi)容。但在此之前，F(xiàn)acebook一直不愿意將這一技術(shù)應(yīng)用到其他不那么黑白分明的內(nèi)容上。在大多數(shù)情況下，F(xiàn)acebook只有在用戶舉報時才刪除那些令人反感的內(nèi)容。
政府已向Facebook和其他互聯(lián)網(wǎng)公司不斷施壓，要求它們阻止恐怖主義組織在其網(wǎng)頁上發(fā)布宣揚恐怖主義或是“征兵”廣告。本月早些時候，英國首相特雷莎·梅呼吁各國政府簽署國際協(xié)議，以防止極端主義在網(wǎng)絡(luò)上蔓延。一些提議的措施將要求公司對其網(wǎng)站上發(fā)布的資料負法律責(zé)任。
Facebook全球政策主管BrianFishman發(fā)布這篇博文中沒有提到首相梅的提議。但文章中承認(rèn)人們的質(zhì)疑：“在最近的恐怖襲擊之后，人們質(zhì)疑科技公司在網(wǎng)絡(luò)反恐方面的作用。我們想要對這些問題做出切實回應(yīng)。我們同意社交媒體不應(yīng)該成為恐怖分子發(fā)聲的地方這一觀點。”
這一過程利用了圖像識別技術(shù)，通過該技術(shù)，F(xiàn)acebook將人們上傳的圖片和視頻和已知的恐怖主義圖片和視頻作對比。這意味著這些做對比的恐怖主義視頻和圖片要么是之前就被Facebook屏蔽過，要么是來自由Facebook、推特與Youtube共享的一個恐怖主義圖片數(shù)據(jù)庫。
Facebook還對之前被屏蔽的那些宣揚恐怖主義的文章進行文本分析，找到這些文本的共同特點。之后，將這些特點錄入機器學(xué)習(xí)系統(tǒng)之中，不斷迭代，使其能夠很快偵測到類似的帖子。
Bickert和Bickert表示，當(dāng)Facebook收到“恐怖主義內(nèi)容”的舉報時，公司會立即對所舉報內(nèi)容進行審查。此外，這篇博文還表示，在極端情況下，當(dāng)系統(tǒng)發(fā)現(xiàn)了受重大傷害的證據(jù)時，會立即通知當(dāng)局。
但是人工智能僅僅只是該過程的一部分而已。這項技術(shù)目前還不能理解語言上以及不同語境間的細微差別，所以目前還是以人工審查為主。
Facebook表示，超過150名雇員的“主要或全部工作內(nèi)容就是打擊網(wǎng)絡(luò)恐怖主義”。這篇博文透露，這150人中包括反恐專家、前檢察官、前執(zhí)法人員、分析人士以及工程師。
廣州澳博信息科技有限公司首頁
