關注並星標
從此不迷路
Jiangmen
From: The Verge; 編譯：Shelly
魚龍混雜的網際網路生態中，虛擬的ID給人們帶上了遮掩的假面，也給不法分子帶來可乘之機，譬如在網上發布大量垃圾郵件，進行網絡詐騙、武器買賣和毒品交易等等，對網際網路環境造成污染，影響正常用戶的使用體驗。針對這些行為，Facebook推出了一款新的識別網絡詐騙的模擬器。這款程序通過在一個仿真Facebook的平台上，使用AI機器人來模擬詐騙等，從而方便研究人員通過機器人的行為研究現實生活中的網絡交易。
模擬器WW大解析
這款模擬器叫WW，發音為「DubDub」，是基於Facebook的真實代碼庫開發而成。WW的取名靈感來源於網址「WWW」。在今年，Facebook已發表了關於WW的論文，並在最近的圓桌會議中分享了更為詳細的內容。
這項研究由Facebook的工程師馬克•哈曼(Mark Harman)和其位於倫敦的人工智慧部門牽頭。哈曼在接受記者採訪時表示，WW是一個非常靈活的工具，可以用來限制在網站上廣泛存在的有害行為，並舉例說明了如何利用模擬器開發新的防禦系統來對抗詐騙。
Illustration by Alex Castro / Th
在現實生活中，詐騙者經常把目標用戶的聯繫人和朋友作為目標。為了模擬這種行為，Facebook的工程師編寫了一組「無辜」機器人作為目標，並訓練壞機器人找到它們。為了了解壞機器人的反應，工程師又引入了各種限制來阻止壞機器人，比如限制私信的數量和壞機器人每分鐘可以發送的帖子數等。
WW強化學習架構
通用框架組件形成核心平台，每個用例組件專門針對每個用例
哈曼將這項工作與在城市規劃中控制超速行駛的工作進行了類比。在城市規劃中，工程師們利用模擬器模擬交通流量，然後在某些街道上引入減速帶，觀測可能會產生的效果。WW模擬器跟上述實驗是一樣的原理，它使得Facebook可以在模擬的情況下，為它的用戶設立一些「減速帶」，並觀察這些「減速帶」所起的作用以查看其產生的影響。
「壞機器人」
機器人大軍和WW的特點
「我們將『減速帶』應用到機器人的運作中，希望能改變機器人行為，在不影響用戶體驗的同時迅速探索攔截有害和垃圾信息。」哈曼說，「機器人可以成千上萬倍批量生產，因此可以並行搜索許多不同的、可能的約束向量。"
模擬要研究的行為在機器學習中其實很普遍，但是WW項目引人注意，是因為它的模擬基於Facebook並且幾乎做到了100%仿真。Facebook稱它為「基於網絡的模擬」。
哈曼說：「不同於傳統的模擬，所有東西都是虛擬的，在基於真實網絡的模擬中，動態和對於信息的觀測是實實在在在發生的，因此它們更加現實。」
傳統測試與WW的對比
但同時哈曼強調，儘管使用了真正的基礎設施，但機器人無法與用戶實現真正的互動。他說：「實際上，它們除了與其他機器人互動之外，無法與其他任何東西互動。」
機器人只能與機器人交流
敲黑板的是，WW模擬可不是Facebook的視覺複製品。科學家研究機器人行為的方法和你觀察臉書中網友互動的方法還是有很大差別的。WW不是用圖像來生成結果，而是將所有互動記錄為數據。你可以想像真正的Facebook是動態觀看足球比賽，WW則是靜態閱讀比賽賽況。
目前WW也處於研究階段，臉書沒有採用機器人模擬效果。哈曼說，他的小組仍在進行測試，檢查模擬與真實行為的匹配度，確保WW具有高保真映射，正確進行有害信息攔截。哈曼也表示，有望在年底之前直接在臉書代碼里添加WW技術。
機器人帶來的驚喜！
WW模擬器存在一些局限，例如WW無法模擬用戶意圖，也無法模擬複雜的行為。臉書團隊說，機器人會搜索、發出朋友請求、發表評論、發送文章和消息，但這些行為的內容，例如實際對話的內容，並沒有模擬出來。
但哈曼表示，WW的優點在於其大規模運行的能力。它能讓Facebook在不影響用戶體驗的情況下，進行數千次模擬來檢查網站的各種小變化，並由此發現新的行為模式。哈曼進一步談道，來自大數據的統計能力還沒有得到充分的重視。
這項工作更令人興奮的一點是WW可能通過機器人的行動發現Facebook代碼里的弱點。機器人的指令是多樣的。有時機器人得到明確指示該如何行動；有時他們被要求模仿現實生活中的行為；有時他們則獲得完成目標的自主權。在最後一種情況中，機器人可能會意外地解鎖一些新途徑。
臉書對WW技術的「保密行動」
「目前，我們的重點是訓練機器人模仿臉書上的交互行為。但是從理論上和實踐上，這些機器人完全可以超越我們現在已知的任何行為和模式。」哈曼說，「這實際上是我們想要的，因為我們最終希望能走在網絡犯罪的前面，而不是不斷追趕。」
哈曼說他們現在已經發現了機器人帶來的一些驚喜，但是具體細節還不方便透露。他表示不想給網絡騙子任何機會。
最後，別忘了
將門「ECCV 2020鮮聲奪人云際會」
火熱報名中~
點擊下方小程序報名
▼
掃碼觀看！
本周上新！
關於我「門」
▼
將門是一家以專注於發掘、加速及投資技術驅動型創業公司的新型創投機構，旗下涵蓋將門創新服務、將門技術社群以及將門創投基金。將門成立於2015年底，創始團隊由微軟創投在中國的創始團隊原班人馬構建而成，曾為微軟優選和深度孵化了126家創新的技術型創業公司。
將門創新服務專注於使創新的技術落地於真正的應用場景，激活和實現全新的商業價值，服務於行業領先企業和技術創新型創業公司。
將門技術社群專注於幫助技術創新型的創業公司提供來自產、學、研、創領域的核心技術專家的技術分享和學習內容，使創新成為持續的核心競爭力。
將門創投基金專注於投資通過技術創新激活商業場景，實現商業價值的初創企業，關注技術領域包括機器智能、物聯網、自然人機互動、企業計算。在近四年的時間裡，將門創投基金已經投資了包括量化派、碼隆科技、禾賽科技、寬拓科技、杉數科技、迪英加科技等數十家具有高成長潛力的技術型創業公司。
如果您是技術領域的初創企業，不僅想獲得投資，還希望獲得一系列持續性、有價值的投後服務，歡迎發送或者推薦項目給「門」:
#Facebook##網絡詐騙##模擬器#