中國微軟開發出能讀新聞用「假留言」與真人互動的人工智慧

中國微軟開發出能讀新聞用「假留言」與真人互動的人工智慧

網路社群有一個機器人的問題,假帳號長期困擾著推特(Twitter)和臉書(Facebook),不過,這並無法阻止研究員開發出一種可以閱讀新聞報導,然後在留言區與真人互動的人工智慧。

北京航空航天大學和微軟中國公司的工程師開發出一種可以閱讀網路新聞然後對內容做出評論的機器人。 他們將這模型稱為「DeepCom」,這是「深度留言者」(deep commenter)的縮寫。完整的模型程式可在Github上以開放原始碼的方式獲得,這表示會寫程式的人都已經可以使用它。

研究指出,該系統是由兩個神經網絡組成,一個可以「理解」文章並挑選出要點的閱讀網絡,以及一個基於這些要點和文章標題選寫評論的生成網絡。 該系統學習人們一般在網上閱讀新聞的方式,我們很可能閱讀標題,摘錄一些要點,並根據對我們最感興趣的觀點或者根據我們自己的個人觀點發表評論。

DeepCom會做同樣的事,只不過它是全自動的。 它的創造者打算將它用在鼓勵人們對文章進行評論,以吸引更多的人閱讀文章並參與互動。網上有兩種版本的DeepCom論文。 一篇於9月26日發佈到arXiv上,另一個於10月1日發布到同個網站上。早期版本的論文引用了DeepCom潛在的用途,「鼓勵用戶瀏覽留言區的留言, 分享新信息並與彼此辯論。隨著網路新聞留言的流行,建立一種採用數據驅動方法的自動新聞評論系統非常重要。」

基本上,該論文表明,一種自動在文章上產生假留言和互動的系統可能是有益的,因為它可以欺騙真人與文章互動。不過,該聲明在較新的版本中被移除, 研究員寫道,他們意識到假裝為人類並發表新聞評論的AI可能存在風險。

他們在論文中給出的例子非常好,在閱讀了有關世界盃(FIFA)排名的新聞後,DeepCom發送了兩條評論 :「如果以2018年的世界盃來看,那麼英國的排名將大大的上升,巴西排名第3如何?」 ,「英國高於西班牙、葡萄牙和德國,這有趣了。」

微軟研究團隊的一位發言人表示,該團隊了解論文中的風險, 不過,在10月1日的最新論文版本中,它對風險的認可頂多是承認它存,而不是為避免假評論AI造成的潛在危害而打算採取措施。

研究員表示,「我們意識到,這些技術的大量使用會帶來道德問題,人們和組織可能會大規模使用這些技術來偽裝人類發表評論,出於政治操縱或說服力的目的。 在我們設定的目標用途中,我們明確地披露了這些新聞評論是由娛樂性與互動性的聊天機器人所產生的。」

基本上,研究員的意思是,他們提出的系統應該被清楚地標示是自動生成的留言,但這不會阻止某人將代碼改編成自己的機器人留言系統。

像DeepCom這樣的評論者機器人也無法避免AI系統受偏見的影響。 DeepCom在兩個數據集上受過訓練,一個是讀取騰訊新聞的中文數據集,另一個是讀取Yahoo新聞評論的英文數據集。 這兩個都將新聞社論與新聞觀點混合在一起,而且目前的新聞文章都是由人類所寫,因此它們都不可避免某種偏見的存在。 

專門研究網路酸民的雪城大學傳播文化與數位科技助理教授Whitney Phillip表示,像是deepfake等其他技術一樣,對容易受影響的群體的風險通常都是事後才想到的。 有時,實驗可能會對某些結果有偏見,取決於研究員想要回答什麼樣的問題。

Phillips表示,「對有些人來說不會發現這些風險,因為他們從來沒有考慮過或擔心過那些會影響他們的事情。」

新聞來源: Motherboard

Hssszn讚新聞著作權聲明:本網站之文字、非經授權,不得轉載。