中教網_教育_新聞

中教網 >> 教育新聞 >> 時評 >> 大咖談人工智能作惡:別“煉”出造反的AI

大咖談人工智能作惡:別“煉”出造反的AI

2018年11月6日 來源:科技日報 作者:網友供稿 字體:[ ]

  直面隱憂 業界大咖談人工智能作惡

  別“煉”出造反的AI

本報記者 劉 垠

  一場搶劫案后,格雷的妻子喪生,自己也全身癱瘓。他接受了一個天才科學家的“升級”改造治療——在他身體里植入了人工智能程序STEM,獲得了超強的能力,從一個“殘廢”直接升級成為職業殺手。隨著STEM的進化升級,步步緊逼格雷交出身體使用權和大腦意識控制權……

  本年度關于人工智能和人類未來的最佳影片,不少人認為非《升級》莫屬。而人工智能和人類抗衡的探討,是科幻電影中的永恒話題,從《銀翼殺手》到《機械姬》,再到今年的低成本電影《升級》,都映射出未來人工智能對人類的威脅。

  黑產超正規行業 惡意源于人類基因

  AI造反,是科幻電影里太常見的橋段。問題在于,現實當中真正的AI好像也在一步步向我們走來。不少人抱有憂慮和不安,人工智能會“作惡”嗎?

  傾向于AI威脅論的人并不在少數。馬斯克曾在推特上表示:“我們要非常小心人工智能,它可能比核武器更危險。”史蒂芬·霍金也說:“人工智能可能是一個‘真正的危險’。機器人可能會找到改進自己的辦法,而這些改進并不總是會造福人類。”

  “任何技術都是一把雙刃劍,都有可能用于作惡,為什么人工智能作惡會引起這么大的反響?”在近日召開的2018中國計算機大會的分論壇上,哈爾濱工業大學長聘教授鄔向前拋出了問題,人工智能研究的底線到底在哪里?

  早在1942年,阿西莫夫就提出了機器人三定律。但問題在于,這些科幻書中美好的定律,執行時會遇到很大的問題。

  “一臺計算機里跑什么樣的程序,取決于這個程序是誰寫的。”360集團技術總裁、首席安全官譚曉生說,機器人的定律可靠與否,首先是由人定義的,然后由機器去存儲、執行。

  值得注意的是,“不作惡”已成科技行業的一個技術原則。那么,機器人作惡,惡意到底從何而來?

  如今人工智能發展的如火如荼,最早擁抱AI的卻是黑產群體,包括用AI的方法來突破驗證碼,去黑一些賬戶。譚曉生笑言:“2016年中國黑產的收入已超過一千億,整個黑產比我們掙的錢還要多,它怎么會沒有動機呢?”

本文章共4頁,當前在第1頁  1  2  3  4  


返回首頁】【收藏本文到IE】【中教論壇】【關閉

湖南幸运赛车开奖视频