中教网_教育_新闻

中教网 >> 教育新闻 >> 时评 >> 大咖谈人工智能作恶:别“炼”出造反的AI

大咖谈人工智能作恶:别“炼”出造反的AI

2018年11月6日 来源:科技日报 作者:网友供稿 字体:[ ]

  直面隐忧 业界大咖谈人工智能作恶

  别“炼”出造反的AI

本报记者 刘 垠

  一场抢劫案后,格雷的妻子丧生,自己也全身瘫痪。他接受了一个天才科学家的?#21543;?#32423;”改造治疗——在他身体里植入了人工智能程序STEM,获得了超强的能力,?#21491;?#20010;“残废”直接升级成为职业杀手。随着STEM的进化升级,步步紧逼格雷交出身体使用权和大脑意识控制权……

  本年度关于人工智能和人类未来的最佳影片,不少人认为非《升级》莫属。而人工智能和人类抗衡的?#25945;鄭?#26159;科幻电影中的永恒话题,从《银翼杀手》到《机?#23548;А罰?#20877;到今年的低成本电影《升级》,都?#25104;?#20986;未来人工智能对人类的威胁。

  黑产超正规行业 恶意源于人类基因

  AI造反,是科幻电影里太常见的桥段。问题在于,现实当中真正的AI好像也在一步步向我们走?#30784;?#19981;少人抱有忧虑和不安,人工智能会“作恶”吗?

  倾向于AI威胁论的人并不在少数。马斯克曾在推特上表示:“我们要非常小心人工智能,它可能比核武器更危险。”史蒂芬·霍金也说:“人工智能可能是一个‘真正的危险’。机器人可能会?#19994;?#25913;进自己的办法,而这些改进并不总是会造福人类。”

  “任何技术都是一把双刃剑,都有可能用于作恶,为什么人工智能作恶会引起这么大的反响?”在近日召开的2018中国计算机大会的分论?#25104;希?#21704;尔滨工业大学长聘教授邬向前抛出了问题,人工智能研究的底线到?#33258;?#21738;里?

  早在1942年,阿西莫夫就提出了机器人三定律。但问题在于,这些科幻书中美好的定律,执行时会遇到很大的问题。

  “一台计算机里跑什么样的程序,取决于这个程序是谁写的。”360集团技术总裁、首席安全官?#24223;?#29983;说,机器人的定律可靠与否,首先是由人定义的,然后由机器去存储、执?#23567;?/p>

  值得注意的是,“不作恶”已成科技行业的一个技术原则。那么,机器人作恶,恶意到底从何而来?

  如今人工智能发展的如火如荼,最早?#24403;I的却是黑产群体,包括用AI的方法来突破验证码,去黑一些账户。?#24223;?#29983;笑言:“2016年中国黑产的收入已超过一千亿,整个黑产比我们挣的钱还要多,它怎么会没有动机呢?”

本文章共4页,当前在第1页  1  2  3  4  


返回首页】【收藏本文到IE】【中教论坛】【关闭

湖南幸运赛车开奖视频