机器人进入千家万户会有哪些危险?

   日期:2017-01-16     来源:机器人圈    评论:0    
核心提示:《绝对控制》是不久前刚上映的一部与人工智能密切相关的科幻电影。布鲁斯南饰演的主人公Regan有这令人羡慕的完美人生,不过这一切都被机器人ITguy摧毁了。因为感觉受到冷落,ITguy开始开始监视主人公和他的女儿,往日依赖的全智能家居和汽车系统如今成为最大的安全隐患。随着隐私的全面暴露,Regan一家陷入前所未有的恐慌,这不是天方夜谭,也许这样的故事在不久的将来就会发生在真实世界中。

《绝对控制》是不久前刚上映的一部与人工智能密切相关的科幻电影。布鲁斯南饰演的主人公Regan有这令人羡慕的完美人生,不过这一切都被机器人ITguy摧毁了。因为感觉受到冷落,ITguy开始开始监视主人公和他的女儿,往日依赖的全智能家居和汽车系统如今成为最大的安全隐患。随着隐私的全面暴露,Regan一家陷入前所未有的恐慌,这不是天方夜谭,也许这样的故事在不久的将来就会发生在真实世界中。

虽然目前的情况看起来还没有那么可怕,没有智商,或者只有三五岁小孩智商的机器人,对人类的危害几乎可以忽略不计。扫地、擦窗、陪伴老人和儿童、幼教等等功能单一的机器人进入家庭,早已不是什么新鲜事,也没听到这些机器人对人类产生过哪些危害。但是,随着人工智能技术的不断提升,机器人的功能也越来越强大,他们在给我们的孩子、我们的家庭带来了越来越多新奇体验的同时,我们也必须开始思考,机器人进入家庭会带来哪些潜在的风险,我们需要如何提前预见和提防?

机器人进入千家万户

“这个时代既让我们惊喜,也让我们惶恐。我们惊喜的是机器人不知道会给我们带来怎样的幸福感,惶恐的是不知道它会给我们带来怎样的危险。”王珂是中国教育机器人联盟主席、北京智能联盟科技有限公司董事长,从事机器人教育工作6年后,他发出了这样的感慨。

机器人教育已经是一个规模可观的产业,仅中国教育机器人联盟就已经有1.2万家机器人培训机构,每年培训的学员高达300万-500万。机器人培训是寓教于乐的典型案例。王珂发现,孩子们在玩机器人、和机器人互动的时候,有着发自内心的喜悦。他们会非常主动地通过拼装教具,完成对机器人培训课程的学习,几乎无需家长和老师的督促。这就是机器人进入家庭的基础,越来越多的孩子开始接受机器人,喜爱机器人。

不久前,法制晚报社、北京阿西莫夫智能科技发展有限公司联合北京进化者机器人科技有限公司策划了一个机器人进入名人家庭的体验活动,在为期三个月的体验期内,机器人小胖和这些家庭的小朋友朝夕相处,也给大家带来了很多有益的思考。

中国女排国家队员宋妮娜是此次参与体验的家庭之一。她欣喜地表示,没想到这个小小的机器人对她6岁的儿子有这么大的吸引力,除了可以帮助孩子学习,帮助他算数学题、背唐诗外,还有空气净化器的功能。现在每天放学后,宋妮娜会给儿子规定,“如果你表现好,我会让你跟小胖玩一会”,他每天在学前班和回家写作业的表现真的越来越好了。机器人给了他很大的鼓励。

中国人民大学哲学院教授、博士生导师葛晨虹经过体验也认为,现在机器人的功能超出了她的想象,不仅集成了很多电器的功能,比如播放音乐和新闻、净化空气,还有很强的教育功能,而且可以让孩子在很长时间内保持学习的兴趣。她建议,在幼儿教育方面,还应该开发更多功能,并把规则意识、礼貌意识,公德意识等好的道德素质植入到里面。当然,如果能够再进一步,把社会所需要的人格素质、人文素质等内涵规则植入到机器人中,形成更好的人机互动,解决孤寡老人的情感陪护难题,就更好了。每个人的家庭面积都是有限的,将所有功能集成为一体,应该是一个重要方向。

会有哪些危险?

阿西莫夫曾经提出过著名的机器人三原则:第一,机器人不能伤害人类;第二,在不伤害人类基础上,机器人要服从人类;第三;机器人要在遵循前两条的基础上保护好自己。

随着智能技术的发展,现在已经没有办法解决AI技术发展之后带来的法律问题。

电影《绝对控制》就为我们展现了一个失去人类控制的机器人可能给人类生活带来的毁灭性打击。电影中还有一个与大家休戚相关的问题,那就是隐私泄露——主人公女儿洗澡的照片全部泄露出去了。机器人一旦进入家庭,作为一个家庭成员与家人朝夕相处,就不可避免地看到和听到很多家庭隐私。机器人是有眼镜有耳朵的,如何才能保证机器人掌握的信息不被非法利用。如果机器人自主地,或者收人控制地泄露家人隐私,那么整个人工智能行业都将迎来严峻的考验。“一旦人类失去了对机器人的信任的话,就可能跟这个行业永远说拜拜不远了,重塑关系会很漫长。”

法制晚报社法律专家、法律问题解读网络红人李奎老师表示,这是一个非常值得全行业深入探讨的法律问题。目前美国的IT和智能技术如此发达,也还没有这方面的法律规定。机器人的智能不是靠它自己,实际是通过它背后的网络系统在不断的升级进化。一旦它超出了用户的操作范围,或者是系统被人为侵入,该怎么保护用户的利益不受损害。如果万一出现了机器人伤害儿童的行为怎么办,机器人的生产商、研发机构,销售单位、安装单位,或者运营商要不要承担相应的法律责任,如何划分责任,这都是值得思考的法律问题。

目前,国内已经有好几百家机器人企业,但并没有一套统一的顶层控制系统,各种标准也并没有建立起来。

违反了阿西莫夫三原则

2016年7月7日,在美国达拉斯市中心,警察和游行人群发生冲突,多名警察死亡和受伤。警方锁定了曾经是退伍军人的枪手。经过数小时对峙,最终,达拉斯警方将 1 磅 C4 炸药安装在机器人的机器臂上,然后通过远程控制的方式让机器人接近嫌犯后引爆了炸弹,炸死了嫌犯。

虽然机器人帮助警方解决了问题,但这件事情引发了人们对机器人伦理的大讨论。人类设计机器人应该是为人类服务的,而不应该是伤害人类,哪怕是以国家的名义。而且这一事件也明显违反了阿西莫夫定律的第一条。

全球医生组织中国代表处项目负责人、AI与生命健康研究学者梁虹表示,AI的技术蓬勃发展,近几年时间,与深度学习有关的论文,无论是发表数量,还是引用数量,都呈几何递增,中国和美国是一路遥遥领先,中国甚至超过了美国,这是非常值得大家骄傲的事情。但是人工智能对我们人类来说是好还是坏,是福还是祸,现在还不好说,像霍金教授说的,没准是人类的灾难。

不过,北京航空航天大学机器人研究所教授、德国汉堡大学访问学者、北京进化者科技有限公司联合创始人兼首席科学家王巍则希望人们不必过度担忧机器人进入家庭带来的问题。“人发明工具的时候,实际是想让工具为我所用,解决问题。工具怎么用是取决于人的。我们反过来说它的决策机制规则是谁定的,是人定的。”网络安全问题是现今社会共性的问题,他认为,网络隐私问题不是机器人特有的,手机也一样。

 
  
  
  
  
 
更多>同类资讯
0相关评论
 
全年征稿 / 资讯合作
 
 
 
推荐资讯
可能喜欢