付哥和你说旅游
当前位置:首页 - 教程 >

滥用?人工智能发展的新风险正在逼近

2019-12-06来源:魅力江南

导读

近期,人工智能(AI)的安全问题已经成为业界关注的焦点。类似于干扰智能汽车、控制智能音箱、欺骗深度学习系统等的案例时有发生,它们是由于AI自身不完善引起的,但这只是AI安全的一个方面。还有一类更广泛、更危险的安全问题,也就是由于AI被不当使用带来的风险和隐患,更具挑战性,更需要引起我们的重视与警惕。


 1 


最大威胁是增加了无人值守系统的危险

AI会成为一种杀人武器吗?现在一些大片里经常出现这样的镜头:美国中情局的操作员在千里之外,控制无人机在某国上空盘旋,发现恐怖分子,无人机自动发射导弹将恐怖分子歼灭。这里的核心是,一旦AI从过去扳机控制在人手里,变成了扳机由电脑或机器控制,将引起很大的问题。

这些自主武器可能被黑客“劫持”。比如人工智能机枪可以自己发现目标和自动射击,如果被黑客控制了,它就可以自主射击,造成可怕后果。

前年国际上有一段关于蜂群无人机杀人的视频引起了世界恐慌。这些杀人无人机起飞后,扫描它们遇到的每个人的脸庞,并通过AI将预设人员挑选出来,然后给予致命一击。

这看上去好像还是科幻电影情节。但是去年8月,委内瑞拉总统马杜罗在首都出席一场军队纪念活动演讲时,遭到装满炸药的无人机袭击,造成7名士兵受伤,说明将AI用作杀人武器已成为现实。

 


AI提升了黑客对抗和网络武器攻击的能力

黑客可以利用机器学习辅助创建逃避安全检测的恶意软件。比如,2017 年DEFCON会议上,美国安全公司Endgame透露了如何通过构建生成对抗网络(GAN)算法生成定制恶意软件的程序,进而绕过安全检测系统。

AI也加剧了网络武器的自动化和低成本运用。AI使得网络武器的制作、分发和执行等流程自动化,大大提升攻击效率。2016年美国国防部举办的CGC网络安全超级挑战赛,就是将AI用于网络自动攻击的一次尝试。更棘手的是,这些自动化的网络武器容易在地下进行交易,一旦被恐怖组织获取,将给社会安定和平带来重大威胁。

 3 


AI滥用可能会危害国家和社会安全

AI可以精确地进行个人画像,再应用社交网络强大的煽动能力,甚至能够影响一个国家的政治格局。去年Facebook公司8700万用户数据泄露,影响美国总统选举的事件,已经显示出了一些端倪。希拉里有次接受采访,有人问她,你要不当美国总统,你最想干什么?她还开玩笑说,我最想当Facebook的CEO。

AI也使得网络欺骗更加难以识别。现在的AI已经发展到可以“无中生有”,比如自动生成照片、视频和文本等虚假数据。2017年7月,美国华盛顿大学的科学家就已经利用AI,创造出美国前总统奥巴马逼真的假视频。试想如果未来每个人的音视频能够轻易被复制,这将对人类生活带来多么恐怖的冲击。

 


AI可能给经济带来负面影响

今天很多行业纷纷搞无人商店、无人超市、无人餐厅,利用机器人为用户提供服务。未来,AI可能不再局限于替代人类的手足和体力,甚至可以部分替代人类的大脑,使得许多从业者面临下岗威胁。

《未来简史》作者赫拉利预言,二三十年内超过50%工作会被AI取代。面对这种情况,今天很多的经济模型可能还没有研究出来,未来会怎么样?可以想象,如果相关岗位人员不能通过新技能的学习实现岗位转换,将会造成大量失业,造成严重的经济问题。

 5 

AI将冲击社会秩序和伦理道德体系

随着AI的大量应用,AI是否会侵犯人类的人权,是否会产生歧视?答案是肯定的。美国研究人员已经发现,在使用机器学习帮助银行提供房贷审核的建议时,黑人申请的批准率总是大大低于白人。

AI还可能让人类产生严重情感依赖,冲击现有伦理道德。比如,因为习惯于智能陪伴机器人的体贴和顺从,从而放弃正常的异性交往,放弃组建家庭。

此外,AI在解放生产力、提高人类物质生活的同时,还可能会冲击现有社会秩序。美国生态学动物行为学家卡尔霍恩曾做了一个鼠辈乌托邦实验。结果发现在衣食无忧的理想乐园里,老鼠间的社会纽带崩溃了,雄性老鼠因为无需保卫领土和食物来源而肆意攻击同类,雌性老鼠也开始抛弃幼鼠,甚至攻击它们,最终导致整个群体灭亡。这提示我们,AI或许可以帮助人类实现衣食无忧,但“饱食终日无所用心的群体”的社会秩序也很可能崩塌,最终要走向灭亡。

总体来看,未来如何处理人与智能机器之间的关系值得我们慎重考虑。毕竟人类创造出的AI系统是为人类服务的,我们是把它当朋友一样去积极对待,还是只把它当作一个机器甚至杀人武器一样来滥用,将关系到人类未来的命运。

展望未来,AI技术的发展速度已经远远超过了人类对它的认知程度。AI滥用的影响及应对研究需要尽快提上日程。目前应该加紧对AI在自动化武器、经济社会安全、舆论操纵、法规伦理等方面的问题,进行专题研究和影响评估,在法律、政策、技术等方面提供相关策略和建议,保障我国人工智能安全、可靠、可控发展与利用。


- END -

360智库,欢迎扫码关注!

谢绝未保留作者相关信息的任何形式转载

(本文图片源自网络,如有侵权联系删除)



转载文章地址:http://www.cpteststations.com/jiaocheng/31364.html
(本文来自付哥和你说旅游整合文章:http://www.cpteststations.com)未经允许,不得转载!
标签:
网站简介 联系我们 网站申明 网站地图

版权所有:www.cpteststations.com ©2017 付哥和你说旅游

付哥和你说旅游提供的所有内容均是网络转载或网友提供,本站仅提供内容展示服务,不承认任何法律责任。