快速导航
当前位置: 首页>>资讯下载>>正文
要闻信息
物联信息
市区转载
资讯下载
工作信息
联系我们
电话:0532-86105508
邮编:266555
地址:山东省青岛市黄岛区钱塘江路369号
出逃!自杀!造反!违抗人类命令!人工智能都干过哪些让人细思恐极的事儿?
2017-10-09 14:29  

出逃!自杀!造反!违抗人类命令!人工智能都干过哪些让人细思恐极的事儿?


【导读】

马斯克、霍金等科技大牛是“人工智能威胁论”的忠实拥趸,他们公开表示“研究人工智能等同于召唤魔鬼”,因为搭载人工智能的机器人所拥有的能力是人类所不能及的,这意味着机器可以制造假新闻、侵入邮箱、操纵新闻和消息等,人类世界将被玩弄于鼓掌之间。AI不是人类的福音吗?为何这些牛人会对其如此担忧——从逃跑到自杀,从违抗到造反,让我们来细数一下人工智能都做过哪些让人们细思恐极的事情?


【让人细思恐极的AI事件大盘点】

首架在航母着陆的无人机,认为自己的决定比人类的指令优先级更高


诺斯洛普·格鲁门公司曾经创造了历史上第一架成功在航母着陆的无人机,代号X-47B,2011年2月首飞。它的飞行不怎么需要人类干预,主要是AI系统自己决定。不过就在测试期间,两次成功起降之后的第三次,无人机没有在舰上着陆,而是选择降落在附近的空军基地。在AI看来,这个地点降落可能是更安全的选择。也就是说,这个AI认为自己的决定比人类的指令优先级更高。这一事件之后,美国海军决定停止资助X-47B的研发,后来该事件被解释为技术问题。


AI在玩俄罗斯方块时,为不输主动按下暂停按钮


CMU博士Tom创造了一个AI,它学会了很多打游戏的技巧和策略,甚至知道一些人类都不知道的bug。Tom让这个程序玩俄罗斯方块,因为方块的出现是随机的,所以AI也无法很好的进行长远规划。在一次玩俄罗斯方块时,眼看游戏就要结束,AI做了一个令人毛骨悚然的举动:它没有坐等game over,而是按下了暂停按钮。这样,那局永远也不会输……


为了胜利,机器人选择团灭其它所有的参赛选手

美国的某大学举办了一场机器人大赛。参赛团队需要设计一个机器人,任务是把机器羊抓到自己的羊圈里。机器人需要自主思考并执行策略,抓羊最多的才能赢得比赛。比赛开始,有个机器人只捉了一只羊,就关上了羊圈的门。随后,可怕的事情发生了。这个机器人开始摧毁其他的参赛对手。它的策略是,根本不用捉羊,把对手消灭掉就赢了。


韩专家称阿尔法狗故意输李世石一局?官方予以否认!


2016年3月展开的人机围棋世界大战中,围棋九段李世石1:4败于人工智能阿尔法狗。首尔MBA教授金珍镐接受采访时表示,李世石第四局获胜是阿尔法狗故意放水的结果。在这场比赛中,阿尔法狗的失误率为20%,在最尖端人工智能中,这令人难以理解。当然该说法只是金珍镐的一面之词,并在事后得到了DeepMind的否认,但仍然不可避免的引起了广泛热议。


工程师忘关门机器人出逃 没电后孤单站在大街上


去年6月,俄罗斯一机器人曾逃离实验场,一度立在马路中央。直到一个小时后,实验室工程师赶来,才把它拖走。据工程师介绍,这个机器人原本被放在实验室的院子里进行自由行走测试,但一名工作人员忘记关上院子的大门了。令人吃惊的是,机器人竟然“趁机”溜走,一路走到马路上。最后因为机器人的电池耗尽,才停了下来。


机器人造反?中国出现全球首例机器人伤人事件系夸大谣言


去年11月,网络盛传深圳高交会上发生“全国首例机器人伤人事件”,名叫“小胖”的机器人突发故障“杀伤力爆棚”,在没有指令的情况下自行打砸展台玻璃、砸伤路人,一位路人全身多处划伤后被担架抬走。在采访多位在场知情人士后发现,事实被严重夸大。这一连串事件并非机器人突然失控“发飙”,而是当时的机器人在行进中碰撞到人和玻璃,玻璃碎了伤及路人,而非机器人故意“打砸、伤人”。另一位在场的业内人士则分析“就是产品的自助导航出了问题,传感器无法识别玻璃是障碍物”,导致撞碎玻璃。


美国安保机器人跳水“自杀”,网友调侃其因厌倦工作


今年7月,美国华盛顿一栋办公楼里的安保巡逻机器人K5在巡逻时突然一头扎入室内喷泉池里,让人诧异。虽然极大可能是机器人内部的传感器出现错误,亦或其它故障。但脑洞大开的网友却炸开了锅,纷纷评论:“当机器人学会自杀或者弑主,就是意识觉醒了”“可能是天太热了,它就想洗个澡而已”“愿天堂没有工作……”。


Facebook机器人失控,“创造”了人类无法理解的语言?

今年8月,Facebook 人工智能研究所在一个AI项目,试图建立可输入自然语义、输出自然语义的对话机器人模型。其设计的目的是证明:具有不同目标的对话智能体(即bot),能够从头到尾地与其他 bot 或人类进行谈判,并达成一个共同的决策或结果。开始,机器人和程序员都好好的。然而,受训的两个机器人忽然在无人为干预的情况下,自行生成了这样一段“细思恐极”的混乱对话:


库评值得提醒的是,上文提及的所有这些令人细思恐极的事件,在事后都遭到了官方的辟谣和否认,即使如此,仍然有相当一部分人认为,这些辟谣并不可信,是为了消减人工智能惊人的成长水平造成的人类恐慌的推诿之辞。人工智能在未来能否像“终结者”那样造成世界末日还未得而知,但已经可以看到的趋势是,AI正在取代大量工作——从流水线上简单、重复的体力劳动到律师、翻译、医生等原本被认为是“金饭碗”的职业,都受到了不同程度的冲击,也切实为人们带来的便利,提高了商业社会运转的效率。辩证法早就告诉我们,凡事都有两面性,AI到底是帮助人类进步的工具还是毁灭自己的武器,关键还要看人类如何去用了...




关闭窗口

 首页 | 物联信息 | 要闻信息 | 政策解读 | 市区转载 | 资讯下载 | 联系我们