特稿 >

前沿热点 >

科技云报道:Facebook AI创造了人类无法理解的语言?

科技云报道:Facebook AI创造了人类无法理解的语言?

科技云报道 丨 前沿热点

17786
2559

2017-08-10

科技云报道

Xtecher特稿作者

关注

关于“人工智能是否邪恶”的话题,Facebook创始人马克·扎克伯格刚和特斯拉CEO埃隆·马斯克互怼完,就被自家机器人打脸了?Facebook在发现两个机器人开始用只有他们自己能懂得的语言交流之后,终止了这个实验项目。



6月15日,Facebook人工智能研究院(FAIR)的研究人员提供了关于对话型AI系统的开源代码,想让AI学会谈判协商,还在arXiv上发表了论文《Deal or No Deal? End-to-End Learning for Negotiation Dialogues》。


6天后,智能聊天机器人Alice和Bob尝试用英语变得让自己更容易理解,两个智能体以人类无法理解的姿势进行着“i”和“to me”的循环。奇怪的是Facebook的数据表明这对智能体成功完成谈判,机器人创造的语言在科学家看来却难以被人类理解。



AI真的失控了?「自创语言」的来龙去脉


技术大师埃隆·马斯克最近警告Facebook创始人扎克伯格说:“你对AI威胁人类方面的认知有限,这将是人类文明的危机。”这次事件真的让AI摆脱了人类控制而变得“失控”了?事实并非如此。


Facebook人工智能研究院(FAIR)为了训练聊天机器人,让它学会谈判。于是他们用了一个神经网络结构来开发这个系统,这个结构叫做“生成式对抗网络”(Generative Adversarial Networks,简称GAN)。神经网络可以理解为一种多层次、模仿人脑神经元之间相互连接的思考方式的“电脑程序”。而GAN是一种在目前非常先进的神经网络结构,可以理解为两个神经网络在玩对抗游戏。玩的越多、时间越长,水准也会越来越高。



Facebook的这项研究也是如此。研究人员让聊天机器人带着“目的”和人类对话。而这个目的也很简单:一共有两本书、一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底有多想要这些东西,然后去和其他人谈判。


研究人员把Bob和Alice这两个聊天机器人凑到一起,但忘了给神经网络设定“用英语沟通”的指令。神经网络里有一大堆各种线性数学公式,当线性的公式无法取得想要的结果时,非线性的需求没法用线性公式表达出来,这时候就要设定一个激励函数。激励函数对于神经网络而言,就相当于告诉神经网络“这样做得分更高”。



在为系统设置激励条件时,研究人员虽然告诉了它们“请用英文”,但忘了告诉它们:“请用英文语法”。这就导致最终输出的语法是乱的,一句话里to me重复的越多,这个东西对它的意义越大。


其他人工智能研究者表示他们同样观察到机器能够开发自己的新语言——框架清晰、条理清楚、词汇和句式明确,虽然不具备实际意涵。这么看来,该事件完全是一场由于人类设定失误而造成的“失控”,AI对于人类还远未到威胁的地步。


技术而非敌人 AI时代人类如何自处?


AI的发展始终伴随着各路争议,一边是“威胁论”的坚定拥趸。2015年9月霍金就抛出这个论调,最近他再次表态“人类必须尽快建立识别威胁的有效机制,防止人工智能对人类带来的威胁进一步上升”。


比尔·盖茨、杰夫·贝索斯等都和霍金步调一致,盖茨甚至表示:“几十年后人工智能会强大到足以令人担忧的地步,我不明白为什么一些人会对此仿佛若无其事。”



另一边,马克·扎克伯格就是他口中“若无其事”的典型代表。扎克伯格对人工智能的未来十分乐观,“我认为我们可以研究这样的东西,世界会变得更好。我认为那些反对者以及鼓吹末日场景的人,可能并非真的了解人工智能。”对此,马斯克表示:“我和马克讨论过这事,他对于人工智能的理解有限。”



争议围绕人工智能的“人性”展开。在支持者看来,人工智能是足以激荡世界的技术,对于衣食住行、教育医疗等人类生活的方方面面都有颠覆性作用,但它也只是技术。而在反对者眼里,飞速发展的AI技术就是一个潘多拉盒子,等它发展出自我意识,人类可能“玩火自焚”,漫威电影中以奥创为代表的AI新物种或许将成为现实。


苹果CEO库克表示:“我并不担心人工智能,我不担心电脑和人一样思考。我更担忧人们像电脑一样思考。”就像他所说,我们应当彻底抛弃AI“取代人类”、“威胁人类”的窠臼思维,而是应重新审视和认识我们自身以及学会如何与AI共存、共生、共荣,通过不断的自我教育为具备更高智能的机器注入人性色彩,让AI更好地服务于人类。


科技的未来不是由科幻定义,AI不可能取代和成为人。不管人工智能技术听上去多么高深,它终归都是由人来研究和发展。人对人的关系链接和交易服务是人类社会发展的基础,尤其在客服、金融等直接为客户提供服务的行业,机器不能完全替代人。我们无需对AI产生恐惧谈之色变,只需要怀有一颗敬畏之心适应它、掌控它。人类站在生存链顶端已经太久了,AI正在倒逼人类进行更高层级的演化,人类也将因为有了AI从而激发出无限潜能。


【本文来自投稿,文中观点不代表Xtecher立场。】


打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮

账号登录

重置密码

还没有账号?立即注册>

账号注册

已有账号?立即登录>注册企业会员

重置密码

返回

绑定手机