特稿 >

行业洞察 >

十问OpenAI,马斯克人工智能的初心与方向

十问OpenAI,马斯克人工智能的初心与方向

Xtecher原创 丨 行业洞察

10537
1509

2017-07-10

硅谷加先生

Xtecher特稿作者

关注


作者|硅谷加先生

编辑|小鱼

网址|www.xtecher.com

微信公众号ID|Xtecher


2017年如火如荼的人工智能浪潮,没人能忽视OpenAI的存在。

 

这个由特斯拉CEO Elon Musk、LinkedIn创始人Reid Hoffman、YC掌门人Sam Altman和PayPal创始人Peter Thiel于2015年底联合投资10亿美金创办的非营利性研究机构,在创办之初就本着“创造一个全新的人工智能实验室,不受任何机构或者任何人控制,一切研究成果属于全人类”的初心。

 

OpenAI旨在跻身地球上最强的人工智能研究团队之列,致力于进行非监督式学习和强化学习的研究。OpenAI的使命和长期目标是以最大限度地造福全人类的方式发展人工智能。

 

如今,OpenAI成果如何?它所进行的研究有没有背离原有的初衷?作为一个非盈利性AI研究机构,OpenAI未来将如何场景化落地?Xtecher抛出十个问题,从现在和未来的角度,与OpenAI的研究员、OpenAI Universe项目的完成者之一施天麟进行了深度交流。


image.png

OpenAI的研究员,OpenAI Universe项目的完成者之一施天麟


OpenAI,以未来为目标进行研究

 

Xtecher:目前OpenAI团队的大致规模是多大?核心成员主要来自哪里?

 

OpenAI:我们现在大概有50名研究人员,主要是各大学校博士,还有来自谷歌的10位左右的科学家。

 

Xtecher:OpenAI成立的愿景是什么?一般来讲与校企合作是比较常见的方式,但是为什么OpenAI要以非盈利的模式来推进人工智能研究呢?

 

OpenAI:大家都觉得因为谷歌在AI方面非常强势,它雇佣了很多研究者,做出很多有意思的事情。现在AI的研究越来越多的靠大量的计算和数据。谷歌有很多积累的数据,所以吸引了大量的AI方面的顶尖人才,像很多教授也加入了Google Brain和 DeepMind,像Geoff Hinton,Jeff Dean现在是谷歌里面做技术最强的那波人。

 

但谷歌是个私人企业,没人能保证它在未来不会做出非常危险的事情。所以Elon Musk和Sam Altman就想创造一个可以用AI和AI相抗衡的组织。OpenAI就这样诞生,我们希望把人工智能的技术以开源的形式进行研究。但是受限于人工智能发展对数据的需求,单纯的学术界已经无法满足未来的规划,所以OpenAI采取非盈利组织的形式进行发展。

 

Xtecher:OpenAI成立的时候,说要“以未来为目标进行研究,不用关心产品和技术盈利,”那什么是研究成果的考核标准呢?发表文章吗?

 

OpenAI:发表文章是一方面,OpenAI和一般的学术机构的不同是,一般学术机构可以有很多不同的方向,看到什么新问题,就会发表一篇论文。但是创始人Elon Musk认为,所有人都应该朝着一个方向去努力,因为这才是一个组织能力发挥到极致的地方。对于OpenAI来说,这个方向就是机器人。他希望把所有人的努力都聚集于此,在未来几年内集中力量去推动这方面的发展。

 

这是比较宏伟的目标,现在看很多机器人还非常初步,甚至很多还是非常基本的手动机械和控制逻辑。而OpenAI想通过深度学习的方法,将机器全部自动化,成为真正实现能自由行走、灵活操作的机器人。


Image result for elon musk sam altman

OpenAI的两位联合创始人:

左:创业孵化器Y Combinator总裁山姆·奥特曼(Sam Altman)

右:特斯拉CEO埃隆·马斯克(Elon Musk)

 

Xtecher:你觉得以你对OpenAI和这个行业的了解,这样的机器人还要多久能实现商业化落地?

 

OpenAI:我觉得五年到十年左右,这也是我们为什么现在不关心商业化的原因,因为现在还太早,所以我把更多的时间放在fundamental research(基础研究),把控制机器人最基本的框架和算法先研究进步,等时机成熟的时候,再去商业化。


AI平台与产品落地



Xtecher:如果说我们给人工智能做一些设置,让它在执行任务时保证人类的安全,那么人工智能自身的进化,是否有可能让他们随时抛弃掉这些安全准则?OpenAI在安全领域有什么产品化落地吗?

 

OpenAI:AI的安全领域一直是我们的担忧。当我们发明越来越智能的算法时,怎么样保证人工智能的安全性?因此,OpenAI专门设立了一个叫AI Safety团队。他们的目标就是我们如何从策略、政治方面,来保证我们研究的机器人无法占有世界。

 

至于你说的情况完全有可能。首先你这个安全准则是怎么定义的,即便是看上去是很安全的准则,但也有可能会有潜在危险。举个例子说,比如说你制定了一个准则,说AI要去提升人类的幸福感,这个目标看上去非常安全了吧?但是你怎么样界定这个安全,怎么定义幸福指数,某个人的幸福指数,还是所有人的平均幸福指数?如果你把这个定义为全人类的平均幸福指数,那你是不是可以通过杀死一部分人,然后提高其他人的幸福指数,所以这些是很模棱两可的。

 

Xtecher:同为开源平台,OpenAI和DeepMind最大的区别是什么?


OpenAI:OpenAI更开源。DeepMind的代码其实有很多细节并没有被披露,论文里面宣称的成果,通过它的开源代码很难达到。此外,OpenAI也更开放一点。它会和很多高校合作,比如和伯克利有个双学位项目。如果你的项目在OpenAI没有做完,你还可以在学校接着做。这和其他平台不同。最后,我觉得OpenAI是平台上的开源,体现更多的是打造人工智能的社区,形成让AI训练的平台。DeepMind更偏向算法上的开源。DeepMind也有一些平台,但是它的平台并没有像OpenAI Gym那样火热。我们希望,通过OpenAI平台的开源,能够让世界各地的研究机构更加协作,共同参与到算法研究中。 

 

Xtecher:既然说到了去年发布的OpenAI Gym(一款用于研发和比较强化学习算法的工具包),现在这个工具包使用情况怎么样?OpenAI Gym开发到现在最令人兴奋的事情是什么?


OpenAI:很多,可以说每个学校和主流的研究机构都在用。只要和Reinforcement learning (增强学习)有关,和机器人有关,都可能会用OpenAI Gym来作为一个测试的平台。

 

最兴奋的一件事情是,看到越来越多人在这个平台上打造新的软件,因为Gym不仅仅是一个平台,它更多是一个标准,它是一个开放的接口,假如说你有一个软件,或者一个游戏,你可以轻松运用Gym的工作平台,让AI在里面去学习。

 

Xtecher:如果你有无限的预算,你会利用OpenAI的平台做什么,OpenAI本身又会做什么?


OpenAI:我个人的话,我现在在做World of Bits,是OpenAI平台上的一个框架,我们的目的是能够让AI自动地像人一样浏览互联网,帮我们做订机票、订酒店,或者查餐厅这样的事情。之所以这是令人兴奋的,是因为它是虚拟世界的机器人,因为它需要解决和现实社会接近的问题。怎么样给AI设计他们生活的环境,以及AI在我们生活的环境有什么不同是我要解决的人机交互问题。如果仅仅在已有环境中训练机器,那就很简单了,完全可以通过一些API等方法实现。难就难在怎么样去设计这样不规则的环境。

 

OpenAI会继续在机器人领域发力。这是一个令人兴奋的一件事情,希望未来五年,真正能够看到有机器人在家里为你做家务,可以帮你烧饭、做菜,帮你洗衣服、整理床单,将科幻电影中的一些场景变成现实。


“通识”与AI解决所有问题的未来


Xtecher:很多说深度学习,可以给机器带来一些近似于通识的能力,就是像人类一样思考并整合常识。OpenAI通过OpenAI Universe训练人工智能通识的可能性大吗?你们认同吗?

 

OpenAI:目前这个阶段,可能性不大。OpenAI Universe一开始的愿景,是打造AI能够在新的环境中快速学习的能力,就是所谓的Learning to learn。这是人很擅长的,人遇到新的问题,很容易去通过分析和观察,并快速地去学会解决这个问题。那么AI现在,更多的是我有一个数据,然后我用大量数据去训练一个模型,但是这个数据和模型可能并不适用于新的信息。


所以OpenAI Universe的想法是,我们能够去建立一个非常多样化的游戏场景,让虚拟世界变成人工智能的游戏场。不仅是一个游戏场景,可能是一百种相似的场景,让AI在场景训练。然而,common sense(通识)是很难的事情,因为common sense是相当于需要所谓的Life long learning,就是人是通过和其他人不断交流,和自身经验的积累,把所有的知识给总结归纳出一些common sense。我觉得AI还没有做到那一点。所以它对于重复的Task(任务),它能够掌握得非常好。但是如果总结和归纳,我觉得还比较远。

 

这个方向肯定是我们想达到的。但我认为,现在还比较早。它更多是我们要实行的目标,我们有benchmark(标准),但是现在算法层面还没有达到那个层次。所以这是不断积累的过程。

 

Xtecher:正如OpenAI 的联合创始人Ilya Sutskever所说,“一个真正的 AI 应该能解决任何你交给它的问题”,如果要实现这一目标,OpenAI认为还有多久?

 

OpenAI:50年。如果你给AI的问题在框架之内,是清晰定义的问题,那么大量数据的自动化可以达到这个水平。如果你给的问题不在框架内,或者亦有的数据无法训练它,AI是怎么完成?现在大家都没有想清楚,只能慢慢尝试。



打开微信“扫一扫”,打开网页后点击屏幕右上角分享按钮

账号登录

重置密码

还没有账号?立即注册>

账号注册

已有账号?立即登录>注册企业会员

重置密码

返回

绑定手机