如何评价百度刚刚开源的Paddle平台?

news/2024/7/10 19:19:57 标签: 百度, 开源, 深度学习, 神经网络, ai
aidu_pl">

宗仁,黄鑫联合编辑

aiDu.html" title=百度>百度今天aiYuan.html" title=开源>开源了其深度学习平台Paddle,引发了挺多人工智能领域开发者的兴趣,包括一些之前一直在Tensorflow和Caffe上练手的开发者。不过鉴于深度学习aiYuan.html" title=开源>开源平台目前并不多,作为开发者也作为热心吃瓜群众的头等大事,就是想知道——这个平台怎么样?别人怎么看这个平台?以及这个平台跟Tensorflow以及Caffe有何区别?

▎这个平台本身怎么样

Paddle本身在aiYuan.html" title=开源>开源前就一直存在,始于2013年的时候,因为aiDu.html" title=百度>百度深度实验室察觉到自己在深度神经网络训练方面,伴随着计算广告、文本、图像、语音等训练数据的快速增长,传统的基于单GPU的训练平台已经无法满足需求,为此在徐伟的带领下,实验室搭建了Paddle(Parallel Asynchronous Distributed Deep Learning)多机并行GPU这个训练平台。

但今天aiYuan.html" title=开源>开源的Paddle当然不是3年前的简单模型,3年前Paddle可能还是一个独立的深度学习平台,不能很好地支持把数据从其他平台接入的需求。但今天的Paddle已经在处处强调,它的特色是让Spark与PADDLE耦合起来,是一个基于Spark的异构分布式深度学习系统。并且经过和aiDu.html" title=百度>百度相关业务的“紧密摩擦”后,它已经迭代了两个版本:从Spark on Paddle架构1.0版,到Spark on PADDLE 架构2.0版。根据平台aiYuan.html" title=开源>开源的规则,大概是在aiDu.html" title=百度>百度内部用的非常得心应手,修复了一系列bug后,实验室才终于打算把Spark on PADDLE以及异构计算平台aiYuan.html" title=开源>开源。至于aiDu.html" title=百度>百度为什么要aiYuan.html" title=开源>开源,这个理由大家都懂的

深度学习平台目前还有很多bug——吸引更多的开发者来尝试和使用深度学习技术,对提高Paddle的档次是绝对有帮助的。

▎外界人士对这个平台的评价        

知乎上贾清扬的回答,目前是比较正面的评价。

1. 很高质量的GPU代码

2. 非常好的RNN设计

3. 设计很干净,没有太多的abstraction,这一点比TensorFlow好很多。

4. 高速RDMA的部分貌似没有aiYuan.html" title=开源>开源(可能是因为RDMA对于cluster design有一定要求):Paddle/RDMANetwork.h at master · baidu/Paddle · GitHub

5. 设计思路比较像第一代的DL框架,不过考虑到paddle已经有年头了,这样设计还是有历史原因的。

5.1 config是hard-code的protobuf message,这对扩展性可能会有影响。

5.2 可以看到很多有意思的类似历史遗留的设计:采用了STREAM_DEFAULT macro,然后通过TLS的方式定向到非default stream:Paddle/hl_base.h at 4fe7d833cf0dd952bfa8af8d5d7772bbcd552c58 · baidu/Paddle · GitHub (所以Paddle off-the-shelf不支持mac?)

5.3 在梯度计算上采用了传统的粗粒度forward/backward设计(类似Caffe)。可能有人会说“所以paddle没有auto gradient generation”,这是不对的,autograd的存在与否和op的粒度粗细无关。事实上,TensorFlow在意识到细粒度operator超级慢的速度以后,也在逐渐转回粗粒度的operator上。目前只看到这里。总之是一个非常solid的框架,aiDu.html" title=百度>百度的开发功底还是不错的。

估计不少人都读过贾清扬的评价,下面我们贴一个前aiDu.html" title=百度>百度数据工程师,极视角CTO缨宁的评价

看了一下,从设计理念来看和Caffe挺像的,但网络模型没有Caffe那么容易定义。最大贡献是做了分布式,提高了建立模型的速度。再详细的感受就得看代码和上手用了。

另一个跟上面两位观点反差较大的某研究深度学习的学者表示

 Tensorflow的架构可以认为是一个升级版的theano, theano比Caffe还要早几年,只是Caffe最早train好了,同时发布了一些成功的卷积神经网络模型因此得到更多关注。Tensorflow和Caffe没啥太大的关系,可能借鉴了Caffe某一些实现技巧,本质上没啥关系。 aiDu.html" title=百度>百度这个很有可能是看到Caffe的成功之后实现的,很大程度模仿的Caffe,  同时试图修改一些东西使其看的和Caffe不一样。


我估计使用Caffe的人不会投向它,使用其他的工具的人(tensorflow, keras, theano, torch,mxnet)也不会投向它, 大家说几天然后就……一个月之后看一下它的github的关注量和github上能够找到的别人写的代码量你就知道他是否能有什么浪花(后面可以看看有没有人用他来参加kaggle或者其他比赛或在科研发布代码)。现在基本每个大公司都发布自己的深度学习框架(或者机器学习框架),例如微软, 亚马逊, 雅虎,好像都没有大动静。

这个平台跟Tensorflow以及Caffe有何区别

雷锋网(搜索“雷锋网”公众号关注)申请了Paddle的今天公测版本,目前还在审核中,虽然不能直接下载体验,但和其它两个平台的区别也不是毫无踪迹。根据我们之前对Caffe, Tensorflow的了解,以及今天Paddle放出的数据。

如何评价<a class=aiDu.html" title=百度>百度刚刚aiYuan.html" title=开源>开源的Paddle平台?" src="http://static.leiphone.com/uploads/new/article/740_740/201608/57c6c43a769f7.png?imageMogr2/format/jpg/quality/80" style="border:medium none; max-width:100%; height:auto" />

附接口语音

Caffe         ——cmd, matlab, python

Tensorflow——python, c++

Paddle      ——python, c++

(注:其中python是开发者主要使用的语言, 只有Caffe修改model内部的时候要用的c++。(如有异议,欢迎各开发者进一步交流)

总的来说

1)Caffe可以说是第一个工业级深度学习工具,始于2013年底由UC Berkely的贾杨清编写的具有出色的CNN实现功能的开发语言,在计算机视觉领域Caffe仍然是最流行的工具包。

Caffe的开发语言支持C++和Cuda,速度很快,但是由于一些历史性的遗留架构问题,它的灵活性不够强。而且对递归网络和语言建模的支持很差。Caffe支持所有主流开发系统,上手难度属于中等水平。

2)Tensorflow是GoogleaiYuan.html" title=开源>开源的第二代深度学习技术,是一个理想的RNN API实现,它使用了向量运算的符号图方法,使得开发的速度可以很快。

Tensorflow支持的比较好的系统只有各种Linux系统和OSX,不过其对语言的支持比较全面,包含了Python、C++和Cuda等,开发者文档写得没有Caffe那么全面,所以上手比较难。

3)而此次aiDu.html" title=百度>百度的Paddle,作为基于Spark的异构分布式深度学习系统,通过使用GPU与FPGA异构计算提升每台机器的数据处理能力,暂时获得了业内“相当简洁、设计干净、稳定,速度较快,显存占用较小。”的评价,跟它通过使用GPU与FPGA异构计算提升每台机器的数据处理能力有重要联系。不过具体表现如何,还需等待几天观察一下大家的使用感受。

(若无特别注明,雷锋网文章皆为原创,转载请注明出处)


http://www.niftyadmin.cn/n/1606060.html

相关文章

诚邀入伙,共谋百度云智能服务之大业

没错&#xff0c;这是一篇招聘贴在这一刻就是我们缘分的起点生活不止苟且&#xff0c;还有诗和远方工作不只是赚钱&#xff0c;更是实现梦想的奋斗历程如果你希望寻一份热爱的工作&#xff0c;做有趣的事&#xff0c;与一支靠谱的团队共同努力&#xff0c;成就事业的梦想&#…

刷脸支付服务商抓住刷脸的红利

刷脸支付“刷脸支付”正是今年移动支付领域应用的新科技。4月&#xff0c;支付宝推出“蜻蜓二代”&#xff1b;8月&#xff0c;微信推出“微信青蛙Pro”&#xff1b;11月&#xff0c;银联推出“刷脸付”&#xff0c;三大巨头相继完成布局。作为微信、支付宝、银联的服务商&…

现代分析技术支撑“中药现代化”发展

http://info.pharmacy.hc360.com/2010/05/131557143338.shtml 【慧聪制药工业网】“中药现代化”的目标虽然已经提出了30年&#xff0c;但直到上世纪90年代中后期才形成真正意义上的“中药现代化”概念。近年来&#xff0c;通过对新兴学科代谢组学的研究、实施GMP、GAP、指纹图…

2018百度云智峰会发布ABC3.0 催生新业态引领智能变革

9月4日&#xff0c;2018 ABC SUMMIT百度云智峰会在上海正式开幕。本次大会以“Inception引领智能变革”为主题&#xff0c;百度云重磅发布ABC3.0、业界唯一AI to B平台&#xff0c;推出最懂中文的智能客服、国内首个一站式AI开发平台Infinite等产品。中化农业、宝武集团、北汽集…

iPhone 7的音频革命:Lightning真的会取代3.5mm音频接口吗?

雷锋网按&#xff1a;本文作者陈孝良&#xff0c;工学博士&#xff0c;中科院声学所副研究员。 今年初笔者曾经写过一篇《苹果为什么总想取消3.5MM耳机接口&#xff1f;流言真的会止于iPhone7吗&#xff1f;》的文章&#xff0c;现在9月份苹果秋季发布会临近&#xff0c;那么到…

刷脸支付服务商有极大的发展潜力

当下&#xff0c;支付无卡化已成趋势&#xff0c;而作为一种新型、具有大规模商业化推广前景的创新支付方式&#xff0c;业内倾向认为“刷脸付”将有很大可能替代扫码支付&#xff0c;推动国内支付行业从卡时代、APP时代进一步向以“刷脸付”为代表的生物识别支付媒介时代跃迁。…

百度云×百信银行:金融科技点亮智惠生活

THURSDAY2018年9月4日&#xff0c;2018 百度云智峰会在上海盛大召开。在当天下午的智能金融分论坛上&#xff0c;来自百信银行副行长兼首席信息官寇冠分享了《金融科技点亮智惠生活》的主题演讲。寇冠介绍到&#xff0c;百信银行作为全球首家由“主流商业银行主流互联网公司”联…

刷脸支付服务商深耕场景增强服务

从蜻蜓、青蛙到蓝鲸&#xff0c;从支付宝微信到银联&#xff0c;刷脸支付市场正式进入“三国杀”时代&#xff0c;收单机构、聚合服务商、商户将围绕中国移动支付变革&#xff0c;支撑起中国刷脸支付生态。在扫码支付时代&#xff0c;正是借助聚合才形成线下全面覆盖的市场生态…