公司新闻
您的当前位置:网站首页 < 新闻动态 < 公司新闻
一流科技正式上线OneFlow v0.5版:四大特性完成轻巧上手,高效、易用此后兼得
发布日期:2022年05月06日
       9月27日?中关村论坛全国川流不息生意大会上]一流科技创始人CEO袁进辉颁布发表深度进修构造OneFlowv0.5.0正式上线GitHub?他要点引见了OneFlowv0.5.0的四大特性。本次产品晋级也是OneFlow自2020年7月31日开源以来(从命公布最重磅的版别。高效‘易用[完备是任一深度进修构造将来比赛中胜出的必经之路。用三年时辰对最难的分布式核算和高效性成就停止攻关后[OneFlow开源以来[已历经五次版别更迭;要点从优化编译:API接口等层面攻关易用性务实(一同持续优化分布式从命, 对峙业界抢先职位。一方面!OneFlow构造一开端就对准最具应战的高效性;并吞川流不息制高点?并以此成为安身业界的安身之本。别的一方面?跟着OneFlowv0.5.0的公布%OneFlow将带给开拓者反动性的易用性务实!一同!也从大局视角打破了深度进修构造易用性和高效性不成兼得的枷锁;向着环球范畴内最好用深度进修构造的目的迈出了稳固的一大步。本次产品晋级也中选了2021年度中关村论坛“百项新川流不息新产品榜单”。四个“一”完成极致易用性务实比力此前的版别]OneFlowv0.5.0易用性上完成了四大川流不息特性。
       一行代码完成OneFlow与PyTorch切换仰仗易用性}PyTorch深度进修构造商场异军兴起}其单卡的eagermode!pythonic!面向东西编程等使用方案上广受承认。新公布的OneFlowv0.5.0也领受了其方案主张:使其编程API层面和PyTorch影象犹新对齐, u赢电竞 并对齐了相关模型的200多个算子。对喜欢使用PyTorch的eager形式的开拓者来讲?只需变动一行代码{就可以够让PyTorch上写的代码OneFlow中跑起来。一段代码完成静态图与静态图转化编码调试阶段(静态图的编程形式的务实最好,

但当模型结实后, 静态图形式运转凝视方面更有优势。因而, 最梦想的构造是一同撑持两者;使用户一个构造上享用到最好的动:静态务实)并且最好动]静态图可以自转化。OneFlowv0.5.0中, 开拓者只需把使用静态形式开拓的代码用nn.Graph封装起来}就可以够享用静态图的长处。当然?要想完成完全主动的动:静态转化{还需求进一步攻关。不合性视角完成单机和分布式无缝切换跟着数据和模型的方案越来越大]单卡和单机现已不能合意开拓者的需求, 很多财富级的深度进修模型必需分布式集群上操练。可是?由于分布式编程的门坎太高]且大部分算法科学家对分布式编程其实不理解, 这给分布式操练带来必定应战。为了闪开拓者没需要无视混乱的分布式底层细节%只成心于逻辑层面的神经搜集成立{OneFlow创作创造性地发清楚明了不合性视角(ConsistentView)的概念?把分布式的多卡模拟成一块超大的编造装备!不合了单机和分布式的编程接口%然后便当让算法工程师低成本使用分布式核算来放慢。一套系统撑持各类并行形式不同神经搜集的最优并行法子其实不不异(像CNN这类大数据‘小模型的神经搜集层次最好用数据并行]对超大的全跟尾层这类模型更大的层次最好用模型并行?关于featuremap超大大体层次超深的神经搜集更适宜流水并行。但很不幸{原有干流构造仅撑持经常操纵的数据并行]要想使用模型并行大体流水并行从命{就必需凭仗某种插件大体做深度定制;并且这类定制系统都只能用于HugeCTR:Megatron-LM等某一种标准的神经搜集。OneFlow系统层面撑持了数据并行)模型并行和流水并行%不需求额定的插件和定制开拓?就可以够以最小代码量高效撑持任何神经搜集。“人有我优‘人无我有”的高效性要晓得?原有深度进修构造城市萃于单卡的用户务实!仅对适宜数据并行的多机多卡场景处置的较好[但碰着WideandDeep模型?GPT-3等超大模型}开拓者就会晤临多机多卡编程难?凝视低下或没法完成平分布式深度进修的痛点。当然这些构造颠末改良构造方案或研制NCCL[Horovod, HugeCTR等级三方插件的法子获得了一些行进?但受限于构造本身架构方案的缺少, 仍不能合意用户对极致从命的需求;而OneFlow这方面的优势可以归结为“人有我优”和“人无我有”, 是通通构造中的最优处置方案。撑持OneFlow高效性的后背有四大枢纽川流不息?其间静态调度和流式实行均为业界创始?编译器主动编列并行形式和流水线;编译器主动处置从逻辑使命到硬件本钱的映照}包含数据并行, 模型并行’流水并行的装备分拨和数据路由方案, 大大降落分布式编程的混乱度[用户只须关心使命的逻辑构造和本次使命可使用的硬件本钱)而不消去编程完成数据硬件本钱中的活念头制。静态调度’把通通能正式运转之前获得的调度计谋?本钱打点计谋等成就都编译阶段处置?运转时不需求线求解最优的调度方案:然后大大降落运转时开支。为了让用户使用高度静态模型时也有出色的务实]OneFlow内部有静态两套实行机制。去中心化和谈(运转使命时!不再需求中心调度器]只需求撑持高卑贱使命之间部分的握手暗记暗记即可?即消费者向顾客发送的恳乞降顾客向消费者发送的承认%部分系统以全链路异步的法子运转。流式实行引擎(不同于此外深度进修构造把数据转移当做二等苍生!OneFlow将数据转移看做一等苍生。静态分析阶段}OneFlow就把磁盘IO, u赢电竞 主存和装备之间数据转移(节点间数据转移看做和核算对等次要的使命[价格分析和调度计谋里作为一等苍生停止显式建模’然后获得堆叠传输和核算的最优方案。深度进修构造的演进途径作为重生代深度进修构造!当然OneFlow易用性和高效性上具有不俗实力%但它要想将来进一步扩大开拓者社区中的比赛力;还需求算子:模型库等完备性上补足功课(而这需求更多社区开拓者参与其间。将来,

OneFlow深度进修构造将怎样睁开?一流科技创始人袁进辉给出了他的辨别(构造渠道标准化?深度进修算法的标准化[带来了软件标准化的时机]深度进修构造正走向标准化。生态决议构造将来的比赛力;之江测验考试室?北京智源野生智能研讨院(粤港澳大湾区数字经济研讨院:之江测验考试室;中关村智用野生智能研讨院等顶尖AI科研院所已使用OneFlow构造睁开研讨工作。一同,

结合寒武纪%燧原科技(曙光DCU等芯片, 云厂商高卑贱企业!促进适配OneFlow构造的超大模型操练方案。下一步?一流科技将促进与更多芯片厂商和宽广开拓者的协作!打造AI渠道的昌隆生态。软件2.0趋向:前特斯拉AI负责人AndrejKarpathy曾指出{软件1.0的“典范仓库”是用Python[C++等言语编写的核算机显式指令;与软件1.0不同!软件2.0用深度进修模型从数据中主动推导天生软件的编程范式?深度进修构造极有可以会朝这一标的目的跨进。像数据库产品那样供应标准化效劳面向社区开拓者;一流科技不竭进步OneFlow构造用户务实?与此一同?作为一个商业化公司]根据OneFlow构造)照应推出了标准化处置方案)包含云边端AI根底设备OneBrain!OneAgent智能决议方案渠道和OneFlow智能云渠道。他们以为’AI财富化时机于标准化的根底设备和云原生趋向。OneBrain开拓渠道具有丰富的开拓形式, 撑持高从命分布式操练(多租户的本钱调度和混合云的处置方案。颠末私有化安插、用户可以OneBrain上可以完成多租户和多使命打点,

撑持可视化:日志分析等从命}根据用户的集成方案%节点)使用时长等计费。
       OneAgent智能决议方案渠道是一个根据深度强化进修的渠道?它创作创造性地使用了微效劳架构]次要面向无人对战!途径方案, 态势感知与智能博弈?金融量化生意等深度强化进修的操纵处景。
       此外;OneFlow智能云渠道作为面向宽广开拓者的AI实训与开拓渠道?供应宏构算法讲解[开源算法实测’线编程情况及算力。它能辅佐开拓者快速掌握深度进修开拓的相关手艺;边学边连。将来!OneFlow智能云渠道还将面向中小企业用户供应PaaS和SaaS效劳)辅佐更多企业用AI赋能消费和打点。如今[一流科技已效劳十多家客户;出格是对从命’大规别离布式场景有遑急需求的头部互联网公司, 安防公司[政务云]科研院所等机关(包罗丹青:天然言语处置’金融‘告白/推荐等操纵处景。
返 回
友情链接: 龙8国际中国官方入口-龙八国际app   火狐体育-中国官方入口   ballbet体育最新官方入口_ballbet综合网页版   
企业概况
总裁致辞
公司简介
组织机构
项目介绍
新闻动态
公司新闻
行业动态
媒体聚焦
信息公开
企业文化
企业理念
社会责任
人文关怀
科普讲台
垃圾分类
垃圾处理
危废处置
安全环保
联系我们
联系方式
地图导航
Copyright © 2000-2022 亚马逊盈利不及预期 云业务增速放缓 yamaxunyinglibujiyuqiyunyewuzengsufanghuan ,All Rights Reserved (www.hnscaf.com) 晋ICP备2020927829
手机扫一扫