巨杉数据库5.0将正式发布
近日,阿里云正式开源了深度迁移学习框架EasyTransfer,这是业界首个面向NLP场景的深度迁移学习框架。开源链接:https://github.com/alibaba/EasyTransfer 该框架由阿里云机器学习PAI团队研发,让自然语言处理场景的模型预训练和迁移学习开发与部署更加简单和高效。 面向自然语言处理场景的深度迁移学习在现实场景里有巨大的需求,因为大量新的领域不断涌现,传统的机器学习需要对每个领域都积累大量训练数据,这将会耗费大量标注的人力与物力。深度迁移学习技术可以将源领域学到的知识迁移到新的领域的任务,进而大大减少标注的资源。 尽管面向自然语言场景的深度迁移学习有很多的需求,目前开源社区还没有一个完善的框架,而且构建一个简单易用且高性能的框架有巨大挑战。 首先,预训练模型加知识迁移现在是主流的NLP应用模式,通常预训练模型尺寸越大学习到的知识表征越有效,然而超大的模型给框架的分布式架构带来了巨大挑战。如何提供一个高性能的分布式架构,从而有效支持超大规模的模型训练。 其次,用户应用场景的多样性很高,单一的迁移学习算法无法适用,如何提供一个完备的迁移学习工具来提升下游场景的效果。 第三,从算法开发到业务落地通常需要很长的链路,如何提供一个简单易用的从模型训练到部署的一站式服务。 面对这三大挑战,PAI团队推出了EasyTransfer,一个简单易用且高性能的迁移学习框架。框架支持主流的迁移学习算法,支持自动混合精度、编译优化和高效的分布式数据/模型并行策略,适用于工业级的分布式应用场景。 值得一提的是,配合混合精度、编译优化和分布式策略,EasyTransfer支持的ALBERT模型比社区版的ALBERT在分布式训练的运算速度上快4倍多。 同时,经过了阿里内部10多个BU,20多个业务场景打磨,给NLP和迁移学习用户提供了多种便利,包括业界领先的高性能预训练工具链和预训练ModelZoo,丰富易用的AppZoo,高效的迁移学习算法,以及全面兼容阿里巴巴PAI生态产品,给用户提供一个从模型训练到部署的一站式服务。
阿里云机器学习PAI团队负责人林伟表示: 本次开源EasyTransfer代码,希望把阿里能力赋能给更多的用户,降低NLP的预训练和知识迁移的门槛,同时也和更多伙伴一起深入合作打造一个简单,易用,高性能的NLP和迁移学习工具。 此外,新华三集团还推出一系列基于X86架构的MSR 5G路由器款型,可以提供本地计算及存储,实现边缘侧分析、判断、处理的能力,优先在本地处理时延敏感型业务、运营汇总类业务数据通过广域网上传至云端集中处理,有效降低关键业务时延,减少海量流量业务对带宽的占用,加速实现业务上云。 5G网络安全卫士 支持端到端国密算法
伴随各行业积极落地5G应用,网络攻击态势也日趋严峻。通过安全的网络解决方案,有效融合5G链路、产品和组网方案,提供用户安全可靠的5G超宽通道资源,成为加速5G行业应用的关键。 Rowsell-Jones先生表示:“虽然收入收到了巨大冲击,但首席信息官还是决定以反击代替防御。” 当被问及需求方面的变化时,58%的表现优异企业、49%的表现普通企业和37%的表现落后企业表示后疫情时代的新客户需求有所增加。 资源再分配 受访者预计2021年的IT预算将平均增长2%,略低于2020年调查的结果(2.8%)。为了在复兴阶段把投资和人员的重心转移至新的业务优先事项上,表现优异企业比表现普通或落后企业更加倾向于这一转变,其中63%的表现优异企业表示增加数字化创新资金,而只有52%的表现普通企业作出这一表示。在获得数字化创新资金支持的企业机构中,表现优异企业的数量比表现落后企业高出2.7倍。 Rowsell-Jones先生表示:“表现优异企业之所以能占得先机,是因为他们的首席信息官所受到的限制更少。与表现普通企业和表现落后企业相比,他们更有可能获得更多的IT资金来支持试验。” 首席信息官仍将网络安全放在前列 首席信息官在调查中表示,支持数字化的技术正在成为风口。由于远程工作导致新攻击面的产生,企业的网络安全支出仍在持续增加。正在增加网络/信息安全投资的受访者比例达到61%,紧随其后的是商业智能和数据分析(58%)以及云服务和解决方案(53%)。 Rowsell-Jones先生表示:“去年我曾对首席信息官们说,如要在2020年取得成功,就需要增加IT组织和整个企业的防范能力,从而抵御即将来临的业务中断,这一点在新冠疫情期间的企业身上体现得尤为明显。首席信息官在2021年必须‘乘胜追击’,继续参与具有更高价值和战略意义的计划。首席信息官的业务表现越好,第二年对他们的业务要求就会越高。”
*编者按:此次调查将首席信息官受访者所在的企业分为三类:“表现优异”、“表现普通”和“表现落后”。在数字化成熟度、相对于竞争对手的业绩以及后疫情时代应对措施的先进性方面,表现优异企业给予自身很高的评价。表现落后企业在数字化成熟度和相对业绩方面的自我评价较低,表现普通企业则代表了其余(大多数)受访者。 (编辑:鹤壁站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |