冯诺依曼架构的 IO 鸿沟,谁能来填补?

冯诺依曼架构的 IO 鸿沟,谁能来填补?

冯诺依曼架构的 IO 鸿沟,谁能来填补?

作者 | 宋慧

头图 | CSDN 下载自东方 IC

随着AI技术、数据分析等领域兴起,数据变得越来越重要了,数据处理往往需要用到大量的内存,数据量爆发式增长让各种内存密集型应用层出不穷,如Redis数据库、SAP HANA企业核心系统。在CSDN 2019、2020年度的开发者调查数据中,有四成的开发者在数据收集和消息处理中采用Redis,并且比例在逐年上升。

不过现阶段的困境是,底层基础设施的发展却未能完全匹配数据爆炸的需求。

随着5G和网络性能的提升,计算存储网络三部分中的存储短板问题变得更加突出,内存的容量密度及速度与处理器的核数增长之间的差距越来越大,内存成为了短板。为了让机器得以处理更多的数据,部分企业只能扩大内存,而内存与CPU的配比有限,这又会造成CPU算力的浪费,昂贵的内存也会让企业面临更高的成本压力。

长久以来,虽然分级存储机制已经最大化平衡了各类存储介质的性能与成本要求,但业界对于新存储介质的探索一直未停歇。而在去年,阿里云推出了持久内存实例(简称re6p),更像是向冯诺依曼计算机体系中的终极梦幻存储方案迈进了一步。CSDN近日采访了阿里云ECS弹性计算产品团队负责人王志坤与阿里云持久内存型实例产品经理唐湘华,揭秘阿里云对持久内存实例的设计理念与对存储未来方向的理解。


冯诺依曼架构的 IO 鸿沟,谁能来填补?

冯诺依曼架构的难题:“内存墙”


过去近一个世纪,冯诺依曼架构构成了计算机科学的基础。在冯诺伊曼架构中,中央处理器(CPU)通过指令从内存中读取数据,并完成计算,再将数据返回内存保存。冯诺依曼理论模型的一个很重要的假设,就是计算与存储的速度相当。但是一旦出现不匹配,慢的一方会成为瓶颈。

如今,虽然数据量在猛增,但底层技术未能均衡发展。内存的容量密度及速度与处理器的核数增长之间的差距越来越大,内存发展速度跟不上计算核数的增长,内存成为的短板,这就是“内存墙”。

为此,不少企业用提升内存的方式对应对该问题。阿里云弹性计算为了满足客户需求也推出了大内存实例,比如阿里云最近推出了6TB 大内存的实例。然而,如前所述,这又会造成CPU算力的浪费,昂贵的内存也会让企业面临更高的成本压力。这并非长久之计,也难以规模化,需要从底层技术角度解决“内存墙”这个行业难题。

王志坤回忆,自己跟存储颇有渊源,自己在读博士的时候刚好就研究这一领域。“IO在整个计算机也好,服务器也好,一直是比较慢速的设备……冯诺依曼架构为什么有一层缓存系统?就是为了解决我们计算、内存和存储之间的性能鸿沟。”其实早在十几年前,学术界就在致力于研究存储领域的介质,来填补这个鸿沟。学术界和工业界都在寻找一种新型的存储介质,能够同时具备内存级别的性能,和硬盘对数据存储的持久性。

可惜,不少尝试都局限在实验室阶段,缺乏大规模商业化的可能性。

冯诺依曼架构的 IO 鸿沟,谁能来填补?

打破“内存墙”困境

直到这几年,阿里云发现了成熟的、可商用的产品——英特尔傲腾持久内存。该产品重新定义了传统的两级存储架构,性能和形态已经接近内存,而且同时也具备了存储的持久特性。傲腾持久内存与内存的IO性能几乎在相同数量级,但成本大大降低,几乎是为打破内存困境而生。

不过,要发挥这款产品的真正威力,需要非常高的技术能力,仅有少数技术领先的大型企业可以运用得当。阿里巴巴就是其中一家。阿里云启动了研发,希望能将这种能力产品化,让更多的企业低门槛地享受到技术红利。

最终,阿里云基于英特尔傲腾持久内存,赋予了其可为客户提供直接IaaS级云服务的能力,将内存非易失性这种颠覆性的存储架构特性带到了云上。阿里云持久内存实例产品经理唐湘华介绍,阿里云研发推出的持久内存实例提高了单条内存的容量密度,扩大了单颗CPU对应的内存容量,提高了CPU的利用率。持久内存实例应用会帮助用户打破“内存墙”藩篱,获得更高性能的同时,有效降低整体IT基础设施拥有成本(TCO)。

不过,任何IT新的技术从推出到企业级市场落地,企业用户只会用脚投票,拷问新技术与新产品的性价比。所以持久内存在初始期,必定是用来解决IT存储中的短板、最痛的那个问题。

关于持久内存实例的应用场景,阿里云从Redis缓存型数据库、SAP HANA这类典型的内存密集型应用入手,因为这些应用能够最直接地体现介质升级所带来的性能红利。不过唐湘华表示,阿里云团队正在更深入分析持久内存实例,例如在消息队列MQ的应用场景,可以大幅度地降低消息的长尾延时和业务抖动。除了作为内存的低成本替代品之外,傲腾持久内存也可以作为SSD来使用,在游戏前端、直播前端这些高负载、高并发的IO密集型应用中,持久内存实例想象空间将更加巨大,这也会是阿里云弹性计算的重点发力方向。


冯诺依曼架构的 IO 鸿沟,谁能来填补?

持久内存实例,从技术到产品


傲腾持久内存听起来具有如此巨大的优势,但所有新技术在早期较高的技术研发门槛,是让用户望而却步的主要原因。

从全球领域来看,很多传统服务器厂商也在推出持久内存产品,客户购置回来却很难直接使用。除了技术门槛,新介质与已有IT资源的兼容也是需要解决的问题。而云端的优势是用户可以随时随地享受到弹性计算的产品迭代、享受到最新的存储介质。同时,云厂商的多种付费模式,也会降低用户使用门槛。通过云厂商,用户可以非常低的门槛使用持久内存,应用于自身的业务,而这几乎是所有企业级生意的最佳切入模式。

所以当业界还在讨论持久内存与DRAM性能对比、持久内存适用的场景和用例时,阿里云已经正式推出了基于英特尔傲腾持久内存的产品。不过,全球知名的云计算厂商有很多,为什么是阿里云,成为全球率先推出商业化的持久内存实例的云服务商?这是更有趣的问题。

作为推崇技术普惠宗旨的云计算厂商,阿里云既是最贴近用户一方需求的技术资源提供者,也是将高深技术规模化商用、降低技术门槛的变革者。

王志坤认为,阿里云的体量与规模发展到一定阶段,在服务客户过程中看到了客户的诉求,原来的大内存实例十分昂贵,无疑是不符合云计算的普惠原则。不过,在云端将持久内存规模化提供给用户,对技术能力的要求是非常高的。

纵观阿里云的架构,除了有自主研发“神龙”云服务器架构之外,还有“飞天”云操作系统、“盘古”存储平台、“洛神”网络平台、PolarDB云原生数据库等等,构成了统一的云平台,让阿里云具备了从虚拟化层到操作系统内核层全链路的整合与调优能力。这些能力最终使得阿里云弹性技术团队对持久内存的产品化研发变得更加敏捷。

“阿里云所有的弹性计算产品全部是基于神龙架构的。我们所有的虚拟化工作,得到了极大简化,我们整个飞天云操作系统底层的很多工作,都是由我们神龙芯片来完成的。这也大大提升了引入AEP这种新型存储介质对于整个产品迭代演进的速度。”王志坤表示。

阿里云全面融合了英特尔持久性内存的产品特性,在Redis数据库中,阿里云从虚拟化层到操作系统内核层,全链路进行了优化加速。

在应用层的优化中,Redis缓存型数据库,是典型的KV数据结构,在持久内存和普通内存同时存在的系统中,尽量将Redis的索引数据放到DRAM(动态随机存取存储器,即原来的内存)而将用户数据放到持久内存中。动态阈值管理数据分布,既可以保证较小的索引数据尽量放到内存中,又可以保证普通内存和持久内存符合一定的容量比列。同时对于一些生命周期较短并频繁访问的数据,阿里云会通过优化将其放置到普通内存中。利用此方法阿里云持久内存实例的性能可以非常接近于DRAM。

而在内核层面,阿里云持久内存实例搭载了阿里云官网操作系统Aliyun Linux,针对Redis应用,阿里云从内存锁操作、进程fork流、内存合并等Redis应用数据流处理及管控关键技术节点上,进行了针对性的优化设计。让运行在持久性内存实例上的Redis数据库读写性能相对于运行在开源Linux操作系统上的性能提升20%以上。

附:阿里云持久内存实例的性能与收益:

  • 性能大幅提升:在Redis等内存型数据应用中,经过阿里云全链路优化,性能相对于运行在开源Linux操作系统上提升20%以上;

  • 超大内存配比:提供1:20超大内存容量配比,更低的价格,更大的内存容量;

  • 断电数据不丢:机器断电数据不丢失,重载速度最快提升高达12倍以上。


冯诺依曼架构的 IO 鸿沟,谁能来填补?

未来:存储介质界限模糊,走向软硬一体


就在刚刚过去的2020年底,英特尔的傲腾持久内存已经发布至第二代了。从磁带、磁盘、闪存再到持久内存,存储介质的性能与成本在持续向前迭代演进。每一代存储介质均是逐步退出舞台中央,去承担更低性能的存储归档数据的职责。

阿里云两位专家认为,未来无论介质抑或是产品层面,内存和传统存储的界限在不断趋于模糊,各类存储介质将是长期并存的状态。同时,随着IOT、5G的兴起,数据的量级将继续增大,人们对于数据的访问、检索、处理的要求将越来越高,IO密集型应用也会促使超高性能的存储设备更加广泛地被使用。

从更广阔的角度看,IT系统从硬件主导,进入了云计算的软件定义时代,但在阿里云专家看来,未来软件与硬件不再是IT的两个对立面,阿里云从神龙架构和芯片开始,已经走向软硬一体的下一个时代。软硬一体化将让阿里云作为一个整体去接纳新的介质、新的技术,提升迭代速度。

5G、人工智能的普及,数据量爆发式增长,让数据的流动与应用变得更加普遍,对海量数据的快速处理将是一切人工智能创新的基础。未来,阿里云在AI、大数据等方向对软硬一体化、芯片化的探索,仍将不停向前。

上一篇:推动“扶老上网”服务 让老干部享受数字化便利
下一篇:

相关推荐

微软智能云在华新增数据中心区域,云服务翻倍扩容

微软智能云在华新增数据中心区域,云服务翻倍扩容

1184 微软科技

(本文阅读时间:6分钟)2021年3月3日,北京——微软公司宣布,继续加大对中国市场云服务的投入,通过与世纪互联合作,新增微软智能云在华数据中心区域,并计划于2022年春季将其正式投入商业运营,实现微软智能云矩阵MicrosoftAzure、MicrosoftOffice365、MicrosoftDynamics365及MicrosoftPowerPlatf

阿斯利康新冠疫苗真实世界数据首次公布,一针就可显著降低老年人患病和住院风险

阿斯利康新冠疫苗真实世界数据首次公布,一针就可显著降低老年人患病和住院风险

1657 药明康德

▎药明康德内容团队编辑随着多款新冠疫苗在世界各地获得授权使用,疫苗在真实世界中预防COVID-19的数据也不断涌现。此前,以色列的多家医疗和研究机构已经对辉瑞和BioNTech联合开发的mRNA新冠疫苗BNT162b2在真实世界中的预防效力进行了持续的汇报。而其它获得授权的疫苗因为大规模接种开始的时间较晚,目前真实世界数据还不多。今日,英国公共卫生部(Pub

哈佛大学数百万人研究数据:每天5份蔬菜和水果,这样吃更长寿

哈佛大学数百万人研究数据:每天5份蔬菜和水果,这样吃更长寿

712 e药环球

▎药明康德内容团队编辑蔬菜和水果,含有丰富的维生素、矿物质和抗氧化物,是人们日常饮食的重要组成部分,不仅为人体提供必需的营养,也促进着整体健康。在全球范围内,蔬菜和水果食用量不足,是造成疾病和过早死亡的主要饮食因素之一。已有大量研究显示,富含蔬菜和水果的饮食,有助于降低心血管疾病、癌症、高血压和糖尿病等多种疾病风险,延长寿命。近日,一项发表于美国心脏协会(A

最新数据:小宝宝出生几斤几两最健康?当妈的都来看看

最新数据:小宝宝出生几斤几两最健康?当妈的都来看看

1907 快乐孕育孕妇课堂

被宣告怀孕后,孕妈妈们就成为家里的“大熊猫”,全家的重点保护对象,什么也不让干,吃的喝的敞开了来,最后再生个大“胖”小子。他们认为:“宝宝出生越胖、体重越重,证明营养吸收的越好,孩子以后越聪明”。这是什么逻辑,简直太荒谬。胎宝宝太胖并不是好事,反而更容易出现健康上的问题正常足月新生宝宝的出生体重在2500克~4000克之间。当宝宝出生体重达到或超过4000克

【数据汇】进攻哑火军刀背靠背遭零封 凯恩里程碑黑鹰复仇大胜

【数据汇】进攻哑火军刀背靠背遭零封 凯恩里程碑黑鹰复仇大胜

1612 NHL小冰

【集锦】见证历史!凯恩砍下职业生涯第400球黑鹰7-2横扫红翼北京时间3月1日,NHL常规赛继续进行,今日一共进行了6场比赛,一起来关注一下比赛综述与数据汇总:纽约游骑兵1-4波士顿棕熊上一场大败的棕熊本场找回场面,科伊尔开场第六分钟破门,随后弗雷德里克在首节结束前两分钟扩大优势。进入此后之后麦卡沃伊的入球将比分变为3-0。游骑兵末节由布莱克威尔追回一球,但

4项数据第1,三球太惊喜!最佳新秀无悬念?

4项数据第1,三球太惊喜!最佳新秀无悬念?

570 弘润元吉体育

“拉梅洛会成为一个大麻烦。”追梦格林在社交媒体上写道。拉梅洛-鲍尔,的确会成为对手的大麻烦。今天,黄蜂以127:126神奇地逆转了国王。三球上半场5投3中,拿到14分2篮板8助攻。此役三球出战38分31秒,全场12投7中,罚球10中9,拿到24分12助攻4篮板1抢断。三球上半场5投3中,其中三分球1中1,罚球8中7,拿到14分2篮板8助攻。没错,虽然今天黄蜂

【大唐早读】重磅经济数据出炉,2020年GDP总值同比增长2.3%!

【大唐早读】重磅经济数据出炉,2020年GDP总值同比增长2.3%!

1246 大唐财富智库

1唐·昨日最重磅经济数据出炉,2020年GDP总值同比增长2.3%!国家统计局官方网站2月28日发布2020年国民经济和社会发展统计公报。初步核算,全年国内生产总值1015986亿元,比上年增长2.3%。其中,第一产业增加值77754亿元,增长3.0%;第二产业增加值384255亿元,增长2.6%;第三产业增加值553977亿元,增长2.1%。全年居民消费价

喜讯!刘鹏教授及其主编大数据、人工智能图书摘获多个奖项!

喜讯!刘鹏教授及其主编大数据、人工智能图书摘获多个奖项!

1622 云创大数据

近日,在图书出版领域传来喜讯——清华大学博士、中国大数据应用联盟人工智能专家委员会主任、中国信息协会教育分会人工智能教育专家委员会主任刘鹏教授及其主编的大数据、人工智能图书摘获多个奖项!其中,在北京无忧创想信息技术有限公司(51CTO)主办的“2020年度最受读者喜爱的IT图书和作者评选”活动中,清华大学出版社出版的《大数据系统运维》斩获“数据科学领域最受读

腾讯入股国产ACT《失落之魂》开发商 投资200万
游戏

腾讯入股国产ACT《失落之魂》开发商 投资200万

1587 网游圈里的那些事

据国外知名分析师DanielAhmad在推特上公布的消息,腾讯入股国产ACT《失落之魂》开发商上海灵犀信息科技有限公司,持股10%。上海灵犀信息科技有限公司成立于2017年,《失落之魂》演示公布后大火。《失落之魂》也被选为索尼PlayStation“中国之星计划”游戏之一。目前游戏开发进展顺利。同时据企查查App显示,腾讯为上海灵犀信息科技有限公司注资200

我相亲18次遇到老公,很甜蜜,可车祸时他没有救我 | 晚安故事
私房话

我相亲18次遇到老公,很甜蜜,可车祸时他没有救我 | 晚安故事

1598 婚姻与家庭杂志

很多朋友都在问小编姐姐的微信号大家说很想看我的朋友圈想了解编辑部的故事,也想知道我会不会和老公吵架,还有怎么教育孩子……我平时会发发工作的日常和生活的点滴,好玩儿的、好吃的也喜欢分享如果你想更了解我,就请添加小编姐姐微信号为好友吧作者:猪小浅来源:猪小浅(ID:zhuxiaoqian0214)可能这就是爸爸吧。平常说不上几句话,危急时刻,却会毫不犹豫地拿命换

新赛季上分必学!KPL热门英雄,简单易懂,堪称吃分利器!
游戏

新赛季上分必学!KPL热门英雄,简单易懂,堪称吃分利器!

914 电竞怪客

hello大家好,这里是怪客君~S22赛季更新也一个月了,不知道大家的上分之路都怎么样了呢,是势如破竹飞速上分还是一上一下徘徊不前?不要紧,今天怪客来给大家推荐两个个新赛季强势的辅助英雄,易上手,强度高,关键是比较混,简直是轻松上分必备首选。那话不多说,下面就一起来看看吧~S22强势辅助推荐首先要推荐的第一位英雄是我们的孙膑小可爱,孙膑作为T0级别的软辅,一

《明日方舟》提名好莱坞音乐传媒奖 系唯一入围手游
游戏

《明日方舟》提名好莱坞音乐传媒奖 系唯一入围手游

1332 游民星空

点击上方“游民星空”关注我们对一款游戏而言,最重要的要素是什么?对许多玩家而言,答案显然是“好玩”,好的玩法,才是游戏的根本。显然,此话不假。不过,随着技术发展的日新月异,游戏除了感觉上的“好玩”以外,在视觉上的“好看”、听觉的“好听”、甚至触觉上的“好摸”,也都有了长足的追求与进步。最早的8Bit颗粒、进化成二维的横向舞台、三维的立体空间,到了今天类型已是

港服/欧服开启新春折扣!两款《寂静岭》新作或正在开发!
游戏

港服/欧服开启新春折扣!两款《寂静岭》新作或正在开发!

959 Switch游戏圈

港服eShop开启新春优惠活动3月5日9:59截止。《世界游戏大全51》原价289港币,折后229港币,支持简体中文。《新超级马力欧兄弟U豪华版》原价429港币,折后299港币,支持简体中文。《马力欧网球王牌》原价429港币,折后299港币,支持简体中文。《喷射战士2》原价429港币,折后299港币,无中文。《塞尔达传说织梦岛》原价429港币,折后299港币

私房话

不管夫妻还是情人,关系再好,也不要伸手要这三样东西!

1811 商界管理圈子

阅读本文前,请您先点击本文标题下面的蓝色字体“商界管理圈子”再点击“关注”,这样你就可以继续免费收到文章了,每天早上7:00准时分享,请放心关注.............................................在感情的世界里,伸手要和主动给,完全是两回事。如果一个人真的爱你,无需你开口,对方就会主动给你。倘若你开口提了,伸手要了,意义

大金毛满脸鲜血躺路边喘息...可下一秒,网友集体爆笑:还我眼泪!
萌宠

大金毛满脸鲜血躺路边喘息...可下一秒,网友集体爆笑:还我眼泪!

63 大爱狗狗控

网友家的大金毛coco,这天自己一个狗在墙边玩耍,可等铲屎官注意到它时,发现它一动不动还满脸鲜血,像是被打到头破血流!这惨烈的一幕差点把铲屎官吓死,可当他颤抖着想上前查看情况时...狗子却突然“诈尸还魂”了,还一脸不耐烦看着铲屎官:咋了,找我有事啊?嗯,根本不是什么案发现场,就是一个吃货,火龙果啃到一半睡着了...然后铲屎官的小心脏差点没承受住!(by/dy