火山引擎曹志华:火山引擎全球加速产品设计与实践 | CDN十二年

2023-07-19 17:03:36来源: 热度:
在数字化转型速度不断提升的今天,大带宽、低时延、高并发的场景不断涌现,内容分发网络(Content Delivery Network,CDN)应用需求还在不断攀升,打造更高质量的CDN服务将成为新时代产业竞争的关键所在。亚太CDN峰会自2012年第一届以来,转眼已经过了11年,而今正值中国CDN发展十年转型期,提升CDN核心竞争力,打造更高质量的CDN服务将成为推动行业发展的关键所在。 
 
2023亚太内容分发大会暨CDN峰会于6月29日在北京隆重开幕,亚太CDN产业联盟携手中国移动、火山引擎、腾讯云、网宿科技、阿里云、华为云、中兴通讯、白山云、天翼云等CDN领域头部企业,专家、学者和业界领导,共同探讨打造更高质量的CDN服务推动行业发展,共同把握下一个十年人工智能(AI)新技术带来驱动对算力的需求及网络流量增长的巨大经济价值。
 

 
6月29日下午的GA全球加速论坛上,火山引擎边缘云全球加速技术负责人曹志华分享了题为《火山引擎全球加速产品设计与实践》的精彩演讲。
 
01
中国互联网发展趋势与挑战
 
 
近年来中国互联网流量增速的放缓导致中国互联网企业发展增速同步放缓,国内头部APP DAU增长及用户增长都不如以往迅猛,同时中国企业出海的许多产品与应用在海外受到较多欢迎,这些原因促使中国企业形成出海浪潮,尤其在短视频,以及跨境电商、游戏等行业。
 
据《出海领航2023年度百家中国制造企业出海调查》的数据显示,中国企业海外业务占比超20%的企业比例从2021年36%至2022年提升为56%,海外市场给国内企业带来更多机遇的同时也带来诸多挑战,包含跨境传输距离远所带来的质量差问题、跨域需要专线带来的高成本问题、海外网络攻击较为频繁带来的多种网络安全问题。
 
02
火山引擎全球加速产品概述
 
火山引擎全球加速 GA 是一款可靠、高性能、安全的网络加速服务。基于丰富的跨地域的节点,全球加速使流量通过距离客户端最近的加速区域进入火山引擎加速网络,提升客户体验。
 
常见的需要跨地域加速的服务场景包括游戏加速、应用加速等,在这些场景下,全球加速解决了网络抖动、时延高、丢包等问题,提高了流量传输效率。
 
 
火山引擎推出的全球加速产品与友商最大区别在于,火山引擎全球加速产品基于边缘云自身资源构建,火山引擎拥有全球海量丰富边缘资源,可以让用户实现更好的就近接入,提升客户体验;此外,火山引擎全球加速建设了海外主要地区的跨域合规专线,包括东南亚、中日、中韩、中欧等等;同时,推出面向游戏行业端加速解决方案GNA产品,具备网络诊断能力,双通道加速能力,以及端上的预建连、建连重试等能力,以此提升游戏玩家的客户体验。有了端上的加持,全球加速具备了云边端全链路加速能力,同时也具备边端协同、边边协同以及云边协同等能力。
 
03
火山引擎全球加速产品优势
 
1.极致加速性能:节点资源众多,智能调度能力,公网路由择优回源,自研TCP协议栈;
 
2.超高性价比:字节海量业务、边缘节点带宽成本更低、头部压缩降低七层请求带宽;
 
3.安全可靠:T级DDoS防护能力、百万QPS CC防护能力、支持Web漏洞防护、Bot管理;
 
稳定高可用:应用层、节点、集群高可用能力,丰富的活动重保经验。
 
04
极致加速性能,提升用户体验
 
 
• 第一火山引擎在全球有1300多个边缘节点,可以实现用户就近接入。对于移动互联网的用户而言,可通过手机、WIFI、4G、5G等移动网络访问服务,如果这些客户不用加速产品,而是直连源站,如果发生丢包情况,基于现在主流的TCP拥塞控制算法,依靠ACK以及超时机制来判断是否丢报,直连链路时延非常长,导致需要更长的时间能感觉到丢包再进行重传,造成客户体验非常差。如果客户通过更近的节点上车,建连阶段发生在客户端到接入点之间,这种丢包可以快速感知,并且进行快速恢复和重传,可以极大的提升用户体验。
 
• 第二火山引擎具备回源预建连的能力,对动态API加速非常有用,请求一旦进入到加速网络内部,首先会计算出它的下一跳,再根据下一跳的地址来选择一个空闲的已提前建连的链接进行回源传输。这种情况下,可以节省回源的建连时间,包括SSL握手的时间,开启回源预建连能力,可以节省TCP+SSL握手的两个或三个RTT的时间,极大的提高动态接口的加速效果。
 
• 第三,火山引擎全球加速产品自研智能调度算法,可以智能选择更好接入点上车,可以根据客户分布的集中程度选择出最好最优的节点进行上车,可以极大的提升客户接入效果。另外,请求进入到火山引擎加速网络内部,会根据实时探知结果选择出一条最优的链路回源。
 
• 第四,公网路由择优能力,两个节点之间,运营商的网络有很多条路由,每一条路由的时延、丢包率各不相同,有的路由可能会产生绕路,有的路由可能因为水位比较高,导致丢包。火山引擎全球加速产品的调度系统会对所有路由进行实时监测,选择出丢包率更低、时延更低的路由进行传输,从而进行数据加速。
 
• 第五,自研TCP协议栈,根据各种不同场景,比如动态API场景、下载场景、以及上传场景,进行自适应的来选择拥塞控制算法。针对下载场景,我们对BBR协议进行优化,更快的进行升窗,达到更高的传输速度;针对上传场景,在离客户源站最近的接入点下车,原因是加速网络内部窗口升窗算法和机制都是可控的,唯独到客户源站这一段,它的传输速度是受限于客户源站的接收窗口。从距离客户源站最近一个地方下车,最后一跳它的RTT肯定是最短的,最短的RTT就可以带来更快的升窗速度,从而带来上传的带宽会大幅提升。
 
• 最后是确定性网络,运营商会提供基于SRTE技术的优质网络资源,通过它们SDN控制器来实时监测所有链路的时延和丢包情况,并且计算出一条最优的路由,购买了确定性网络的用户数据,就可以通过这条最优路径进行传输,同时成本也不会增加太多,特别适合对时延敏感性业务。
 
05
超高性价比,帮助企业降本增效
 
 
• 第一,全球加速也服务于字节海量业务,包括抖音、今日头条、番茄小说等,如此庞大的规模效应可让全球加速的内部业务与toB客户进行资源复用,包含机器资源的复用、带宽的错峰复用,从而降低资源的开销及成本。
 
• 第二,边缘性价比资源,因为全球加速产品是基于边缘资源构建的,边缘资源天然的性价比更高。服务字节海量的业务,对各个供应商有比较好的议价权。
 
• 第三,针对全球加速产品动态接口在加速网络内部开启了头部压缩技术,7层动态接口开启头部压缩,可以有效的降低带宽开销,以抖音为例,开启头部压缩技术后,带宽开销可以降低至少20%以上。
 
03
分布式安全能力,为企业出海保驾护航
 
 
全球加速产品是基于边缘资源来构建的,天然具备一个分布式防护能力,这个节点遭受攻击,其他节点稳定性业务都不会受到任何影响。如果遭受全局攻击,火山引擎全球加速产品具备T级别带宽的DDoS防护能力,以及百万QPS以上级别的CC防护能力,还具备Web漏洞防护以及自定义的Bot管理能力,帮助企业出海进行保驾护航。
 
03
高可用能力,重大活动保障经验
 
 
稳定性能力,包含高可用能力,以及重大活动保障经验的能力。高可用能力,分为应用级的高可用,节点级的高可用,以及集群级别的高可用:
 
•应用层高可用:火山引擎全球加速产品支持源站多协议的健康检查,在2分钟之内能够感知并且把流量调度到备用源站。
 
•节点高可用:当节点故障后,智能调度系统可以在2分钟之内把流量调度到其他节点,尽快恢复业务。
 
•集群高可用:对重要客户底层资源做了完全隔离,进行故障域的完全隔离,保障好重点客户。
 
火山引擎全球加速产品拥有重大活动丰富的保障经验,包含2022年抖音世界杯直播、2021年抖音央视春晚红包活动、抖音商城双11活动、京东618活动,这些重大活动的保障经验,可以更好的服务好我们的外部客户。
 
以抖音2021年央视春晚直播活动为例,我们储备了亿级 QPS 的容量,并且对各种极端的容灾场景都有完备的容灾预案,这些容灾预案现在已完全固化起来并进行常态的容灾演练,切实保障好内外客户的服务。
 
03
火山引擎全球加速的典型场景与应用
 
全球加速核心场景
 
 
全球加速产品的一些核心应用场景,包含互联网应用加速、游戏加速、海外数据集拉取加速以及办公加速。
 
• 互联网应用加速,针对海外用户访问国内服务,加速全球应用传输,提升互联网应用体验。
 
• 游戏加速场景,提供优质的全球骨干网资源,联动面向游戏行业端的解决方案GNA产品,进行全链路加速,端上可以提供预建连、连接重试的能力,以及双通道加速的能力等,提升游戏玩家的体验。
 
• 海外数据集拉取加速,针对AIGC相关的跨境数据集,提供数据集传输加速服务,减少传输时延保障传输效率。
 
• 办公加速场景,跟火山引擎一站式安全办公产品“飞连”一起,协同火山引擎全球加速的加速网络提升全球office协同办公的网络环境,提升办公效率。
 
典型客户案例
 
客户案例一:抖音个性化推荐
 
 
抖音个性化推荐服务是抖音最核心的接口之一,根据用户喜好返回推荐的短视频列表,抖音客户体验与该接口的时延息息相关。
 
业务痛点在于弱网场景请求耗时长,成功率较低,客户体验较差。全球加速提供的解决方案一是在全国三大运营商实现了本省覆盖,并且覆盖了小运营商网络,用户就近接入提升建连时延和成功率;第二是利用端上的能力,开启边端协同的全链路加速能力,包含预建连、连接保持、连接重试、DNS解析兜底IP,另外针对弱网环境,开启了HTTP3/QUIC协议进行加速。
 
产生的效果平均耗时下降比较明显,长尾耗时降低10%以上。从业务反馈来看,业务指标,尤其抖音客户留存率也有提升。
 
客户案例二:某主流MMORPG手游
 
 
第二个案例是某主流MMORPG游戏,客户主要痛点在于菲律宾玩家到新加坡源站跨国链路距离非常长、时延较大、稳定性较差,玩家体验非常糟糕。火山引擎全球加速产品的解决方案是菲律宾玩家就近接入到火山引擎的菲律宾节点,通过全球加速优质的骨干网络回源新加坡源站,并且开启连接复用能力,针对游戏场景做了传输优化。此外,协同游戏加速产品“GNA”开启双通道加速能力以及网络诊断能力。最终取得收发包耗时下降20%以上,客诉率大幅度下降的收益。
 
客户案例三:某AI大模型企业
 
 
今年AI大模型非常火爆,大模型依赖的海量数据需要从海外传输,这些数据集分布在全球接近200个国家,文件涉及到几十亿,域名达到几百万,全球很多企业也陆续推出了AI大模型,该企业也需要尽快推出自己的大模型,抢占市场。全球加速提供了到日韩、东南亚、香港、欧洲等主要地区的合规跨域专线,加快数据的传输,解决公网时延和带宽不足的问题,第二联动火山引擎对象存储产品,包括MLP云服务产品,从原文件的下载到格式的转换,到分辨率压缩、参数调整,以及打包上传,包括存储、训练,火山引擎提供了一站式服务,帮客户降低了操作难度,并且大幅提前完成了数据集的传输和训练,客户顺利的推出了自己的AI大模型。
 
03
火山引擎边缘云对全球加速产品的未来展望
 
 
最后,从生态、成本及性能三方面分享火山引擎边缘云对全球加速产品的未来展望。
 
•第一是产品生态。越来越多的企业将会在边缘部署服务,根据Gartner预测,到2023年底将会有50%的企业会在边缘部署至少6个以上的服务,到2025年底全球将会有75%的企业在边缘产生和处理数据。因此火山引擎全球加速产品会联动边缘云其他产品一起打造火山引擎边缘云产品生态,提供更多、更便利、更丰富的产品解决方案服务客户。
 
•第二是性能方面。火山引擎边缘云在研发基于UDP的一些传输协议,包含支持FEC、IRQ等各种传输协议优化,也会对现有QUIC协议做一些优化和升级。
 
•第三是成本方面,基于AI大数据进行精准的调度,提升带宽复用率和超卖比,从而降低成本。此外火山引擎边缘云团队也与intel进行合作,共同探索高压缩比的压缩算法降低带宽的开销。
 

责任编辑:王旭

为您推荐

广电总局关于做好春节播放监管工作通知

为确保广播电视广告播放的良好秩序,切实落实《广播电视广告播放管理暂行办法》(总局17号令)和《广电总局关于禁止播出虚假违法广告和电视“挂角广告”、游动字幕广告的通知》(广发社字〔2005〕547号)等文件的要求,近日,国家广电总局向各省、自治区、直辖市广播影视局,中央三台、电影频道节目中心,中国教育电视台发出《广电总局关于做好元旦及春节期间广播电视广告播放监管工作的通知》,就做好元旦及春节假日期间广播电视广告监管工作的有关事项通知如下:一、明确监管重点(一)所有冠名标志是

广电总局印发“科技委七届三次会议纪要”

广电总局办公厅关于印发“国家广播电影电视总局科学技术委员会七届三次会议纪要”的通知近日,国家广电总局办公厅向各省、自治区、直辖市广播影视局,新疆生产建设兵团广电局,总局有关司局、直属各单位,科技委委员印发了《国家广播电影电视总局科学技术委员会七届三次会议纪要》。总局科技委七届三次会议于2005年12月19—20日在北京召开。中宣部副部长、广电总局局长王太华同志,广电总局副局长、科技委主任张海涛同志出席会议并讲话。王太华同志代表总局党组对做好广播影视科技工作和科技委工作提出了明确的要求和殷切的期望。他指出,要充