Aspera 速铂高性能海量数据传输解决方案

2010-08-03 15:32:00来源:DVBCN数字电视中文网 作者:DVBCN通讯员热度:

Aspera速铂的核心技术faspTM是一种全新的软件技术。它彻底克服了传统数据传输软件例如FTP, HTTP以及Windows CIFS中的固有瓶颈,实现了在各种共享和私有网络环境中传输速度的最大化。这种技术可以获得完美的传输效率,不为网络延迟和丢包所限制。并且,用户享有对传输速度以及不同传输流之间带宽共享的无以伦比的控制。不管网络距离和动态性能如何,即便是在最困难的网络条件下(例如卫星,无线和洲际远程链接),文件传输时间仍然可以得到保障。FASP具有内置的,完整的安全性,包括连接节点安全验证,传输中数据加密以及数据完整性验证。

高速文件传输的挑战

和传统的基于磁带的邮件递送相比,通过数字化网络传输来实现海量数据的递送具有经济高效的特点。在理想情况下,数据文件可以通过现有应用程序例如FTP文件传输,HTTP网上递送以及Windows CIFS拷贝实现在全世界IP网络间快速经济的传输。但是在实际网络中,传统的手段无一不陷入速度的瓶颈中,以至于无法利用已有网络带宽的一小部分。这是由于这些应用都基于同一种协议—传输控制协议(TCP)。

TCP有一个根本的速度瓶颈,这个瓶颈随着传输延迟和网络丢包率的增加而变得愈发明显。速度瓶颈的形成和TCP控制数据流量速率的机制密切相关。TCP发送端需要得到数据接收端收到每个数据包的确认消息才向网络中注入新的数据。但是由此产生的传输速率的增加却随传输延迟的增加而减小。当遇到丢包时,TCP简单的认为所有丢包都是因为网络拥塞造成的,而无法区分拥塞造成的丢包和信道本身差错造成的丢包。在这种情况下,TCP就会迅速的减低自身的传输速率。简而言之,TCP的传输速率在丢包时下降过多,而在正常情况时增加又太过缓慢,以至在高速广域网上无法充分利用已有带宽。对于所有基于TCP之上的应用而言,它们无一不受以下几个方面的限制:

速率缓慢以及带宽利用率低下

基于TCP的文件传输带宽利用率极低。在局域和校园网这些延迟和丢包率都较小的环境中(10微秒/0.1%),TCP在千兆网上的最大吞吐率仅为50兆位/秒。当在广域网上传输时,这个问题变得更加突出。在典型的洲际网络或卫星链接上,传输吞吐率可能仅为已有带宽的百分之0.1到1。

图1:图示为在OC-3(155兆字节每秒)链接上用fasp和TCP传输单个大文件的性能。相对于TCP而言,fasp的传输吞吐率不受传输延时的影响,而对网络丢包率的增加也有很好的鲁棒性。 而TCP的传输吞吐率随传输延时和网络丢包率的增加而迅速减小。

传输速率不稳定

如前所述,TCP采用一种基于丢包的速率控制机制。其依赖于丢包来实现减速,而在其他时候线性加速。当信道本身没有丢包时,TCP只有短暂超出网络带宽以至产生丢包的情况下才能减速。这样的设计决定了即使在最理想的情况下,TCP也只能在最优速率上下震荡。当网络加载负荷变化时,TCP的传输速率也随之剧烈震荡。

缺少安全性和可监控性

除了被TCP缓慢和不稳定的传输速率所限制以外,传统的文件传输应用往往不具备现代商业所必需的安全性和可管理性。FTP没有内置的安全机制,往往需要额外的机制来确保内容不被窃取和篡改。而且有关性能和传输的统计数据也常常无法得到。这对管理传输进程极为不利。

速铂FASP解决方案

速铂的文件传输产品线完全基于fasp高速传输协议。fasp是一种全新的应用层协议,特别为企业关键型文件传输所设计,可以满足其所需的高速度,可预测性和百分之百的安全可靠性。fasp出众的性能对所有的网络传输媒体皆适用。

高速可靠

和TCP吞吐率的特性相比,fasp的传输速率完全不受网络延迟的影响,并且对网络丢包也有很好的鲁棒性。如图1所示,在OC-3(155Mbps)网络链接上,fasp实现了传输速率的最大化,在某些情况下可以比TCP快千倍。而TCP的传输速率性能随网络延迟的增加和丢包率的增大而迅速减小。在典型的洲际网络或卫星链接上,TCP的传输吞吐率可能仅为已有带宽的百分之0.1到1。fasp的传输速率具有可预测性。在10%的丢包情况下,fasp的吞吐率可以达到网络链接带宽的90%。在极端情况下,fasp的吞吐率仅为终端系统的吞吐能力(通常是磁盘吞吐能力)所限制。

fasp是在用户数据报协议(UDP)之上开发的应用层协议。和那些基于并行TCP的应用不同,fasp在单个数据流上实现了速度最大化。借助于革新性的文件流线化技术,fasp的传输速率在分发大批小文件时同样可以得到保障。例如在从美国到新西兰的OC-3链接上传输一千个2MB的小文件,传输速率同样可以接近155Mbps(图2)。所以fasp实现了在高速广域网上传输海量数据(和文件大小无关)的传输速率最大化。相反,并行TCP技术往往在有丢包的环境下无法实现速率最大化,在传输大量小文件时速率也不稳定,而且需要耗费大量系统资源。

作为一种数据传输协议,fasp具有应用层传输的完全可靠性。fasp的可靠性设计是基于一种负反馈的机制:接收端检测到丢包并把需要重传的信息反馈给发送端。通过理论优化,fasp的重传机制只针对真正的丢包,没有冗余传输和带宽浪费。其重传效率接近百分之一百。

 [FS:Page]; 自适应速率控制

在理论上fasp没有速率上限,可以完全利用任意速度网络的带宽。fasp采用和TCP完全不同的速率控制机制,从而实现带宽利用的最大化以及和已有TCP数据流公平分享带宽。

有效而公平的自动速率控制

和TCP不同,fasp的速率控制是基于网络中的排队延迟。当网络没有负荷(检测不到排队延迟或排队延迟很小)时,fasp可以迅速提速以充分利用带宽。当网络拥塞时,fasp可以迅速减速以获得应有的带宽。fasp的这套速率控制机制还具有带宽共享的公平性。当已有TCP数据流不能充分利用链路带宽时(图3),fasp可以自动提速占据余下的带宽。当链路因为有多个数据流存在而变得拥挤时(图4),fasp数据流可以实现和TCP数据流等量公平共享链路带宽。

响应终端速度瓶颈

在超高速网络环境例如千兆网中,速度瓶颈往往不在网络链路本身而在终端系统,尤其是存储设备的吞吐能力。fasp自适应速率控制不仅可以自动发现现有的网络带宽,而且也能对存储设备动态吞吐率的作出理想的响应。当存储设备成为瓶颈时,fasp可以自动减速以避免其超速运转所造成的丢包。当检测到存储设备不再繁忙时,fasp自动提速以充分利用其数据吞吐能力。

图2:fasp的文件流线化技术使高速传输大批量小文件成为可能。这幅图展示了洲际传输1000个2兆字节小文件的性能。传输速率完全平稳,在文件间没有中断。

可灵活设置的带宽策略

用户可以对每个fasp数据流获取带宽的能力进行设置。除了和其他数据流对等共享带宽外,fasp还支持其他带宽共享机制。比如用户可以选定用固定速率传输,从而使传输速率不受网络负荷的变化而变化。此外,用户还可以选定后台传输模式,以便在检测到TCP数据流后减到最低速。

完整的安全机制

fasp提供完整的内置安全机制。fasp的安全模式完全基于开放标准的密码体系,包括了:1)通过标准安全外壳(SSH)对传输终端进行验证;2)对传输中数据加以128位强密码(AES-128)加密;3)对每个数据块进行完整性验证以抵御象中间人以及匿名UDP之类的恶意攻击。在不同系统间进行fasp传输不会改变文件本身的安全属性。引进以上安全机制对传输性能并没有削弱。在加密模式下,fasp可以在P4或单处理器工作站上实现100-150Mbps的传输,在双核或双处理器工作站上实现200-400Mbps的高速传输。

图3:一个fasp数据流和一个TCP数据流共享带宽。Fasp可以有效利用TCP所不能利用的带宽。

图4:两个fasp数据流和两个TCP数据流共享带宽。fasp可以实现和TCP之间的带宽公平共享

责任编辑:51DTV编辑部

为您推荐

带宽面临稀缺危机 无线网络“堵车”将成常态

抢淘带宽新“黑金”信息时代将使带宽资源面临稀缺危机美国ABI研究公司最近发布了关于全球宽带使用情况的最新报告,该报告显示,2009年全球固定宽带用户数量为4.307亿,而到2015年,全球固定宽带用户将增长到5.48亿,其中1.34亿为光纤用户。近日美国《时代》周刊刊发文章称,信息时代的人们都热爱手机和互联网电视,对宽带的需求也会无以复加。当资源稀缺时,就会出现寡头,也将有一部分人无法拥有这些资源,因此,在新千年很有可能会出现新的资源危机——带宽。带宽将成为新时代的“黑金”。各国“抢滩”宽带发展美国联邦通信委员会(FCC)4月15日宣布,美国将大力普及高速宽带网络,力争未来10年内在全美各

重庆运营商宽带 扩容赠送机顶盒

三网融合试点城市,重庆没能入选。但三网融合“广电系接入互联网业务”的利好政策,让重庆有线近一个月来,都在埋头苦干,加紧推出相关产品。记者昨日了解到,目前,不仅重庆有线正在加紧准备其宽带扩容,重庆电信和重庆联通也通过免费赠机顶盒、捆绑通信业务等优惠,开始低调推广交互式电视。重庆有线扩容宽带抢电信业务“广电系接入互联网业务”的利好,让重庆有线近一个月来,都在埋头苦干。昨日,重庆有线电视网络有限公司总经理助理郭锐证实,目前正考虑在现有基础上,为市民提供带宽更大的宽带业务。据了解,此前有线向市民推出的宽带业务分别为1兆、2兆,电信运营商目前最高也为4兆。此前有知情人士透露,有线此次扩容后的带宽将高于电

广电网络建设要兼顾未来业务

“三网融合”已渐渐成为当下的热点话题,广电的网络改造、网络整合以及NGB网络的建设成为业内关注的焦点。12个试点城市(群)已经确立,而且在8月16日各试点城市已纷纷向广电总局提交了各地的试点方案。对于广电而言,现在处于一个“网络归网络、业务归业务”两者各谈各的的阶段,上海贝尔副总裁刘永春博士如是说。避免走弯路刘永春告诉记者,广电总局前不久邀请上海贝尔做了一个主题演讲,主要是介绍国外几大有线网络运营商目前的经营状况以及围绕电信系近年遇到的网络发展瓶颈进行了探讨,广电系非常重视自己的网络建设,希望可以借鉴电信系多年来面临互联网对传统电信业务方面的冲击取得的经验,少走和不走弯路。对于广电的网络改造,