面向AI大模型,腾讯云首次完整披露自研星脉高性能计算网络 报道
时间:2023-06-26 19:10:47来源:C114 通信网

AIGC的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。

6月26日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。

腾讯云副总裁王亚晨表示:“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务,将助力算力瓶颈的突破,进一步释放AI潜能,全面提升企业大模型的训练效率,在云上加速大模型技术的迭代升级和落地应用。”


(资料图片)

构建大模型专属高性能网络,提升40%GPU利用率

AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。

大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。

千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。

基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。

在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。

在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。

网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从19天缩减至4.5天,保证基础配置100%准确。

历经三代技术演进,软硬一体深耕自研

星脉网络全方位的升级背后,是腾讯数据中心网络历经三代技术演进的成果。

在腾讯发展初期,数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成,网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备,搭建标准化数据中心网络,支撑QQ在线人数增长超过1亿,服务器规模增长超10万。

随着大数据和云计算的兴起,服务器之间的东西向流量逐渐增多,云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构,腾讯云构建了全自研网络设备与管理系统,打造超大规模数据中心网络,服务器规模近200万台。

如今随着AI大模型的出现,腾讯云在国内率先推出高性能计算网络,采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合AI训练流量特征的网络架构,并配合自研软硬件设施,实现整套系统的自主可控,满足超强算力对网络性能的新需求。

日前,腾讯云发布的新一代HCC高性能计算集群,正是基于星脉高性能网络打造,可以实现3.2T超高互联带宽,算力性能较前代提升3倍,为AI大模型训练构筑可靠的高性能网络底座。

未来,腾讯云还将持续投入基础技术的研发,为各行各业的数智化转型提供有力的技术支撑。

标签:

最新
  • 面向AI大模型,腾讯云首次完整披露自研星脉高性能计算网络 报道

    面向AI大模型,腾讯云首次完整披露自研星脉高性能计算网络,AIGC的爆发

  • 江西景点有什么好玩的?江西哪几个景点最值得去?-世界微速讯

    江西景点有什么好玩的?江西最有名的就是山岳旅游资源了,必去的有庐

  • 深圳楼市逆市热销下的“硬核逻辑”……

    近一周(6月10日—6月16日),据深圳住建局官方显示,深圳二手住宅成交

  • 牡丹怎么种植?种植牡丹花的注意事项有哪些? 环球关注

    牡丹怎么种植?一、选址牡丹喜欢光照充足、通风良好、土壤肥沃、排水

  • 环球热推荐:广西3名志愿者捐献造血干细胞混悬液,为患者送去生命的“种子”

    “能有机会捐献,我们很幸运!”近日,广西3名志愿者先后捐献造血干细

  • 被性侵,被家暴,被封杀,37岁童瑶更多“丑闻”曝光:张国立坐不住了!

    文丨明月  来源:LADY逛逛童瑶这是怎么了?前几天,在时尚芭莎派对上

  • 全球速讯:800G 时代已来,AI高景气周期开启

    (报告出品方:兴业证券)1、800G时代已来,高景气周期开启1 1、光模块

  • 官宣!陈国豪正式参加CBA选秀,宁波or四川?朱芳雨该出手了

    北京时间6月22日,根据国内媒体的报道,广工魔兽陈国豪正式报名CBA选秀

  • 电脑屏幕上的字变大了怎么办? 当前快讯

    1、以win7系统为例,首先在电脑的左下角点击开始按钮,在弹出的选项中

  • 《股东来了》|中国银河证券分支机构齐心协力 北京片区投教活动如火如荼-世界新动态

    夏至已至,《股东来了》(2023)投资者权益知识竞赛正在火热进行中。活

  • 升级迭代加速 国产AI大模型激战正酣!

    本报记者贺王娟国产AI大模型进入加速迭代期,上市公司正持续加大投入力

  • 即时看!u盘文件夹exe病毒专杀_u盘exe病毒专杀

    1、首先,下载并打开“U盘杀毒专家”软件点击开始免疫点击“扫描病毒”

  • 女儿怼警方调查死亡细节_环球新消息

    近日,一起引人关注的女子死亡事件在社会引发了广泛的争议和猜测。这起

  • 【陇上端午】荷包飘香 天天短讯

    端午一大早,把睡眼蒙眬的孩子从被窝拽出来,支出去折一些青柳枝回来,

  • 环球即时看!青竹调色卡四十二式(青竹调)

    大家好,小福来为大家解答以上的问题。青竹调色卡四十二式,青竹调这个

  • 速看:动力新科(600841)6月21日主力资金净买入337.30万元

    截至2023年6月21日收盘,动力新科(600841)报收于6 04元,上涨1 0%,换

  • 旅游
    • 重庆市武隆区交通局二级调研员陈华涉嫌严重违纪违法接受审查调查

    • 全球热资讯!2023年中考是几月几日 哪天考试

    • 消息!泰山球员买乌郎获评U21联赛本轮最佳

    • 美西码头危机暂时解除,美线太平了吗?|当前快播