科华数据:与金融大模型激情共舞
在全球金融科技领域,中国金融机构正以惊人的速度崛起,不仅在大模型专利创新上占据领先地位,更在智能金融服务的实际应用中展现出强大的实力。
这一趋势的背后,是算力需求的爆炸性增长,以及对高效、可靠、节能的数据中心基础设施的迫切需求。
* 上述摘要由笔者通过「大模型」读取本文智能生成。
近日,全球知名科技刊物《麻省理工技术评论》(MIT Technology Review)发布相关报告,“全球金融机构大模型领域专利创新排行榜”揭开面纱。在全球金融机构大模型专利创新领域,中国申请公开量达1909件,占比超75%。更令人欣喜的是,在这份榜单的TOP10,在全球顶尖的金融机构列表中,中国强势占据8席,展现出泱泱大国在全球科技领域的熠煜之姿。
蚂蚁集团、平安集团、工商银行、建设银行、中国银行、马上消费金融、微众银行、农业银行……中国领先的金融机构于科技制高点布局的各类金融大模型,正如同浩瀚宇宙中点缀着的繁星,每一颗都闪烁着智慧的光芒。
同样浩瀚的,是高速流转于服务器之间的数据流量,更是全球秩序及格局博弈下中国科技自强不息的奋进力量。
01 千帆竞渡,金融智算登上时代舞台
据IDC数据,2023年下半年中国智算服务市场整体规模达114.1亿元,同比增长85.8%;全年来看,这一数据可达194.2亿元,同比增长72.5%。据预测,2022-2027年期间,我国智能算力规模的年均复合增长率将达到33.9%,远高于通用算力16.6%的增速。
在金融行业,央行2022年1月发布的《金融科技发展规划(2022-2025 年)》即明确提出,“要抓住全球人工智能发展新机遇,以人为本全面推进智能技术在金融领域深化应用”。
我们看到,圆融诙谐的机器人早已成为智慧网点的基本标配,西装革履的数字员工在屏幕上对答如流,智能客服、智能办公、智能研发、智能投研等多个业务场景上均有着大模型在金融业的合理探索及应用,金融机构的服务半径得以迅速扩大。作为新质生产力的典型缩影,金融智算在金融科技的强催化下登上时代舞台,正翩然起舞。
再来看看金融智算在一线的公开战绩。
据工商银行2023年年报披露,其首个基于大模型的网点员工智能助手上线,提升网点效能,全年运营领域智能处理业务量3.2亿笔,比上年增长14%;农业银行ChatABC在智能问答场景已提供超过200万次问答服务,在辅助编码场景已编写超过8万行代码投入生产应用;建设银行智能客服工单生成每单平均节约客服工作时间15-20秒,可用率达82%,一致性达80%。
“方舟计划”、仓颉、轩辕、天镜……一个个上古神学中耳熟能详的名字,身披大模型的“外衣”从遥远的神话走到了现实,成为金融垂直领域数字化转型的关键力量,推动探索虚拟现实与AIGC(人工智能)融合发展迈向新高度。
据不完全统计,现阶段各大金融机构在大模型应用上的情况如下表,可以看出,头部金融机构在大模型各场景上已有较多投入和应用,他们依托于自有数据加速训练着适合自己的大模型。
同时,部分中等规模的金融机构,如城商行农商行等,也积极拥抱大模型,或采购GPU服务器部署开源大模型用于内部训练,或依托于大模型公司的算力能力快速应用落地相关服务场景。
总而言之,金融行业在大模型上的研究和布局上奋力向前,不断有金融机构加大投入力度。
02 应对“烤”验,跨越AI时代的算力鸿沟
前文提到,IDC预测近年来我国智算规模的年均复合增长率将远高于通算,与之相应的即是算力需求飞速增长与数据中心能耗急剧攀升冲突之下造成的“算力鸿沟”。
近日,华泰证券出具的一份研报引用了麦肯锡的数据——在AI大模型相关算力需求的快速增加推动下,以能耗衡量的全球服务器规模将从2024年的70GW增长至2030年的390GW,年均复合增长率高达33%。研报同时指出,随着AI算力需求的持续增长,2030年全球数据中心用电量规模将达到约2.2万亿度电,是2022年的3.6倍。
这一说法在金融行业也得到验证。
行业资深人士透露,过去10年,基于低负载及高冗余的特性,一贯以来将业务连续性视为“命根子”的金融数据中心的PUE普遍都大于1.5,“这意味着IT设备每消耗1度电,就有额外的0.5度电用于散热等其他用途”。
而随着百亿级、千亿级金融AI大模型的孵化,过往老旧机房确已难堪负荷,这一条“算力鸿沟”,在AI+金融的时代背景下显得愈发渊深难测。
跨越这条鸿沟,一方面需应对全球气候系统变暖趋势下数据中心面临的严峻“烤”验,一方面需应对数据中心各部件、整机的高密功耗带来的散热刚需,共同推动金融智算基础设施加快建设步伐。
现阶段,我国数据中心的散热方式仍以风冷为主,以高可靠、高安全著称的金融数据中心尤是。我们需注意到,部分用户采购风冷GPU服务器后,由于单台设备功率高达6-10.5kW,因此在现有机房中,单机柜只能放置1~2台GPU服务器。此方案可以暂时满足GPU服务器的散热需求,但是综合来看,风冷散热模式下,GPU处于较高运行温度下,也会导致运行速度减缓、器件提前老化的情况,此时昂贵的GPU发挥不出其极致的算力,生产力打折,着实可惜。
03 可靠解耦,液冷助力释放底层算力潜能
在算力激增及高密高热的双重推动下,液冷成为智算数据中心主流的温控方式。据财信证券研报中引用的行业数据显示,2025-2028年液冷技术的渗透率预计有望达到30%。
液冷,是一种采用液体来进行电子设备冷却的散热技术,可显著提高数据中心的散热效率。目前,液冷技术主要包括冷板式、浸没式和喷淋式三种类型,并以前两者为应用主流。
根据行业研报,以华东地区数据中心建设情况为例,基于一定的测算前提条件下,冷板式液冷方案的TCO甚至Capex已经低于风冷,浸没式液冷方案的TCO也将在运行五年左右之后出现低于风冷方案的拐点。
囿于成本的缘故,现阶段冷板式液冷相较浸没式液冷而言,技术更为成熟、应用更为广泛,在改造及建设成本,安全可靠性,后期运营维护方面均具备显著优势。按照服务器出货量口径统计,2023H1我国冷板式液冷服务器比例为90%左右,浸没式液冷渗透率为10%。
过去几年,算力设备厂商一站式整体交付算力设备+液冷基础设施,优势是交叉配合界面少、整体交付速度快、后期运维一家负责,但算力设备与液冷基础设施强耦合后,劣势也很明显:
① 二期算力扩容时,较难兼容其他品牌的算力设备,甚至是无法兼容;
② 算力设备厂商集成的液冷基础设施,在系统冗余性、在线维护性、服务能力上较难达到用户需求;
③ 液冷基础设施溢价高,成本甚至超过30万元/柜,远高于解耦型冷板式液冷。
如同所有居于供给侧、在AI+金融市场钻研鏖战的科技厂商一般,科华数据也秉持着行业领先者的责任感,乘着这股浩荡东风,推出「解耦型冷板式液冷数据中心解决方案」,致力于共同助力金融机构释放算力潜能,为金融智算筑建坚实底座。
经过充分的市场调研和案例应用,科华数据冷板式液冷数据中心解决方案凝聚了「6大优势」。
01 整体优化架构,服务器全解耦,可兼容多品牌算力设备,分期建设无忧
科华数据冷板式液冷解决方案,可解耦国内主流品牌液冷算力服务器,解耦点在液冷服务器侧或液冷整机柜侧,目前已交付多个项目,并安全稳定运行,实现了客户对于液冷数据中心兼容解耦的部署架构。
02 高密智算液冷POD解决方案,整系统可靠验证,现场高质量快速交付
基于丰富的项目经验,实现了建设方案、系统架构、核心产品的标准化,并推出了一站式交付的液冷算力POD解决方案,既优化了方案论证、产品选型阶段的复杂工作,又提升了产品质量、交付速度、确保系统稳定运行,维护管理更加简便易用,运营效率得以大幅提升。
03 核心产品优异,CDU循环泵双泵冗余,水泵、过滤器等不停机更换维护
作为液冷系统中的核心产品,科华数据液冷CDU采用N+1冗余架构设计,并可放置在精密空调间,确保一次侧冷却水不进入算力机房内。CDU内的循环水泵采用节能型变频双泵冗余设计,单台水泵即可满足100%散热需求,水泵和过滤器均按满足在线维护要求,实现不停机即可更换维护。
04 预制化生产制造,工程产品化,确保交付质量,又好又快
基于智能微模块的丰富经验,科华数据液冷系统将预制化底座、二次侧管路系统、机柜(含manifold)、通道封闭、智能小母线、风补列间空调、液冷微模块监测系统、一次侧水力模块等进行预制化设计生产,现场快速交付。
05 交付安全稳定,基于正向设计理念,通过BIM+CFD仿真模拟及液冷测试平台严格验证
项目正式进场后,科华基于BIM三维建模技术,实现1:1数字孪生,模拟每一个设备、每一段管路和阀门的位置,做到所设即所得,减少现场管路交叉干涉,确保交付质量和速度。通过CFD流体仿真技术,模拟管路流体路径和机房内的气流组织,不断优化设备布局和设置参数,确保智算机房高质量运行。同时,每一套液冷系统出厂前,均会在科华液冷整系统测试平台中进行测试,验证可靠性和功能参数,确保方案质量和系统长期稳定运行。
06 项目经验丰富,成功交付多个液冷数据中心项目,全生命周期服务值得用户信赖
得益于高效散热、节能减排、安全可靠等优势,科华冷板式液冷案例覆盖了通信、互联网、高校、金融等多个行业用户,如河北承德智算中心、中国移动苏州数据中心、厦门大学嘉庚智算中心等。
科华数据冷板式液冷解决方案可囊括从通用算力服务器20kW/柜到智算算力服务器高密度50kW/柜,甚至科研场景的70~120kW/柜,为各行业高密度智算中心打造安全可靠、绿色低碳的液冷数据中心,赋能千行百业。在推动新技术发展的同时,科华数据也不断优化整体服务流程,使每一次交付都得到客户的高度认可。
如,于「通信行业长三角地区重要液冷数据中心项目」上,科华数据冷板式液冷解决方案助力项目运行指标大幅提升——
丨散热能耗降低超50%
丨PUE降至1.2
丨节约空调电费超50%
丨提高服务器算力能力5%-10%
从通信,到金融,行业天然自带壁垒又何妨,高可靠的产品技术是其互通的媒介。
当金融机构行至全面拥抱大模型、战略布局AI算力的风口,技术先行者已在此处,等着共同攀越那峥嵘山岗。
结语:
人工智能先驱之一,穆斯塔法·苏莱曼在其出版的《大浪将至》中提到,“技术是一种创新集群,即将到来的浪潮是像寒武纪大爆发一样的进化爆发,将涌现出成千上万种新应用,这些技术中的每一项都与其他技术相互交叉、相互加强、相互完善。”
AI赋能智算行业蓬勃发展,创新技术在金融行业的各类场景中不断应用、验证、迭代,算力基座也正朝着更可靠、更可用、更节能、更智慧的方向演进。
久经检验的金融数字化转型合作伙伴——科华数据,正融合30余年电力电子核心技术及十数年数据中心建设运维经验,深刻洞察金融应用侧在新建及改造数据中心的能耗痛点,以更可靠、更解耦的液冷解决方案,助力更多金融机构实现更高的算力密度、节省更多的机柜空间,推动底层算力潜能的进一步释放。