关于我们

算力租赁行业的需求从何而来?

发布时间:2024-08-23 15:40:32

近年来,人工智能领域的迅猛发展引发了全球范围内的巨大关注。尤其是在2023年,以ChatGPT为代表的大型语言模型应用展现出非凡的潜力,推动了人工智能技术的商业化进程。随着越来越多的大模型创业公司涌现,全球对大模型科研的热情持续高涨。

 这一趋势不仅加速了大模型的研究与开发,也引发了对AI算力需求的井喷式增长。在这一背景下,算力租赁业务作为一种新兴行业,迅速崛起,成为满足AI模型开发和推理需求的关键解决方案。

1. 算力需求井喷

ChatGPT等大型语言模型震撼世界以来,人工智能的商业化落地预期不断升高,全球范围内涌现了大批大模型创业公司。随着大模型的训练、微调、推理需求急剧增加,AI算力需求迎来了前所未有的井喷式增长。AI应用在不同开发阶段对算力的需求也各不相同。在开发周期中,大量的训练侧算力是必需的;而当模型开发完成并上线后,推理算力则成为主要需求。目前,AI应用开发如火如荼,训练模型所需的算力需求尤为迫切;而在不久的将来,随着AI应用的大规模落地,推理侧算力的需求将更加旺盛。

以训练算力为例,根据英伟达与斯坦福大学合作的研究,GPT-3模型假设使用1024张A100显卡(约600P)进行训练,端到端训练时间大约为34天。然而,随着模型参数量的增加,所需的GPU数量呈非线性增长。以GPT-3到GPT-4的迭代为例,参数规模增大10倍,对应的训练计算量增加至少60倍。根据SemiAnalysis的报道,GPT-4的参数量达到了1.8万亿,并使用了更大的训练集,训练过程中所需的A100显卡数量达到万张量级。 

2. 云计算厂商为何无法完全承接需求?

尽管AI算力需求异常旺盛,传统云计算厂商却未能完全承接这些需求。这主要源于模型训练时需要大量GPU同时对同一模型进行计算,不仅要求峰值运算能力,还要求GPU之间的高效连接。传统的GPU集群在单个服务器节点内可以使用大带宽连接,但在服务器之间仍然采用传统架构,无法进行高效的多节点并行训练。对于大多数业务级大模型来说,单节点(最多8GPU)无法满足训练需求。而高性能集群则通过在节点间大量使用高带宽光模块进行互联,大幅提升了多节点训练时的GPU利用率。

传统云计算厂商提供的服务主要关注单节点的可用性与可靠性,但缺乏节点间超高带宽互联的基础设施,因此无法满足大模型训练客户的需求。要满足客户的训练需求,必须规划建设新的集群,而现有基础设施无法重复利用。此外,高性能集群主要适用于模型训练,用于普通互联网业务则成本过高,因此在高性能集群业务方面,云计算厂商并无优势。因此,当算力需求爆发时,云计算厂商无法完全承接,给了其他算力租赁公司介入的机会。 

3. 为何不自建算力中心?

虽然在服务器采购成本与租金成本之间进行比较时,算力租赁似乎不具备明显优势,但考虑到算力的弹性需求、硬件采购、调试、维护成本以及工程师研发时间成本,自建算力中心的模式对大多数大模型研发厂商而言并不适合。除了一些算力资源复用率较高的互联网大厂外,算力租赁已成为大多数大模型研发厂商的最佳选择。

除了大模型厂商外,还有许多有训练和推理需求的客户,他们更加需要算力租赁供应方的存在。尤其在推理侧,需求更为旺盛。例如,GPT-3大约需要1024张A100训练34天,而据相关机构的测算,ChatGPT的推理大约需要7000张A100算力卡持续运行来支持。 

4. 算力租赁业务的增速与规模

正是在这种需求背景下,算力租赁业务应运而生,并迅速发展成为一个兼具确定性与成长性的新兴行业。根据部分机构数据显示,受AI影响,从2022年到2026年,中国区人工智能算力规模的年复合增长率预计将达到52.3%。这不仅展示了算力租赁业务的潜力,也预示着未来将有更多企业涌入这一市场,推动整个行业进一步发展。

注:国内人工智能行业应用渗透度及提升百分点(来源:东方证券)

在人工智能技术飞速发展的时代,算力需求的井喷式增长为算力租赁行业带来了巨大的机遇。传统云计算厂商难以满足大模型研发和推理的需求,使得高性能集群和算力租赁成为了新的解决方案。未来,随着AI应用的广泛落地和推理需求的激增,算力租赁业务将继续保持强劲的增长势头,并在全球范围内扮演越来越重要的角色。


/template/Home/AllNew/PC/Static

中国互联网信息中心(CNNIC)IP地址分配联盟成员 北京市通信行业协会会员单位 中国互联网协会会员单位

跨地区增值业务经营许可证(B1-20150255) 电信与信息服务业务经营许可证(京ICP证060342号) 京ICP备05032038号-1 京公网安备11010802020193号

Copyright ©2005-2024 北京互联互通科技有限公司 版权所有

售前
电话
400-700-7300
在线
咨询
微信
咨询
微信咨询
售后
服务