每张A100 显卡赚1000 美元/ 月?算力租赁成黄金赛道
- 来源:电脑报 smarty:if $article.tag?>
- 关键字:算力,租赁,生意 smarty:/if?>
- 发布时间:2023-10-27 16:28
微软做起了算力租赁生意
进入Al 时代,算力资源稀缺问题严重,算力租赁或成中小企业 AI 算力解决方案,而坐拥算力的巨头们,也做起了算力租赁生意。
近日,一份关于微软“云端算力租赁”服务毛利率的报告引发市场关注,42% 的毛利率令这一业务似已成为微软新的“现金奶牛”。投研机构Bernstein 的分析师Mark Moerdler 发布报告指出:“微软在生成式人工智能(Generative AI)的产品、平台软件和设计架构方面已经处于领先地位,帮助客户利用数据和人工智能实现盈利。他们正在积极投资 GPU/ AI 超级计算机,以满足强劲的需求。”该分析师估计,微软提供的云端算力租赁服务中,平均每张英伟达A100 GPU 每小时可赚近1.5 美元,相当于每月约 1000 美元。以财务模型计算,微软 GPU 算力租赁业务产生的毛利率高达 42% !这份研报的出现,让算力租赁行业再次成为人们讨论的焦点。
算力租赁究竟有多赚钱
算力租赁解决科技企业刚需的同时,也成为新的黄金赛道。
根据CoreWeave 官网算力租赁的价格,NVIDIAHGX H10080GB 服务器一年租金保守估计约为165 万元人民币,每P 的收入约为10.3 万元。2023 年8 月19 日国内云算力平台租用A100(80G)服务器均价15.1 元/ 小时。考虑算力利用率、各大平台竞争推出优惠活动,假设平均实际租金为7.6 元/ 小时,投入10 亿元资金的实际回本周期为1.5 至2 年,按照平台最低定价计算,毛利率为46.3%。
针对目前的算力租赁“浪潮”,华西证券根据鸿博股份上阶段投入6100 万元打造了100P 的算力中心以及中贝通信预计投资2 亿元打造500P 算力中心的公告推测,100P 的算力投入保守估计需要接近4400 万元的资金,这还属于保守估计,乐观估计的话1 亿元账面资金大约能撬动1000P 的硬件设备投资。如此小投入高回报的生意,足以令企业心动。
“化整为零”的算力租赁产业
AI 云算力采用“化整为零”方式赋能产业链各方,其本身是一种通过云计算服务提供租用计算资源的模式,适用于各种大规模计算需求的场景,企业用户可以根据自己的需求租赁服务器或虚拟机实现大规模的计算任务,而无需拥有自己的计算资源。
为应对算力不足的问题,英伟达在 2023 年 GTC大会上,宣布推出NVIDA DGX Cloud,能够提供多个GPU 算力节点供租用者灵活使用,使得企业可通过云服务商合作托管的 DGX Cloud 基础设施,而非购买贵的服务器设备。英伟达将面向商业客户开放用于开发ChatGPT 等人工智能技术的超级计算机,几乎任何企业都可以用云租赁的方式,使用这些强大但成本昂贵的设备。
借鉴英伟达“卖铲子”模式,国内算力租赁也在加速发展。从2022 年8 月至今,国内共有22 家厂商布局算力赛道。其中,2023 年6-8 月就有16 家企业涉足算力租赁市场,包括计算机、新能源、智能驾驶等厂家。其中,利通电子和世纪华通合作建立世纪利通,在上海、深圳等地建立大数据中心以开展算力租赁业务,预期面向腾讯、华为等大客户;中科曙光和AMD 深度合作,公司算力业务已与百度飞桨进行适配,为紫东太初、悟道等大模型训练提供算力,但目前国内已知接到订单的公司仍为少数,大部分公司仍处于前期投入阶段。
中小科技企业的最优解
AI 大模型训练和推理所需的算力可观,前期资金投入巨大。以 ChatGPT 为例,不考虑与日活高度相关的推理过程所需的算力,仅考虑训练过程,根据论文《Language ModelsareFew-ShotLearners》的测算,ChatGPT 的上一代GPT-3(1750 亿参数版)所需的算力高达3640PF-days (即假如每秒做一千万亿次浮点运算,需要计算 3640 天)。已知单张英伟达A100显卡的算力约为0.6PFLOPS, 则训练一次 GPT-3(1750 亿参数版),大约需要 6000 张英伟达A100 显卡,如果考虑互联损失,则需要上万张 A100。按单张A100芯片价格约为10 万元,则大规模训练就需要投入约10亿元,非头部厂商难以承担。
随着大模型以及相关应用的发展,算力需求呈现爆发式增长。除了大型互联网企业、AI 龙头具有较多的GPU 算力芯片储备外,中小企业在发展AI 模型、应用过程中,会遭遇算力瓶颈。算力租赁成为广大中小企业解决算力需求的最优解。
目前国内大模型竞争激烈,未来或迎来“万模大战”,巨大的算力消耗及团队招募带来的资金成本,以及能否有足够多的用户共建生态,是国内大模型的制胜关键。而对于大多AI 企业和行业应用企业而言,轻资产的算力租售模式与企业资金实力和业务场景最为匹配,该模式有望快速在AI 行业渗透,掌握算力资源的企业将具备非常明显的先发优势,而中小企业也将通过租赁算力实现应用的快速落地。
