英伟达H100 GPU海外租金价格腰斩,算力市场热议泡沫是否破裂
AI导读:
英伟达H100 GPU海外租金价格降至2美元/小时,市场热议算力泡沫是否开始破裂,H100算力价值是否下降。国内算力租赁市场供需失衡,价格有所波动,但降价主要影响投机客,市场仍渴求平价稳定算力。
近日,一篇题为“英伟达H100 GPU海外租金价格降至2美元/小时”的报道迅速引发市场热议,围绕“算力泡沫是否破裂”及“H100算力价值是否下降”等话题展开讨论。
据美国AI推理服务供应商Featherless.AI的联合创始人Eugene Cheah透露,近期频繁收到算力租赁商的广告邮件,称单张英伟达H100 GPU的租赁价格已降至大约2美元/小时,甚至更低,与2023年5美元/小时的市场均价相比,几乎减半。英伟达去年曾预测4美元/小时的GPU价格将在4年内保持稳定,但不到一年半时间,价格已显著下降。
Eugene Cheah指出,大型与中型AI模型公司如AWS、Meta、谷歌等已通过长期租赁充分利用了算力价值,目前,除非公司计划建立大型智算集群,否则购买全新H100并非明智之选,“租算力”更为经济。
市场普遍认同H100海外降价趋势,但认为“2美元/小时”甚至“1美元/小时”的价格主要是Lambda Labs等个别初创算力租赁公司为吸引客户而进行的促销活动,并不能反映市场平均价格水平。
界面新闻记者浏览亚马逊AWS云服务平台官网发现,根据短租和长租条件的不同,以一台服务器8张GPU计算,H100的最新价格有两种不同档位:一年长租签约价格为12美元/小时,三年长租签约价格为5美元/小时。谷歌云类似产品的价格也在10美元左右。
国内AI算力租赁行业人士表示,海外H100降价逻辑清晰:随着英伟达GPU新品H200、B200今年陆续上市,新品性能更强,H100算力成本相对降低,旧产品自然需降价,差别在于降价幅度和速度。目前,5到8美元/小时更能代表海外主流平台的价格水平,符合英伟达此前的预测。
英伟达新品上市后市场反响热烈,CEO黄仁勋透露,B200 GPU量产交货后备受青睐,未来12个月的Blackwell架构GPU订单已售罄,新客户需等到2025年才能收到产品。
该人士认为,海外降价对国内几乎没有影响,国内算力租赁市场的主要问题在于供需失衡,算力资源极度分散,卖家和买家难以匹配。国内算力资源总供给有限,无法按需分配,且国内算力租赁市场混杂,缺乏统一标准,少有像AWS、谷歌云那样提供标准化租赁服务的公司。
多位市场人士表示,国内算力资源租赁服务器价格今年有波动,一台H100服务器年初市场报价约12万元/年,现价约7万元。一家曾参与地方政府智算中心建设的科技公司CEO提到,互联网巨头如字节跳动、阿里、腾讯的算力资源主要供自家大模型使用,很少提供租赁服务。目前市场上大多数算力租赁厂商在销售服务器硬件,无法提供标准服务和统一定价。
这位CEO认为,国内市场降价主要影响的是这批“投机客”,他们手中的硬件资产在贬值。AI服务器销售人员透露,目前国内非公开渠道流通的少量H100服务器现货价格每台在240万元-250万元左右,相比去年近300万元的售价有所下跌。
然而,该CEO认为仅通过H100价格浮动预言“算力泡沫破裂”为时尚早。与海外算力巨头相比,国内算力总量有限,各地仍在加紧建设智算中心。政府今年仍主张“适度超前”增加算力供给。同时,先进的算力资源始终是市场上的“抢手货”,无论是AI大模型训练、推理,还是支持传统企业AI转型。
“市场上真正有资源、有实力建设算力中心的客户仍极少数,今年接触的大量客户对平价、稳定且按需调用的算力极度渴求。”该CEO强调。
(文章来源:界面新闻)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。