GPU租用价格的波动较大。近期，NVIDIA GPU租赁市场经历了显著的价格下降，尤其是高端显卡H100和消费级显卡RTX 4090的租赁价格在短短十个月内下降了50%。年初时，H100的年租赁价格高达12万至18万人民币，而目前降至约7万人民币；RTX 4090的年租赁价格也从约1.3万人民币降至七八千人民币。
这种价格波动的原因包括市场竞争加剧、新旧产品更迭、供需失衡以及替代品的出现等。例如，H100的价格下降部分原因是由于H200等新产品的推出，导致老款产品需求减少。国内智算中心数量激增但AI应用未广泛普及，导致大量芯片囤积，进一步加剧了供需失衡。
GPU租赁价格的波动也受到多种因素的影响，包括服务提供商、GPU型号和性能、实例规格、计费模式、促销活动以及地域差异等。GPU租用价格不仅在短期内波动较大，而且受市场动态和技术更新的影响显著。
