专题:AI瞭望台——关注全球人工智能产业最前沿
越来越多的证据表明,英伟达H100 AI处理器的供应紧张局面有所缓解。不但交付时间从8~11个月大幅缩短至3-4个月,之前购买了大量H100 GPU的公司现在甚至开始转售这些处理器。
据报道,一些公司正在转售其H100 GPU或减少订单,原因是它们的稀缺性降低,以及维护未使用库存的成本较高。这与前一年相比发生了重大转变,当时获得英伟达的Hopper GPU是一项重大挑战。
该报道还称,尽管芯片可用性提高,交货期显著缩短,但仍供不应求,尤其是对于那些培训自家大语言模型的公司,如。
AI处理器短缺的缓解,在一定程度上是由于AWS等云服务提供商让租用英伟达H100 GPU变得更容易。这导致了对AI芯片的需求和等待时间的减少。
尽管H100的可用性总体上有所改善,但对于开发自家大语言模型的公司,仍在为供应紧张而苦苦挣扎。这主要是因为它们需要数万乃至数十万个GPU,一些公司在获得所需的处理器或容量方面面临着数月的延误。为此,英伟达H100和其他处理器的价格并没有下降,继续享受着高利润率。
英伟达AI处理器可用性的提高也导致了买家行为的转变。一些公司在购买或租赁时变得更加注重价格和选择性,并专注于其业务的经济可行性。
此外,再加上替代方案在性能和软件支持方面的不断完善,如AMD或AWS的处理器,市场可能会迎来更加平衡的局面。
但不管怎样,当前AI芯片的需求依然强劲。随着大语言模型变得更大,对计算性能的需求也越来越高,这也促使OpenAI CEO山姆·奥特曼(Sam Altman)正试图筹集大量资金,以建造更多的晶圆厂来生产AI处理器。