В истории компьютерной индустрии бум искусственного интеллекта может показаться мимолетным, однако он уже значительно влияет на рынок компонентов. Согласно оценкам Commercial Times, к началу следующего года 20% производственных мощностей, выпускающих DRAM-память, будут направлены на создание памяти для ИИ. Ожидается, что потребление облачными сервисами высокоскоростной памяти в 2024 году достигнет 3 эксабайт, что составит лишь 7,5% от общего объема оперативной памяти.
С увеличением спроса на большие объемы памяти типа HBM и GDDR7, для которых требуется гораздо больше ресурсов, чем для стандартной DDR, ситуация на рынке становится напряженной. Например, на производство 1 ГБ HBM необходимо в четыре раза больше сырья, а для GDDR7 — в 1,7 раза больше. Мировые объемы производства DRAM в следующем году составят около 40 эксабайт, но темпы роста мощностей не превысят 15-20% в год, что увеличит разрыв между спросом и предложением.
Только для крупных облачных игроков, таких как Google и AWS, потребуется до 750 петабайт памяти на инференс, что может удвоиться при учете резервов, а также дополнительные 800 петабайт для частных облаков и 500 петабайт для обучения языковых моделей.