8TB固态硬盘惊爆价超黄金,理财新宠横空出世!

23 0

PCIe 4.0/5.0 NVMe固态盘重量分析

TomsHardware的编辑经过对超过一百个样本的测量,发现8TB M2固态盘的均重为8.2克,4TB型号的均重为8克。这表明,即使是在双面贴片的高容量固态盘中,重量增加并不显著。

固态盘价格与黄金价值对比

8TB固态盘的售价远高于4TB型号,每根均价高达1476美元,按每克价值计算,已超过黄金(184美元 vs 148美元)。即便是4TB型号,某些牌号的NVMe SSD也接近8克黄金的价值,如企业盘,每克价值超过黄金。

固态盘价格翻倍现象

目前大部分消费级4TB SSD的售价在800美元以下,尽管还未达到贵如黄金的地步,但较前两年已翻了一番不止。

闪存价格上涨原因分析

许多人不明白为何闪存价格也会随着AI的兴起而一路飙升。最流行的说法是厂商扩产内存(RAM)挤占了闪存产线,但实际上这个说法并不准确。以群联aiDAPTIV+技术为代表的AI计算加速平台使用闪存作为辅助内存池,可以有效缓解GPU VRAM不足导致的效率损失。

AI计算加速平台的应用效果

经研究人员测算,DGX Spark用于推理时TTFT(首个token生成时间)约为40秒,使用aiDAPTIV后降为9秒;Strix Halo的TTFT用时36秒,使用aiDAPTIV降为6秒。

aiDAPTIV技术对显存需求的影响

在模型训练场景下,NVIDIA平台会将所有内容加载至GPU内存,比如70B参数的LLM需要20x70B=1.4TB显存,需动用18块H100或10块H200/8块B200/5块B300。使用aiDAPTIV技术后,训练被分解为多个部分,16GB显存就能跑,性能损失只有10%左右。

aiDAPTIV技术的成本与效益

群联电子曾演示过一个更极端的例子,只使用两块RTX Pro 6000进行Llama 3.1 405B模型训练,硬件部分仅仅是192GB显存配8TB aiDAPTIV SSD缓存池,硬件成本在5万美元左右。如果不用SSD缓存池,把显存扩充至8TB要买一大堆NVIDIA AI卡,硬件成本接近400万美元。

aiDAPTIV技术的成本与效益(续)

aiDAPTIV的代价是写入量极大,SSD必须配置为SLC模式——按8TB SLC等于32TB TLC来算,闪存产线都忙不过来了!全行业普遍供不应求,缺口在15%-20%左右。

aiDAPTIV SSD的寿命与供应短缺

标准aiDAPTIV SSD的额定寿命是100DWPD,而2TB消费级SSD的寿命大概是0.3DWPD(用于aiDAPTIV只能坚持一个星期),从这个角度看,aiDAPTIV缓存池里的SSD等同于耗材,进一步加剧了供应短缺局面。

闪存工厂扩建与供应短缺

由于扩建闪存工厂需要两年时间,即便厂商现在就扩产,产能要到2028年方可释放。前两年闪存价格持续走低,没有厂家愿意投资扩产,导致如今供不应求局面难以缓解。

硬盘市场现状

硬盘市场同理,数据中心遍地开花,对大容量企业级硬盘的需求也水涨船高,但硬盘厂商这几年一直抱残守缺,根本没有扩产的念头,只有苦了松鼠党了。硬盘价格平均上涨46%,容量越大上涨越厉害——希捷24TB酷鱼曾低至239美元,如今现货要卖499美元,很多电商平台还缺货。

8TB固态硬盘惊爆价超黄金,理财新宠横空出世!