《東方看點(diǎn)｜英偉達即將發(fā)布L40s, 算力應用交相輝映》

英偉達近期預告即將推出L40s，L40s的推出主要針對小幾百億參數模型推理（行業(yè)垂直應用）、相關(guān)模型微調訓練等無(wú)需高顯存容量和帶寬場(chǎng)景。目前大卡緊缺，小卡推理算力利用率極低，高質(zhì)量推理算力極為緊缺，同時(shí)L40s專(zhuān)門(mén)優(yōu)化了【FP32】的算力。

東方基金權益研究部認為，在使用ResNet50和Bert-Large經(jīng)典模型下，L40s的推理性能和性?xún)r(jià)比皆?xún)?yōu)于A800。L40s的推出不受臺積電CoWoS產(chǎn)能限制，供給充足，有助于改善算力產(chǎn)業(yè)鏈的預期。有助于促進(jìn)行業(yè)垂直模型更加快速、低成本落地。L40s不是完全替代A800，一方面在推理端：應用于小幾百億及其以下的參數模型的推理（例如一些垂域模型）；另一方面在訓練端：用于微調訓練（基于已經(jīng)完成預訓練的模型，做fine-tuning等）?？紤]到A800和H800受制于臺積電CoWoS產(chǎn)能，缺貨嚴重，L40s有助于實(shí)現對上述需求的增量供給。A/H卡在千億甚至未來(lái)萬(wàn)億級別參數的大模型推理，以及大模型的預訓練階段仍然是不可替代的。建議關(guān)注人工智能的應用端以及算力端發(fā)展。

市場(chǎng)有風(fēng)險，投資需謹慎。