《东方看点|英伟达即将发布L40s, 算力应用交相辉映》
时间:2023-08-09
英伟达近期预告即将推出L40s,L40s的推出主要针对小几百亿参数模型推理(行业垂直应用)、相关模型微调训练等无需高显存容量和带宽场景。目前大卡紧缺,小卡推理算力利用率极低,高质量推理算力极为紧缺,同时L40s专门优化了【FP32】的算力。
东方基金权益研究部认为,在使用ResNet50和Bert-Large经典模型下,L40s的推理性能和性价比皆优于A800。L40s的推出不受台积电CoWoS产能限制,供给充足,有助于改善算力产业链的预期。有助于促进行业垂直模型更加快速、低成本落地。L40s不是完全替代A800,一方面在推理端:应用于小几百亿及其以下的参数模型的推理(例如一些垂域模型);另一方面在训练端:用于微调训练(基于已经完成预训练的模型,做fine-tuning等)。考虑到A800和H800受制于台积电CoWoS产能,缺货严重,L40s有助于实现对上述需求的增量供给。A/H卡在千亿甚至未来万亿级别参数的大模型推理,以及大模型的预训练阶段仍然是不可替代的。建议关注人工智能的应用端以及算力端发展。
市场有风险,投资需谨慎。
|
关闭本页 打印本页 |