《东方看点|英伟达即将发布L40s, 算力应用交相辉映》

时间:2023-08-09



英伟达近期预告即将推出L40sL40s的推出主要针对小几百亿参数模型推理(行业垂直应用)、相关模型微调训练等无需高显存容量和带宽场景。目前大卡紧缺,小卡推理算力利用率极低,高质量推理算力极为紧缺,同时L40s专门优化了【FP32】的算力

东方基金权益研究部认为,在使用ResNet50Bert-Large经典模型下,L40s的推理性能和性价比皆优于A800L40s的推出不受台积电CoWoS产能限制,供给充足,有助于改善算力产业链的预期。有助于促进行业垂直模型更加快速、低成本落地。L40s不是完全替代A800,一方面在推理端:应用于小几百亿及其以下的参数模型的推理(例如一些垂域模型);另一方面在训练端:用于微调训练(基于已经完成预训练的模型,做fine-tuning等)。考虑到A800H800受制于台积电CoWoS产能,缺货严重,L40s有助于实现对上述需求的增量供给。A/H卡在千亿甚至未来万亿级别参数的大模型推理,以及大模型的预训练阶段仍然是不可替代的。建议关注人工智能的应用端以及算力端发展。

市场有风险投资需谨慎




上一篇:《东方看点|三部委联合发文促电力消费...
关闭本页 打印本页

联系我们:

东方基金管理股份有限公司

  • 北京市丰台区金泽路161号院1号楼远洋锐中心26层
  • 100073
  • 010-66578700
  • 010-66295888
  • 400 628 5888

职位招聘

目前我们有0个职位空缺,马上加入我们吧!

了解更多