带动受益概念股一路飙升 超越英伟达GPU十倍 LPU推理引擎革命性提升推理速度

摘要

一家名为Groq的初创公司开发出LPU推理引擎，推理速度较英伟达GPU提高10倍，成本只有其1/10。在此消息影响下，昨日相关个股尾盘飙升，西测测试和北京君正急速20cm涨停。

主流存储延续涨价趋势

受外围AI题材全线暴涨影响，A股节后相关题材也大幅反弹。申万一级行业通信、传媒两大指数节后均大涨超7%，高居涨幅榜前二，计算机指数大涨超4%，位居涨幅榜第四。概念涨幅更为猛烈，多模态模型指数大涨超16%，10多个相关指数涨超10%。部分个股大幅飙升，会畅通讯、中文在线、当虹科技等两天大涨超40%。

昨日AI题材再曝大消息

昨日AI题材再曝大消息，一家名为Groq的初创公司在AI圈爆火，其开发的LPU推理引擎，推理速度较英伟达GPU提高10倍，成本只有其1/10。在此消息影响下，昨日相关个股尾盘飙升，西测测试和北京君正急速20cm涨停。

比英伟达快10倍的AI芯片问世

目前，AI芯片市场主要是由英伟达主导，H100也公认是训练大语言模型最需要的GPU。在AI大发展的背景下，英伟达业绩股价双双暴涨。华尔街预计英伟达第四财季营收超过200吞吐量下，Groq的硬件成本是H100的40倍，能耗成本是10倍。

然而这并不影响A股市场对SRAM概念股的追捧。昨日尾盘，北京君正在短短1个小时内由绿盘拉升至20cm涨停，西测测试在不到10分钟时间拉升14%水平。今天早盘部分概念股继续冲高，西测测试一度大涨超16%，北京君正一度涨超8%。

3股净利有望暴增超18倍

业内人士指出，上述概念股的涨幅较大，一方面确实有SRAM概念助攻，另一方面作为核心题材的存储器本身也受益于AI时代大发展。与此同时，存储复苏也利好整个板块。国投证券研报显示，主流市场的存储厂商自2023年三

史上最快大模型炸场！Groq一夜爆红，自研LPU速度碾压英伟达GPU

AI圈的风云突变，再次掀起了一场科技风暴。 在这场科技变革中，Groq公司以其史上最快大模型和自主研发的LPU芯片，迅速在互联网上引爆了关注。 经过网友的测试，Groq的每秒生成速度达到了惊人的500 tok/s，远超GPT-4的40 tok/s，让其在AI聊天机器人领域脱颖而出。 虽然Groq并未研发新模型，而是提供了一种模型启动器，但它驱动的开源模型Mixtral 8x7B-32k和Llama 270B-4k，却展示了前所未有的响应速度。 Groq的LPU（Language Processing Units）芯片，以其速度优势，让AI推理领域产生了一股新的力量。 据测试，由Groq LPU驱动的Meta Llama 2模型，在7分钟内就能生成相当于莎士比亚《哈姆雷特》数量级的单词，速度比普通人打字快75倍。 此外，Groq在处理专业问题时，输出速度更是惊人，甚至比Gemini和GPT-4快出几倍，为用户提供了前所未有的实时响应体验。 尽管Groq没有自主研发新的AI模型，但它自研的LPU芯片，以其专为AI推理设计的独特架构，实现了性能的巨大飞跃。 这种架构能够高效利用每个时钟周期，确保一致的延迟和吞吐量，同时降低了复杂调度硬件的需求。 Groq的LPU推理引擎，以其端到端的系统设计，为需要大量计算和连续处理的应用提供了最快的速度。 在能效方面，LPU同样表现出色，通过减少管理多个线程的开销和避免内核利用率不足，实现了每瓦特更高的算力。 相较于英伟达GPU，Groq LPU不仅在速度上具有显著优势，而且在成本和耗电上也更为经济，这为AI大模型的实时推理提供了更加经济高效的解决方案。 在供应方面，Groq的芯片设计不依赖于特定的供应商，这为公司提供了更灵活的供应链策略，避免了因供应商问题导致的瓶颈。 尽管有专家指出实际成本相对较高，但Groq的创始人兼首席执行官Jonathan Ross依然坚信，随着技术的发展和市场的扩张，Groq在未来两年内能够销售出100万个LPU芯片。 随着Groq的迅速崛起，其自主研发的LPU芯片挑战了英伟达在AI领域的主导地位，为AI推理领域带来了新的可能性。 在激烈的科技竞争中，Groq展示了其在AI领域的创新能力和市场潜力，无疑将成为AI领域的一股不可忽视的力量。