发表评论:
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。
大模型最快推理芯片一夜易主!
比GPT-4快18倍,最快大模型Groq登场!
Groq一夜成名,背后最大的功臣不是GPU,而是自研的LPU——语言处理单元。
英伟达GPU需要依赖高速数据传输,所以增加了高带宽存储器HBM的用量,带来sk海力士等大幅扩产。
但Groq的LPU(语言处理单元)不使用HBM。而使用的是SRAM,其速度比GPU所用的存储器快约20倍。
SRAM存储器不是新鲜事物,比较常见的存储器,预示着价格要比HBM便宜很多。优点是速度快,缺点是容量太小,一般就几百兆,现在绝大多数SRAM都被集成到SoC内核里,俗称二级缓存。
盘面上,午后受消息刺激,存储芯片板块整体异动。
相关概念股:
1、北京君正:主营业务为集成电路存储芯片、模拟芯片及其衍生产品的研发和销售,是全球DRAM和SRAM的行业龙头之一。
2、兆易创新 :以 SRAM 起家,当前是全球第三、国内第一的 NOR Flash 供应商,打入华为、苹果 、三星等知名客户供 应链。
3、西测测试 :电子元器件检测筛选方面可实现对EEPROM、SRAM、NOR fl ash等存储芯片读写擦除功能的自动测试,提升了存储芯片的测试效率。
4、江波龙:目前已具备 SLC NAND Flash. MLC NAND Flash, NOR Flash * wak设计能力,并将通过完善的工程及品控能力逐步拓展更丰富的 Flash 产品系列。
5、万润科技:聚焦存储半导体的闪存封装和闪存测试以及存储模组和嵌入式存储的研发生产销售。
谷歌Gemini挑战ChatGPT:技术巨头间的较量 (2024-2-29 18:2:51)
AI自我觉醒成为可能?ChatGPT突然胡言乱语 (2024-2-26 8:56:14)
ChatGPT: 探索AI在沟通和搜索改进中的作用 (2024-2-18 13:33:51)
2023年人工智能新篇章:OpenAI的ChatGPT-4和未来展望 (2024-2-17 17:11:43)
ChatGPT-4在新年面临'懒惰'困境:解决之道在哪? (2024-2-16 13:7:42)
让 ChatGPT 成为你的的个人 CRM (2024-2-15 19:15:46)
ChatGPT要“回家过年”导致用户流失 (2024-2-14 14:32:33)
大家在用ChatGPT时都有什么高阶玩法? (2024-2-13 12:25:25)
ChatGPT在企业中的应用:定制化聊天机器人的创建 (2024-2-12 17:42:34)
文心4.0还是可以和ChatGPT3.5一战的,只是擅长的方向不同罢了 (2024-2-11 11:17:39)