近日，AI芯片初创公司Groq宣布在新一轮融资活动中成功募集6.4亿美元，公司估值达到28亿美元。据悉，本轮融资由全球最大的资产管理公司贝莱德集团领投，显示出投资界对Groq未来发展信心。

Groq成立于2016年，专注于开发用于人工智能、机器学习和高性能计算的计算机加速器。在此前6月份的融资中，Groq估值为25亿美元。

在今年2月份，Groq推出一款AI芯片LPU（语言处理器），并宣称其LPU推理性能是英伟达GPU的10倍，成本仅为其十分之一。大模型生成速度接近500tokens每秒，无情碾压ChatGPT 3.5大约40tokens每秒的生成速度。

有消息指出，该LPU芯片主要用于推理模型。由于LPU的内存容量只有230Mb，在运行700亿参数模型时，需要305张Groq的LPU芯片。

据悉，公司创始人Jonathan Ross是前谷歌高级工程师，是谷歌自研AI芯片TPU的设计者之一。产品主管John Barrus曾在谷歌及亚马逊担任产品高管。

展望下一代LPU，Ross相信GroqChip的能效将提高15到20倍，可以在相同的功率范围内为设备增加更多的矩阵计算和SRAM存储器。

在去年底的采访中，Ross表示，考虑到GPU的短缺和高昂的成本，他相信Groq未来的发展潜力。

(8899628)


                                        
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！  
                                        
联系邮箱：1042463605@qq.com