贾扬清质疑 Groq CEO “其芯片价格接近免费”说法，前员工出来实锤：根本不切实际！

AIGC动态欢迎阅读

原标题：贾扬清质疑 Groq CEO “其芯片价格接近免费”说法，前员工出来实锤：根本不切实际！
关键字：芯片,编译器,解读,架构,模型
文章来源：AI前线
内容字数：12595字

内容摘要：

整理｜冬梅、褚杏娟
在人工智能的世界里，正在发生一场翻天覆地的变化，随着 ChatGPT、Sora 的横空出世，我们正在从深度学转向生成式人工智能时代，而在这场巨变中，芯片成为了科技巨头们的必争之地。
近日，硅谷一家初创企业以一款独特的芯片产品攻占各大科技媒体板块头条。该公司正以一种与过往不同的方式推动这场人工智能。该公司名为 Groq，是一家人工智能解决方案公司。
据多家外媒报道，Groq 刚刚推出了 alpha 预览版的推理引擎，该引擎使用其定制的语言处理单元 (LPU) 芯片架构。这款推理引擎主打一个“快”字，每秒能输出 500 个 token。相比之下，Chat GPT-3.5 每秒生成速度为 40 个 token。
“Groq 那疾如闪电的演示开始疯传，让人们第一次意识到当前版本的 ChatGPT、Gemini 甚至是 Grok 看起来是多么笨拙和迟缓。”有网友感叹道。
“你必须尝试的疯狂技术！” HyperWriteAI CEO Matt Shumer 在 X 上极力称赞 Groq：“以 500 tok/s 的速度运行 Mixtral 8x7B-32k，答案几乎是

原文链接：贾扬清质疑 Groq CEO “其芯片价格接近免费”说法，前员工出来实锤：根本不切实际！