查看原文
其他

速递|AI芯片Groq获6.4亿美元投资,Meta首席AI科学家LeCun担任顾问,挑战英伟达!

Kyle Z Potentials
2024-08-23

图片来源:Groq

Groq 是一家开发芯片的初创公司,其生成的人工智能模型运行速度比传统处理器更快。Neuberger Berman、Type One Ventures、思科、KDDI 和三星也参与了本轮融资。

据报道,Groq 最初希望以略低的估值(25 亿美元)融资 3 亿美元,此次融资使 Groq 的融资总额超过 10 亿美元,估值达到 28 亿美元,对 Groq 来说是一次重大胜利。这比 2021 年 4 月 Groq 之前的估值(约 10 亿美元)翻了一番还多,当时该公司在老虎环球管理公司(Tiger Global Management)和 D1 Capital Partners 领投的一轮融资中筹集了 3 亿美元。

Groq 今天还宣布,Meta 首席人工智能科学家 Yann LeCun 将担任 Groq 的技术顾问,英特尔代工业务前主管、惠普前首席信息官 Stuart Pann 将加入这家初创公司,担任首席运营官。考虑到 Meta 在自己的 AI 芯片上的投资,LeCun 的任命有点出人意料,但这无疑为 Groq 在这个竞争激烈的领域提供了一个强大的盟友。

Groq 公司于 2016 年从隐身状态中崛起,它正在创建一个所谓的 LPU(语言处理单元)推理引擎。该公司声称其 LPU 可以运行现有的生成式 AI 模型,其架构与 OpenAI 的 ChatGPT 和 GPT-4o 相似,速度是后者的 10 倍,能耗仅为后者的十分之一。

Groq 首席执行官乔纳森-罗斯(Jonathan Ross)的成名作是帮助发明了张量处理单元(TPU),这是谷歌用于训练和运行模型的定制人工智能加速芯片。罗斯与道格拉斯-怀特曼(Douglas Wightman)是一位企业家,也是谷歌母公司Alphabet X月球实验室的前工程师,两人在将近十年前合作创办了Groq公司。

Groq提供了一个名为GroqCloud的由LPU驱动的开发者平台,该平台提供 "开源 "模型,如Meta的Llama 3.1系列、谷歌的Gemma、OpenAI的Whisper和Mistral的Mixtral,以及允许客户在云实例中使用其芯片的API。(Groq还为人工智能驱动的聊天机器人提供了一个平台--GroqChat,并于去年年底推出)。截至7月,GroqCloud的开发者已超过35.6万人;Groq表示,本轮融资的部分收益将用于扩大产能,并增加新的模型和功能。

Groq的首席运营官斯图尔特-潘(Stuart Pann)告诉TechCrunch:"这些开发者中有许多是大型企业的员工。据我们估计,《财富》百强企业中有超过 75% 的企业都是我们的客户。"

随着生成式人工智能热潮的持续升温,Groq 面临着来自竞争对手人工智能芯片后起之秀和人工智能硬件领域的强大霸主英伟达(Nvidia)日益激烈的竞争。

据估计,在用于训练和部署生成式人工智能模型的人工智能芯片市场上,Nvidia 控制着 70% 到 95% 的份额,而且该公司正在采取积极措施来保持其主导地位。

Nvidia 已承诺每年发布一种新的 AI 芯片架构,而不是像历史上那样每隔一年发布一次。据报道,Nvidia 正在建立一个新的业务部门,专注于为云计算公司和其他公司设计定制芯片,包括人工智能硬件。

除了英伟达之外,Groq 还与亚马逊、谷歌和微软展开竞争,它们都提供或即将提供用于云中人工智能工作负载的定制芯片。亚马逊通过 AWS 提供了 Trainium、Inferentia 和 Graviton 处理器;谷歌云客户可以使用上述 TPU,并在一定时间内使用谷歌的 Axion 芯片;微软 最近推出了 Azure 实例预览版,用于其 Cobalt 100 CPU,未来几个月还将推出 Maia 100 AI Accelerator 实例。

一些分析师认为,在未来五年年销售额可能达到 4000 亿美元的人工智能芯片市场中,Groq 也可以将 Arm、英特尔、AMD 和越来越多的初创公司视为竞争对手。Arm 和 AMD 的人工智能芯片业务尤其蓬勃发展,这要归功于云计算厂商为满足生成式人工智能的容量需求而飙升的资本支出。

D-Matrix 在去年年底筹集了1.1 亿美元,将其称为首创的推理计算平台商业化。今年 6 月,Etched从隐身状态中脱颖而出,获得 1.2 亿美元的资金,用于定制一款处理器,以加速当今主流的生成式人工智能模型架构--Transformer。软银的孙正义(Masayoshi Son)据报道正在寻求为一家芯片企业融资 1000 亿美元,以与英伟达(Nvidia)竞争。此外,OpenAI据说正在与投资公司洽谈推出人工智能芯片制造计划。

为了开拓自己的市场,Groq 在企业和政府推广方面投入了大量资金。

今年 3 月,Groq 收购了 Definitive Intelligence(一家位于帕洛阿尔托的公司,提供一系列面向企业的人工智能解决方案),成立了一个名为 Groq Systems 的新业务部门。Groq Systems 的职责范围是为希望在现有数据中心添加 Groq 芯片或使用 Groq 处理器构建新数据中心的组织(包括美国政府机构和主权国家)提供服务。

最近,Groq 与政府 IT 承包商 Carahsoft 合作,通过 Carahsoft 的经销商合作伙伴向公共部门客户销售其解决方案,而且这家初创公司还与欧洲公司 Earth Wind & Power 的挪威数据中心签订了安装数万个 LPU 的意向书。

Groq 还与沙特阿拉伯咨询公司 Aramco Digital 合作,在中东未来的数据中心安装 LPU。

在建立客户关系的同时,总部位于加利福尼亚州山景城的 Groq 也在向下一代芯片迈进。去年 8 月,该公司宣布将与三星公司的代工业务签约,生产 4 纳米 LPU,与 Groq 的第一代 13 纳米芯片相比,4 纳米 LPU 预计将提高性能和效率。

Groq 表示,计划在 2025 年第一季度末部署超过 108,000 个 LPU。

本文翻译自:https://techcrunch.com/2024/08/05/ai-chip-startup-groq-lands-640m-to-challenge-nvidia/

编译:ChatGPT

-----------END-----------

🚀 我们正在招募新一期的实习生
🚀 我们正在寻找有创造力的00后创业者

关于Z Potentials
继续滑动看下一个
Z Potentials
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存