据路透社周二透露,微软和其他投资者已向人工智能芯片公司 d-Matrix 注入 1.1 亿美元。 d-Matrix 之所以引人注目,是因为它专注于推理芯片。 简而言之,人工智能推理是提高生成式人工智能或大型语言模型预测准确性的过程。 它发生在训练之后。
对推理的支持为 d-Matrix 提供了宝贵的利基市场,并避免了与 NVIDIA 的竞争。NVIDIA 是一家生产 GPU 和片上系统单元以及其他软件和硬件的技术公司。
什么是 d 矩阵?
d-Matrix 是一家总部位于硅谷的公司,为生成式人工智能和大型语言模型生产计算平台(芯片)。 其旗舰产品是 Corsair,这是一款用于人工智能推理的内存计算引擎。 该设计将人工智能模型完全保存在内存中的能力是新颖的,并且建立在 d-Matrix 之前的 Nighthawk、Jayhawk-I 和 Jayhawk II 小芯片的基础上。
什么是 d-Matrix 构建?
通过新一轮融资,d-Matrix 将致力于 Corsair 的商业化。 它希望解决人工智能和法学硕士公司没有足够的计算能力来运行他们所需的工作负载的问题。 为了解决这一内存瓶颈,d-Matrix 制作了基于小芯片的数字内存计算平台,d-Matrix 表示,该平台可以降低推理过程的总拥有成本。
Corsair 预计将于明年(2024 年)推出。
为何 d-Matrix 在 AI 芯片领域脱颖而出
d-Matrix 之所以脱颖而出,是因为芯片制造领域竞争激烈,而且许多小公司在融资方面遇到困难。 英伟达已经迫使许多小公司和投资者退出人工智能芯片市场。 路透社称,特别是英伟达在硬件和软件方面的主导地位让其他公司难以挤入。
NVIDIA 拒绝就 d-Matrix 的投资发表评论。
d-Matrix 的 1.1 亿美元投资来自投资公司淡马锡和 Playground Global 以及微软风险投资基金 M12 的 B 轮融资。 此前,d-Matrix 已在 Playground Global 的一轮融资中筹集了 4400 万美元。
d-Matrix 联合创始人兼首席执行官 Sid Sheth 在一份新闻稿中表示:“人工智能计算目前的发展轨迹是不可持续的,因为运行人工智能推理的总拥有成本正在迅速上升。” “d-Matrix 团队正在通过专为法学硕士构建的计算解决方案改变部署人工智能推理的成本经济,这一轮融资验证了我们在行业中的地位。”
Playground Global 合伙人 Sasha Ostojic 在同一份新闻稿中表示:“D-Matrix 是一家将使生成式人工智能商业化的公司。”
微软风险投资基金 M12 的迈克尔·斯图尔特 (Michael Stewart) 在新闻稿中表示:“我们正在进入生产阶段,LLM 推理 TCO 已成为企业在其服务和应用程序中使用先进人工智能的程度、地点和时间的关键因素。”
Chiplet 如何应对全球芯片短缺问题
自 2022 年 11 月 ChatGPT 商业化以来,生成式 AI 行业突飞猛进,如今面临两大问题。 首先,运行生成式人工智能的成本极其高昂——截至 2023 年 3 月,培训法学硕士的成本高达 400 万美元。
其次,人工智能训练所需的、由 NVIDIA 生产的图形处理单元仍然很难找到。 它们的供应如此短缺,以至于世界各国都开始采取举措来促进芯片行业的发展。 例如,9月初,中国向芯片产业投入400亿美元; 不过,没有迹象表明这些芯片不是专门针对生成式人工智能或法学硕士产品。
d-Matrix 制造的 DIMC 引擎和小芯片解决方案是基于 GPU 的解决方案的替代品,因此 d-Matrix 有望为主要问题提供解决方案。