加入我们的每日和每周信息选票，以获取人工智能领先的行业照明中的最新更新和独家内容。了解更多
当DeepSeek-R1出现时，人们对行业的恐惧震撼了，这是因为可以通过较小的基础设施来实现改善的推理。
事实证明，这不是必需的。至少根据AI的说法，DepSeek推理和开源源的增长具有完全相反的效果：而不是减少对基础设施的需求，而是增加了它。
这种增加的需求有助于刺激平台和业务的增长。今天，该公司宣布了B系列B系列B系列的融资，该系列由一般催化剂领导，并在繁荣的领导下。 II共同出现在2023年，以简化使用开源（LLMS）的大语言模型的企业的使用。该公司于2024年通过联合企业平台扩展，该平台使您可以在虚拟云（VPC）和本地媒体中部署AI。 2025年，通过集群的推理和AI的代理能力，共同开发了他的平台。
该公司声称其AI部署平台拥有超过450,000个注册开发人员，与去年相比，该业务每年增长6次。该公司的客户包括企业以及人工智能的创业公司，例如Krea AI，Signatures和Pika Labs。
VentureBeat告诉AI Socyal AI总经理Vipul Prakash，“目前，我们以所有方法提供模型：语言，图像以及音频和视频。”
DeepSeek-R1对对AI基础架构的需求产生了巨大影响
DeepSeek-R1出于多种原因首次亮相时，他的首次亮相是极其破坏性的，其中之一暗示开源推理模型可以与专利模型相比，基础设施较少。
但是，Prakash解释说，AI共同增加了其基础设施，以帮助维持与DeepSeek-R1相关的工作量需求。
他说：“这是一个相当昂贵的模型。” “它具有6710亿个参数，您需要根据几个服务器进行分发。而且，由于质量更高，因此，在上部，需求更多，这意味着您需要更多的能力。
此外，他指出，DeepSeek-R1通常具有更耐用的要求，可以持续两到三分钟。消费者对DeepSeek-R1的需求更大，有助于对更大的基础设施的需求。
为了满足这一需求，AI共同推出了一项服务，他称之为“推理群”，该服务提供了从128到2000芯片范围内的专用功能，以最佳的性能启动模型。
AI如何帮助组织使用AI AI
在许多特定领域中，AI共同看到了推理模型的使用。其中包括：
- 编码代理： 推理的模型有助于将大问题分为步骤。
- 减少幻觉： 推理的过程有助于检查模型的输出，从而减少幻觉，这对于准确性至关重要的应用非常重要。
- 改进模型而无需更换： 客户蒸馏并提高不健康模型的质量。
- 确保自我完善： 通过推理模型使用培训来加强培训，允许模型递归独立地执行独立性，而无需依靠一个人提供的大量数据。
代理人还有助于增加对AI基础架构的需求
随着其用户接受代理商，AI一起看到了对基础架构的需求增加。
Prakash解释说，当一个用户的请求导致成千上万的API调用以完成任务时，代理工作流程会一起计算AI基础架构的更多计算需求。
为了帮助支持代理工作负载AI，AI最近获取了代码框，该框的技术提供了轻巧的，快速签名的虚拟机（VMS），以在AI云中执行任意安全的代码，那里也有语言模型。这允许AI一起减少代理代码和模型之间通过改善代理工作流程的性能而引起的延迟。
Nvidia Blackwell已经影响了
所有AI平台都面临着增加的要求。
这就是NVIDIA继续部署新硅的原因之一，从而提供更大的性能。 NVIDIA产品的最后芯片是Blackwell图形处理器，该处理器现在正在AI中一起展开。
普拉卡什（Prakash）说，NVIDIA Blackwell芯片的成本比上一代高约25％，但提供了2次。带有Blackwell芯片的GB 200平台特别适合于专家模型（MOE）的学习和输出，该平台对与Infiniband相关的多个服务器进行了培训。他指出，与较小的型号相比，布莱克韦尔芯片也有望提供更大的性能提高以提取更大的模型。
代理AI的竞争格局
AI基础设施平台的市场具有激烈的竞争力。
AI共同面临着著名的云提供商和人工智能基础设施初创企业的竞争。包括Microsoft，AWS和Google在内的所有Hyersliks都有人工智能平台。还有一个新兴的球员，例如AI，例如Groq和Samba Nova，他们针对一个有利可图的市场。
AI共同有一个完整的堆栈提案，包括顶部具有软件平台级别的GPU基础架构。这使客户可以轻松使用开源模型或一起在AI平台上开发自己的模型。该公司还专注于开发优化研究和加速撤回和培训的执行时间。
Prakash说：“例如，我们以每秒85个令牌的级别为DeepSeek-R1模型提供服务，而Azure以每秒7个令牌提供服务。” “我们可以向客户提供的性能和成本存在相当扩大的差距。”
Source link
