回家的诱惑

英伟达宣布Groq 3 LPX全面投产:Vera Rubin推理效率实现数倍提升_我的网站

女婴起名王者荣耀

A |     8月25日消息,英伟达宣布,面向交互式AI推理的Groq 3 LPX处理器正式进入全面投产阶段。1月10日:微软最近在1月发布了一个针对Windows7用户的累积更新补丁。不幸的是,此更新为与smbv2共享的用户带来了一些问题。

B |     该芯片是Vera Rubin平台的关键组件之一,专注于超低延迟Token生成,旨在弥补传统GPU架构在此类场景下的不足。KB4480970更新确实存在一系列已知问题,但在内部测试期间似乎忽略了SMBV2问题。    在Artificial Analysis的基准测试中,Groq 3 LPX搭载Gemma 4 31B模型、处理100,000 Token上下文时,实现了每秒3400个输出Token的吞吐量,创下该模型迄今最高纪录。     针对智能体编程等对延迟敏感的工作负载,其响应速度最高可达近期竞品平台的4倍。    英伟达指出,智能体任务与传统聊天或摘要生成存在本质差异:一次任务可能包含数百甚至数千个推理步骤,智能体需反复读取文件、调用工具、执行代码、校验结果并迭代推理,上下文长度随之累积至数十万Token。这个问题最初是在sysadmin sub-reddit上共享的,但是微软还没有发布正式声明。在另一篇Microsoft TechNet论坛文章中,用户抱怨KB4480970补丁会导致Windows 2008 R2服务器出现问题。

C | 目前唯一的解决方案是从系统中卸载更新。这将暂时解决问题。以下是卸载更新的方法:打开Windows控制面板并导航到“程序和功能>已安装的更新”页,其中列出了系统上安装的所有最新更新。

D |     因此,智能体AI带来两个并行的计算需求:一是高效处理持续增长的大规模上下文,二是以极低延迟持续生成每一个输出Token。浏览列表并查找更新。    Vera Rubin平台通过多芯片协同设计应对这一挑战。其中,Rubin GPU负责大规模训练、推理及上下文处理;Groq 3 LPX则专为单用户交互场景优化Token生成速率;Vera CPU承担工具编排、代码执行、数据处理和模拟等CPU密集型工作;BlueField-4 DPU与Spectrum-6 SPX则分别负责网络与存储加速。找到后,右键单击它并从上下文菜单中选择“卸载”。

E |     英伟达同步公布了Vera Rubin NVL72在真实智能体负载下的测试结果。

F | 重新启动电脑,您将能够再次访问网络。解决这个问题的另一种方法是编辑注册表。基于SemiAnalysis的AgentX工作负载,采用DeepSeek V4 Pro模型,Vera Rubin NVL72每兆瓦(MW)吞吐量最高达到上一代GB300 NVL72的30倍,每Token成本最高降低35倍。但是,编辑注册表要复杂得多,而且风险更大,因此请确保备份它以防万一。     结合Groq 3 LPX的表现,该组合可使智能体在代码编写、测试执行、工具调用和结果验证等连续任务中获得更快的响应速度,从而显著缩短端到端任务完成时间。打开“开始”菜单并搜索cmd以使用管理权限启动命令提示。现在键入命令reg add hklm software microsoft windows currentversion policies system/v localaccounttokenfilterpolicy/t reg_dword/d 1/f,然后按Enter编辑注册表值。

G |     英伟达强调,Groq 3 LPX全面投产的核心目的并非以专用推理芯片取代GPU,而是为Vera Rubin平台补充传统GPU架构在超低延迟Token生成方面的短板。     整个Vera Rubin平台被定位为面向智能体AI时代的AI工厂系统,涵盖Rubin GPU、Vera CPU、Groq 3 LPX、BlueField-4 DPU、Spectrum-6 SPX等七款芯片及五种专用机架,所有组件围绕计算、网络、存储和软件进行深度协同设计,确保各类硬件各司其职,而非由单一处理器包揽全部工作负载。这两个解决方案将帮助您解决此问题,直到Microsoft发布Windows7设备的官方修复程序。    

         

     【本文结束】如需转载请务必注明出处:      责任编辑:鹿角     文章内容举报     

Current article:http://www.laojiusidaosenleliao.bond/pk8k3p/zz0qe.htm

Published on:08:05:22


我的网站最近更新

我的网站热门资讯