OpenAI于周四发布了GPT-5.3-Codex-Spark，这是其首个运行在Cerebras Systems餐盘大小AI加速器上的模型。该加速器搭载了世界上最快的片上内存技术。

　　这款轻量级模型旨在通过Cerebras的SRAM封装CS3加速器为OpenAI的Codex代码助手用户提供更具交互性的体验，生成响应速度超过每秒1000个Token。

　　上个月，OpenAI与Cerebras签署了100亿美元的合同，部署多达750兆瓦的定制AI芯片来服务Altman团队的最新一代GPT模型。

　　Cerebras的晶圆级架构采用了一种名为SRAM的超快片上内存，其速度比英伟达今年CES上发布的即将推出的Rubin GPU中的HBM4内存快约1000倍。

　　由于Spark是专有模型，我们无法获得参数数量等详细信息，不像OpenAI去年8月在HuggingFace上发布gpt-oss时那样。我们知道的是，与那个模型一样，它是一个纯文本模型，拥有128,000个Token的上下文窗口。

　　模型的上下文窗口是指它能同时跟踪的Token（词汇、标点符号、数字等）数量，通常被称为模型的短期记忆。

　　虽然128K个Token听起来很多，但由于模型必须跟踪现有代码和新生成的代码，像Codex这样的代码助手可能很快就会用完。即使从空白开始，以每秒1000个Token的速度，大约两分钟就会超出上下文限制。

　　这可能是OpenAI表示Spark默认采用轻量级风格的原因，只进行最小的针对性编辑，除非特别要求，否则不会运行调试测试。

　　OpenAI写道：GPU在我们的训练和推理管道中仍然是基础，为广泛使用提供最具成本效益的Token。Cerebras通过在需要极低延迟的工作流程中表现出色来补充这一基础。

　　这不仅仅是表面文章。尽管Cerebras的CS3加速器速度很快，但在内存容量方面无法与现代GPU匹敌。SRAM虽然快速，但空间效率不高。整个餐盘大小的芯片仅包含44GB内存。相比之下，英伟达的Rubin将配备288GB的HBM4，而AMD的MI455X将搭载432GB。

　　这使得GPU在运行大型模型时更经济，特别是在速度不是优先考虑因素的情况下。话虽如此，OpenAI建议随着Cerebras提供更多计算资源，它将把更大的模型引入该计算平台，这大概是为那些愿意为高速推理付费的用户准备的。

　　A：GPT-5.3-Codex-Spark是OpenAI首个运行在Cerebras Systems AI加速器上的模型，该加速器采用SRAM片上内存技术，速度比英伟达GPU中的HBM4内存快约1000倍。该模型专为代码助手设计，能以每秒超过1000个Token的速度生成响应，为用户提供更具交互性的编程体验。

　　A：OpenAI与Cerebras签署了100亿美元合同，主要是为了获得极低延迟的推理能力。虽然GPU在训练和推理管道中仍然是基础且更具成本效益，但Cerebras的SRAM技术在需要极速响应的工作流程中表现出色，两者形成互补关系而非替代关系。

　　A：该模型拥有128,000个Token的上下文窗口，虽然看似很大，但由于需要跟踪现有代码和新生成的代码，在每秒1000个Token的生成速度下，大约两分钟就会达到上下文限制。因此模型默认采用轻量级风格，只进行最小的针对性编辑。

　　本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。