如果你曾希望ChatGPT能更快一些,OpenAI似乎正在满足你的期待。
这家AI研究机构近日推出了一种名为"Ultrafast"的全新模式,据称该模式旨在大幅提升其最新旗舰模型GPT-5.6 Sol的运行速度。
据OpenAI介绍,Ultrafast模式的处理速度可达标准模式的14倍,每秒最多可输出750个Token——Token是大语言模型在与用户交互时所生成的独立文本单元。
"过去,想要获得实时响应速度,通常意味着必须选择规模更小或更专用的模型,"OpenAI在周四发布的博文中表示,"Ultrafast指向了一个新的发展方向:每秒完成更多有价值的工作。"
OpenAI的竞争对手,如Anthropic,也推出了各自模型的加速版本。Claude同样拥有快速模式,但其速度尚未达到OpenAI此次所展示的水平。
OpenAI表示,这一高性能版本的GPT-5.6 Sol可广泛应用于多种企业工作流场景,尤其适合事故响应处理、客户服务与支持、金融市场分析以及电子商务等领域。
Ultrafast目前以预览版形式发布,其背后的算力支撑来自OpenAI与芯片制造商Cerebras的合作。目前,该预览版仅向少数客户开放,但OpenAI表示,随着"产能的不断提升",将逐步扩大该功能的使用范围。
Q&A
Q1:OpenAI的Ultrafast模式和普通模式有什么区别?
A:Ultrafast模式是OpenAI专为GPT-5.6 Sol推出的高速运行模式,处理速度是标准模式的14倍,每秒可输出最多750个Token。与此前需要选择小型或专用模型才能获得快速响应不同,Ultrafast在保持模型能力的前提下大幅提升了处理速度,更适合对实时性要求高的企业应用场景。
Q2:Ultrafast模式适合用在哪些场景?
A:OpenAI建议Ultrafast模式可部署在多种企业工作流中,主要包括:事故应急响应、客户服务与技术支持、金融市场实时分析以及电子商务等对响应速度要求较高的业务场景。
Q3:Ultrafast模式现在可以使用了吗?
A:目前Ultrafast模式以预览版形式发布,仅向少量客户开放使用。该模式由OpenAI与芯片制造商Cerebras合作提供算力支持。OpenAI表示,随着相关产能的持续扩张,未来将逐步向更多用户开放访问权限。