GPT-4o加钱能变快！新功能7秒完成原先23秒的任务

文章预览

金磊 发自 凹非寺 量子位 | 公众号 QbitAI OpenAI出了个新功能，直接让ChatGPT输出的 速度原地起飞！ 这个功能叫做 “预测输出” （Predicted Outputs） ，在它的加持之下，GPT-4o可以比原先快 至多5倍 。 以编程为例，来感受一下这个feel： 为啥会这么快？用一句话来总结就是： 跳过已知内容，不用从头开始重新生成。 因此，“预测输出”就特别适合下面这些任务： 在文档中更新博客文章 迭代先前的响应 重写现有文件中的代码 而且与OpenAI合作开发这个功能的FactoryAI，也亮出了他们在编程任务上的数据： 从实验结果来看，“预测输出”加持下的GPT-4o响应时间比之前快了2-4倍，同时保持高精度。 并且官方还表示： 原先需要70秒完成的编程任务，现在只需要20秒。 值得注意的是，目前“预测输出”功能仅支持GPT-4o和GPT-4o mini两个模型，且是以API的形式。 对于 ………………………………