EP16 GPT4o对实时互动与RTC的影响

文章预览

关注共识粉碎机，获取历史讨论会纪要 本期讨 论会参 与者： 杜金房老师： 烟台小樱桃网络科技有限公司创始人，FreeSWITCH 中文社区创始人，RTS 社区和 RTSCon 创始人，《FreeSWITCH 权威指南》、《Kamailio 实战》、《深入理解 FFmpeg》作者，FreeSWITCH 开源项目核心 Committer。杜老师同时是 RTE 实时互动开发者社区联合主理人。 刘连响老师： 资深RTC技术专家，推特@leeoxia ng。 史业民老师： 实时互动AI创业者，前智源研究院研究员。 徐净文老师： 负责百川的战略、投融资、开源生态、海外等业务。 1   GPT4o如何降低延迟 GPT4o前调用OpenAI API延迟极限情况下可以压缩到2秒 中美跨海光缆差不多100-200ms，如果考虑丢包，那平均在300-400ms。 语音场景需要经过ASR（语音转文本），在大模型无法流式输入的情况下，一般需要说完一句话再喂给大模型，平均需要400-500ms延迟 ………………………………