主要观点总结
Recall.ai最近在AWS上运行会议机器人的平台经验分享,他们发现使用WebSockets会增加百万美元的额外成本。为此,他们开发了一个高带宽、低延迟的IPC替代方案,优化云成本并通过环形缓冲降低了CPU使用率,年度成本降低了100多万美元。
关键观点总结
关键观点1: WebSockets在AWS上的额外成本问题
Recall.ai发现在AWS上使用WebSockets会增加百万美元的年度成本,因此他们开始寻找更具成本效益的传输层解决方案。
关键观点2: IPC替代方案的开发
为了降低AWS的成本,Recall.ai开发了一个自定义的传输方式作为IPC的替代方案,选择了环形缓冲作为高层级的传输结构。
关键观点3: 环形缓冲与CPU使用率的优化
实现和部署环形缓冲后,Recall.ai可以降低机器人的CPU使用率最多50%,从而提高CPU效率,降低AWS的年度成本。
关键观点4: 其他开发人员的反馈
有些开发人员对Recall.ai的技术栈和视频解码器的选择提出了质疑,而其他人则认为定制环形缓冲实现是一个好的选择。
关键观点5: 文章总结
文章总结了Recall.ai如何通过消除WebSockets在AWS上节省百万美元的经验,并讨论了其他开发人员对这一话题的看法和建议。
文章预览
作者 | Renato Losio
译者 | 张卫滨
策划 | Tina Recall.ai 最近分享了他们在 AWS 上运行一个用于构建和管理会议机器人的平台的经验,他们发现 使用 WebSockets 每年会增加 100 万美元的额外成本。该团队介绍了他们是如何通过开发一个高带宽、低延迟的进程间通信(inter-process communication,IPC)替代方案来解决这一问题的。 Recall.ai 为 Zoom、Google Meet 和 Microsoft Teams 等平台上的会议机器人提供 API,它依赖于 AWS 部署环境中的实时视频处理。Recall.ai 的工程团队负责人 Elliot Levin 这样写到: 当谈到优化云成本的时候,IPC 很少会得到人们的关注。但事实证明,如果在 AWS 上每秒以 IPC 的方式传输 1TB 的视频且处理效率不高的话,那么将会产生巨额的费用。 在对机器人样本进行分析时,研究小组最初预计大部分的 CPU 使用来自视频编码和解码。但是,他们发现最大
………………………………