今天看啥  ›  专栏  ›  InfoQ

Recall.ai 通过消除 WebSockets 节省上百万美元的 AWS 费用

InfoQ  · 公众号  · 科技媒体  · 2024-11-27 15:05
    

主要观点总结

Recall.ai最近在AWS上运行会议机器人的平台经验分享,他们发现使用WebSockets会增加百万美元的额外成本。为此,他们开发了一个高带宽、低延迟的IPC替代方案,优化云成本并通过环形缓冲降低了CPU使用率,年度成本降低了100多万美元。

关键观点总结

关键观点1: WebSockets在AWS上的额外成本问题

Recall.ai发现在AWS上使用WebSockets会增加百万美元的年度成本,因此他们开始寻找更具成本效益的传输层解决方案。

关键观点2: IPC替代方案的开发

为了降低AWS的成本,Recall.ai开发了一个自定义的传输方式作为IPC的替代方案,选择了环形缓冲作为高层级的传输结构。

关键观点3: 环形缓冲与CPU使用率的优化

实现和部署环形缓冲后,Recall.ai可以降低机器人的CPU使用率最多50%,从而提高CPU效率,降低AWS的年度成本。

关键观点4: 其他开发人员的反馈

有些开发人员对Recall.ai的技术栈和视频解码器的选择提出了质疑,而其他人则认为定制环形缓冲实现是一个好的选择。

关键观点5: 文章总结

文章总结了Recall.ai如何通过消除WebSockets在AWS上节省百万美元的经验,并讨论了其他开发人员对这一话题的看法和建议。


文章预览

作者 | Renato Losio 译者 | 张卫滨 策划 | Tina Recall.ai 最近分享了他们在 AWS 上运行一个用于构建和管理会议机器人的平台的经验,他们发现 使用 WebSockets 每年会增加 100 万美元的额外成本。该团队介绍了他们是如何通过开发一个高带宽、低延迟的进程间通信(inter-process communication,IPC)替代方案来解决这一问题的。 Recall.ai 为 Zoom、Google Meet 和 Microsoft Teams 等平台上的会议机器人提供 API,它依赖于 AWS 部署环境中的实时视频处理。Recall.ai 的工程团队负责人 Elliot Levin 这样写到: 当谈到优化云成本的时候,IPC 很少会得到人们的关注。但事实证明,如果在 AWS 上每秒以 IPC 的方式传输 1TB 的视频且处理效率不高的话,那么将会产生巨额的费用。 在对机器人样本进行分析时,研究小组最初预计大部分的 CPU 使用来自视频编码和解码。但是,他们发现最大 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览