炬芯科技周正宇：Actions Intelligence 端侧AI音频芯未来

主要观点总结

本文介绍了炬芯科技股份有限公司在端侧AI领域的发展和创新。公司采用基于模数混合设计的电路实现CIM（存内计算）技术，发布了新一代基于MMSCIM端侧AI音频芯片。该技术降低了功耗，提升了性能，并有望成为引领端侧AI技术的新潮流。文章还提及了端侧AI在IoT设备中的角色以及炬芯科技对AI生态发展的贡献。

关键观点总结

关键观点1: AI算力需求激增，推动混合AI和端侧AI的发展

随着生成式AI的快速发展，AI算力需求激增。云端和端侧协同的混合AI架构成为趋势。端侧AI在IoT设备中扮演重要角色，具有低延迟、个性服务和数据隐私保护等优势。

关键观点2: 炬芯科技采用MMSCIM技术实现高效能比的端侧AI

炬芯科技采用基于模数混合设计的电路实现CIM（存内计算），发布了新一代基于MMSCIM的端侧AI音频芯片。该技术具有高性能、高能效比、低延迟等特点，并有望推动端侧AI技术的快速发展。

关键观点3: 炬芯科技与HiFi5 DSP的能效比对比

通过对比测试，炬芯科技的GEN1 MMSCIM在运行CNN网络模型时，相较于HiFi5 DSP可降低近98%功耗，能效比提升高达44倍。这一优势表明炬芯科技的MMSCIM技术在端侧AI领域具有显著的优势。

关键观点4: 炬芯科技对AI生态的贡献

炬芯科技通过发布基于MMSCIM的端侧AI音频芯片，助力AI生态的快速发展。公司希望通过“Actions Intelligence”战略让AI真正的随处可及，并继续加大研发投入，推动端侧AI生态的健康、快速发展。

文章预览

ChatGPT激发了人们的好奇心也打开了人们的想象力，伴随着生成式AI（Generative AI）以史无前例的速度被广泛采用，AI算力的需求激增。与传统计算发展路径类似，想让AI普及且发掘出AI的全部潜力，AI计算必须合理的分配在云端服务器和端侧装置（如PC，手机，汽车， IoT装置），而不是让云端承载所有的AI负荷。这种云端和端侧AI协同作战的架构被称为混合AI(Hybrid AI)，将提供更强大，更有效和更优化的AI。换句话说，要让AI真正触手可及，深入日常生活中的各种场景，离不开端侧AI的落地。 端侧AI将机器学习带入每一个IoT设备，减少对云端算力的依赖，可在无网络连接或者网络拥挤的情况下，提供低延迟AI体验，还具备低功耗、高数据隐私性和个性化等显著优势。AIoT的一个最重要载体是电池驱动的超低功耗小型IoT设备，其数量庞大且应用丰富，在新一代AI ………………………………