创新突破，献给祖国

主要观点总结

本文介绍了安天澜砥威胁分析垂直大模型（VILLM）第一个CPU架构版本的成功移植及其技术创新里程碑。该模型通过激活值量化、权重量化配合量化感知训练，在CPU上运行实现了几乎没有精度衰减的同时大大降低了磁盘和内存空间占用，缩小了CPU与GPU环境运行速度的差距，为威胁分析大模型在防御场景中实现低成本本地化部署迈出了重要的一步。文章还回顾了安天公司自创立以来的技术创新历程，包括不同领域的产品形态、需求场景和技术创新点。

关键观点总结

关键观点1: 安天澜砥威胁分析垂直大模型（VILLM）CPU架构版本移植成功

安天工程师团队成功移植了VILLM的第一个CPU架构版本，并通过内部测试验证了其性能。这一技术实现了在CPU上高效运行威胁分析大模型，为低成本本地化部署奠定了基础。

关键观点2: VILLM模型的技术创新

VILLM模型采用激活值量化、权重量化配合量化感知训练等技术，实现了在CPU上运行几乎没有精度衰减的同时，大大降低了磁盘和内存空间占用，并缩小了CPU与GPU环境运行速度的差距。

关键观点3: 安天公司的技术创新里程碑

文章回顾了安天公司自创立以来的技术创新历程，展示了公司在不同领域的产品形态、需求场景和技术创新点，包括系统安全、流量场景、感知捕获、引擎、分析平台等。

文章预览

点击上方"蓝字" 关注我们吧！ —  国庆喜报  — 2024年10月1日上午10点，安天澜砥威胁分析垂直大模型（VILLM）第一个CPU架构版本移植成功并完成内部测试，模型采用激活值量化、权重量化配合量化感知训练，实现了在CPU上运行几乎没有精度衰减的同时大大降低了磁盘和内存空间占用，并使用特殊算法对矩阵乘法和注意力计算进行加速进一步缩小了CPU与GPU环境运行速度的差距，为威胁分析大模型在防御场景中实现低成本本地化部署迈出了坚实的一步。 安天工程师团队用这一阶段性技术创新成果，向新中国75周年华诞献礼。 为了祖国的网络安全，我们的创新永不止息！ 附：安天创业24年自主研发创新部分里程碑 安天技术创新里程碑 2001年   领域： 系统安全 产品形态： Antiy GhostBuster （智甲终端防御系统前身） 需求场景： 新型远控木马和Rookit样本大 ………………………………