腾讯研究院AI速递 20250225

文章预览

生成式AI 一、  Claude 3.7 Sonnet 即将揭秘：各种关键领域达到顶尖水平 1. Claude 3.7 Sonnet将于2月26日可能在AWS活动上发布，引入"扩展思考"能力，允许用户在快速响应和高级推理间切换； 2. 该模型在代码生成、计算机使用、复杂推理和内容生成等领域达到顶尖水平，特别适合驱动AI代理和构建复杂AI工作流程； 3. 应用场景广泛，包括RAG检索、产品推荐、预测分析、精准营销、代码生成、质量控制和图像文本解析等多个领域。 https://mp.weixin.qq.com/s/s1u1CA2EgfVhZCyONwDqSw 二、  DeepSeek Day one的 FlashMLA，这些细节值得注意 1. FlashMLA是针对Hopper GPU优化的高效多头潜在注意力解码内核，通过MLA技术和分页KV缓存提高LLM推理效率; 2. 该技术在H100/H800上表现出色，性能可达580 TFLOPS计算效率和3000 GB/s内存带宽，同样资源下处理更多请求; 3. FlashMLA开源后可集成到多种AI框架中， ………………………………