专栏名称: AI工程化
专注于AI领域(大模型、MLOPS/LLMOPS 、AI应用开发、AI infra)前沿产品技术信息和实践经验分享。
今天看啥  ›  专栏  ›  AI工程化

AI PC,微软真正下场了,最强功能Recall或杀死当红AI软件Rewind

AI工程化  · 公众号  ·  · 2024-05-21 22:34
    

文章预览

就在微软举办Build活动前夕,它发布了真正的AI PC: 推出了Copilot+PC; 推出了新款平板兼笔记本电脑Surface Pro; Windows操作系统与Arm架构更深度集成。 Windows可以运行40多个本地预装的模型,其中包括了8个小型的语言模型。用Copilot完成较更多复杂的任务,仍然需要使用ChatGPT,包括新发布的GPT-4o。 微软预计在接下来的一年里,将售出5000万台Copilot + PC。 后台回复“进群”入群讨论。 3月份时,我们发布了一份报告   《从工具到平台AI PC:AI普惠第一终端》 。 我们对AI PC下了一个量化的定义: 当大模型在本地部署时,需要 PC 这样的设备,足以容纳完整而又最小可行的通用推理能力。下面是其最基本的配置: 40TOPs,AI算力 70亿,模型参数 16G, 内存 20 tokens/s,推理速度 4k tokens,上下文长度 AI PC的最基本特征,就是它能在本地部署大模型,本地完成知识工作 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览