专栏名称: AI工程化
专注于AI领域(大模型、MLOPS/LLMOPS 、AI应用开发、AI infra)前沿产品技术信息和实践经验分享。
今天看啥  ›  专栏  ›  AI工程化

Chrome 127版本内置端侧大模型,一大批本地端侧llm应用将被解锁(附开启方法)

AI工程化  · 公众号  ·  · 2024-06-08 17:48
    

文章预览

1、下载 Chrome dev 最新127版本 google.com/chrome/dev/ 2、打开: chrome://flags/#optimization-guide-on-device-model 选择 Enabled BypassPerfRequirement 3、 打开:chrome://flags/#prompt-api-for-gemini-nano 选择 Enabled 4、等待模型下载完毕,可以在chrome://components/ 的 Optimization Guide On Device Model 看下载状态 5、打开 console输入:window.model.createTextSession(),如果没有报错就说明已经可以用了。 来自leeoxiang、宝玉等。 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览