Chrome 居然提供了可以直接调用 LLM 的 API！

主要观点总结

文章介绍了Google在开发一系列Web平台API和浏览器功能，以让AI模型直接在浏览器中运行。重点介绍了Gemini Nano如何在Chrome Canary中试验，并描述了如何使用Prompt API来调用语言模型的功能。文章还提到了一些基于浏览器提供的内置AI能力，可以添加很多有趣的功能，如文本分类、翻译等。

关键观点总结

关键观点1: Google开发Web平台API和浏览器功能，让AI模型直接在浏览器中运行。

文章主要介绍了Google为了实现在浏览器中运行大型语言模型所做的工作，包括正在开发的Web平台API和浏览器功能。

关键观点2: Gemini Nano成为第一个实验对象。

Gemini Nano是专为高效运行而设计的Gemini系列大型语言模型之一，可以在大部分现代的台式机和笔记本电脑上本地运行。

关键观点3: 浏览器内置AI的优势。

浏览器内置AI具有易于部署、使用硬件加速和离线使用的优势，同时无需承担自行部署模型的成本和安全问题。

关键观点4: Chrome Canary上的Gemini Nano试验。

文章详细描述了如何在Chrome Canary上启用Gemini Nano，并使用Prompt API来调用语言模型。包括下载和安装Chrome Canary，启用Prompt API和相关的flags，以及检查模型状态和使用的API方法。

关键观点5: 基于浏览器提供的内置AI能力添加有趣的功能。

文章给出了一个使用Prompt API实现划词翻译功能的小Demo，并列举了基于浏览器提供的内置AI能力可以添加的其他功能，如文本分类、翻译、文章总结等。

文章预览

大家好，我是 ConardLi 。 AI 时代的高速发展，我们都习惯了使用 ChatGPT、Claude、Gemini 和其他 AI 工具来询问各种问题，目前大部分的 AI 应用都是通过服务端 API 来实现的。 如果想要在 Web 上使用 AI 功能往往需要靠服务器来处理一些非常大的模型。这在制作一些生成内容的 AI 方面尤其常见，因为这些模型的大小是一个普通网页容量的好几千倍，对于其他种类的 AI 功能也是一样，其中模型的大小可能会在几十到几百兆字节之间。 每个使用这些模型的网站都需要在用户打开网页时下载这些大模型，这对开发者和用户来讲，并不是一件轻松的事情。 为此， Google 正在开发一系列的 Web 平台 API 和浏览器功能，目的是让 AI 模型，包括大型语言模型，可以直接在浏览器中运行。 Gemini Nano 因为 Gemini 是 Google 自家的亲儿子，所以 Gemini Nano 自然成了 ………………………………