文章预览
笔者等待多时的 Transformers.js v3 版本 , 经过一年多的开发,终于发布了!这一版本带来了多项重大更新和增强,必将引起前端及浏览器插件 AI 应用爆发。 核心亮点 WebGPU 支持 Transformers.js v3 引入了 WebGPU 支持,性能比 WASM 快高达 100 倍,利用浏览器的 GPU 进行高性能计算。WebGPU 是一种新的网页标准,用于加速图形和计算,性能优于 WebGL,能够直接与现代 GPU 交互,非常适合机器学习任务。 示例代码 import { pipeline } from "@huggingface/transformers" ; // Create a feature-extraction pipeline const extractor = await pipeline( "feature-extraction" , "mixedbread-ai/mxbai-embed-xsmall-v1" , { device : "webgpu" }, }); // Compute embeddings const texts = [ "Hello world!" , "This is an example sentence." ]; const embeddings = await extractor(texts, { pooling : "mean" , normalize : true }); console .
………………………………