文章预览
在Web应用的AI场景中,如果可以把部分AI能力放到Web端,可以减轻网络负担、提高效率,也可以减少应用对服务端算力的消耗。 Tansformers.js 就是一个可以直接在浏览器中跑AI模型的库,无需服务器! 源码地址: https://github.com/xenova/transformers.js Transformers.js的功能与 Hugging Face上的 transformers python库类似,这意味着可以使用与python非常相似的API运行相同的预训练模型。包括各种模态识别能力。例如: 自然语言处理:包括文本分类、命名实体识别、问题回答、语言建模、摘要、翻译、多项选择和文本生成等。 计算机视觉:图像分类、目标检测和图片分割。 语音音频:语音识别、音频分类。 多模态能力:例如,零样本图像分类。 Transformers.js在浏览器中运行模型,主要基于 ONNX SDK 。它优势是,可以轻松 地将基于 PyTorch,TensorFlow或JAX预训练的模型转换为ONNX
………………………………