注册    登录
专栏名称: 黄建同学
数码博主 超话主持人（ChatGPT超话） 头条文章作者 我的学习笔记，关注AI+新能源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  黄建同学

浏览器里的LLM: web-llm，高性能浏览器内 LLM 推理-20241001133218

黄建同学  · 微博  · AI  · 2024-10-01 13:32
    

文章预览

2024-10-01 13:32 本条微博链接 浏览器里的LLM: web-llm，高性能浏览器内 LLM 推理引擎 #ai# #程序员# 它通过硬件加速将语言模型推理直接引入 Web 浏览器。所有内容都在浏览器内运行，无需服务器支持，并通过 WebGPU 加速。 WebLLM与OpenAI API完全兼容。 也就是说，你可以在本地对任何开源模型使用相同的 OpenAI API ，其功能包括流式传输、JSON 模式、函数调用（WIP）等。 访问：github.com/mlc-ai/web-llm ChatGPT ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
爱可可-爱生活  ·  【[225星]Dify-Kubernetes：轻松部署Dify到-20250419121045
昨天
量子位  ·  《2025中国AIGC应用全景图谱报告》发布：首轮产品格局已经落定，新一轮变革蓄势待发
昨天
IT报  ·  OpenAI新模型能"看图思考"？o3/o4-mini让AI离人类又近了一步
昨天
IT报  ·  OpenAI新模型能"看图思考"？o3/o4-mini让AI离人类又近了一步
昨天
量子位  ·  3分钟搭建一个调用支付宝的智能体，MCP爆发，蚂蚁推了一把
昨天
黄建同学  ·  //@明风:这个PDF发布真的很低调，连页面都找不到，但是内容十-20250417183657
2 天前
TechWeb  ·  雷军和卢伟冰，有了新的KPI
11 月前
四大人新出路  ·  我是如何社招进入top2咨询公司MBB？四大背景也有各种好出路。| 2024年VIP职场分享。
6 月前
大楚网  ·  武汉要下雪了！
4 月前
北京应急  ·  拘留10天！北京一女子在路口烧纸引火灾
1 月前
四川应急  ·  遂宁市大英县织密安全“防护网” 筑牢森林“防火墙”
1 月前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   51好读   ·   小百科（海外）   ·   Link管理
今天看啥 - 公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号