专栏名称: 斌叔OKmath
橙旭园CEO 教育博主 教育部双创优秀导师。前微软员工。橙旭园儿童编程创始人。
今天看啥  ›  专栏  ›  斌叔OKmath

您现在可以将 1.58 位 LLM 与 llamafile 结合-20240827085308

斌叔OKmath  · 微博  ·  · 2024-08-27 08:53
    

文章预览

2024-08-27 08:53 本条微博链接 您现在可以将 1.58 位 LLM 与 llamafile 结合使用。我刚刚上传了 TriLM。它的权重与苏联 Setun 一样为 -1 / 0 / +1。它有 8 种不同的大小(78MB 到 1.3GB),并且在四个 CPU 上都有良好的基准测试分数。 网页链接 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览