注册    登录
专栏名称: 宝玉xp
前微软Asp.Net最有价值专家 互联网科技博主 我是宝玉。
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  宝玉xp

模型会有上下文窗口长度限制，AI聊天应用也会有会话长度限制。举例-20250113095949

宝玉xp  · 微博  · AI  · 2025-01-13 09:59
    

文章预览

2025-01-13 09:59 本条微博链接 模型会有上下文窗口长度限制，AI聊天应用也会有会话长度限制。举例来说你的模型最大上下文窗口长度限制是 128K，但是通常应用程序不会让你输入的内容到128K，可能输入内容最多16K就不让你输入了，因为这个上下文窗口长度是针对输入和输出加起来的长度，所以要留一些空间给输出，另外输入内容越长，模型生成的质量会下降，成本也会增加很多，所以应用要限制最大输入的长度// @无命道 ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
MY聊审计  ·  方方格子正式接入DeepSeek，无须单独注册API密钥就能用，并推出基于方方格子的大模型知识引擎LKE，从此用AI处理数据！
11 小时前
MY聊审计  ·  方方格子正式接入DeepSeek，无须单独注册API密钥就能用，并推出基于方方格子的大模型知识引擎LKE，从此用AI处理数据！
11 小时前
宝玉xp  ·  把照片变成 3D Q版风格工具：Sora.com 或 GPT-4-20250405002612
17 小时前
宝玉xp  ·  color=red我测试了不行的，因为不是标准html标签//@-20250404075210
昨天
新智元  ·  浙大校友重磅革新Transformer！多token注意力让LLM开挂，错误率归0
2 天前
量子位  ·  语音界Deepseek！百度最新跨模态端到端语音交互，成本最高降90%
3 天前
橘猫看球  ·  欧冠决赛对阵双方财务数据对比：以卵击石？
10 月前
彩云译设计  ·  工作10多年后发现，高考选啥专业真没那么重要
9 月前
MaterialsViews  ·  哈尔滨师范大学张喜田、武立立EEM：Pt掺杂的菌丝碳纳米带加速多硫化物转化实现高负载长寿命锂硫电池
9 月前
凡默谷  ·  新型动物和非动物药物心脏安全性评价模型
6 月前
生命科学前沿  ·  连发三篇！钟南山院士团队肺病治疗领域取得新进展
1 月前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   51好读   ·   小百科（海外）   ·   Link管理
今天看啥 - 微信公众号rss订阅, 微信rss, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号