模型会有上下文窗口长度限制，AI聊天应用也会有会话长度限制。举例-20250113095949

宝玉xp · 微博 · AI · 2025-01-13 09:59

文章预览

2025-01-13 09:59 本条微博链接模型会有上下文窗口长度限制，AI聊天应用也会有会话长度限制。举例来说你的模型最大上下文窗口长度限制是 128K，但是通常应用程序不会让你输入的内容到128K，可能输入内容最多16K就不让你输入了，因为这个上下文窗口长度是针对输入和输出加起来的长度，所以要留一些空间给输出，另外输入内容越长，模型生成的质量会下降，成本也会增加很多，所以应用要限制最大输入的长度// @无命道 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

黄建同学 · 来自卡尔的AI沃茨的Cursor穷鬼套餐4.0，把免费版Curs-20250113073307

17 小时前

爱可可-爱生活 · 「为什么聪明人容易陷入过度思考的困境？」让我们从一个有趣的悖论开-20250112161426

昨天

爱可可-爱生活 · 【[302星]CubeTrek：你的GPS轨迹管理专家，帮你将单-20250112141630

昨天

爱可可-爱生活 · 【[25.1k星]Jobs_Applier_AI_Agent：求-20250112142531

昨天

爱可可-爱生活 · [CL]《Who Does the Giant Number P-20250110055045

3 天前

亿纬锂能 · 亿纬锂能荣获碳足迹领跑力榜单锂电池行业第一名，持续引领锂电池行业绿色发展

3 月前