2024-11-22 20:04
本条微博链接
【PySpur:一款专注于推理计算流水线的集成开发环境,让开发者能够更便捷地构建、调试和部署LLM计算图。支持多种高级规划器(如MCTS、Self-Refinement等),提供并行/顺序采样的底层原语,内置验证器和评估功能,支持批量推理任务的异步执行和管理】 'PySpur is an IDE that lets you develop, debug, and deploy inference-time compute pipelines' GitHub: github.com/PySpur-com/PySpur #LLM开发# #推理计算# #AI工作流# #IDE#
………………………………