文章预览
MedicalGPT [1] 是一个开源项目,旨在辅助医疗领域大模型的训练。它具备以下功能: 增量预训练 :通过持续学习,提升模型对医疗数据的理解。 有监督微调 :利用标注数据对模型进行精确调整,以适应特定医疗任务。 RLHF :结合奖励建模和强化学习训练,优化模型的决策过程。 DPO :直接偏好优化,确保模型的输出更符合用户期望。 近期热文 当 AI 遇上爬虫:让数据提取变得前所未有的简单! 超强 OCR 神器:支持批量 OCR、文档识别、公式识别,离线可用、完全免费! 2024 年最完整的 AI Agents 清单来了,涉及 13 个领域,上百个 Agents! MedicalGPT 已发布的模型 shibing624/vicuna-baichuan-13b-chat 推理示例 MedicalGPT 特点 MedicalGPT 基于 ChatGPT 训练流程,实现了医疗行业语言大模型的训练: 阶段一(可选):增量预训练(Continue PreTraining),在海量领域文档数据上
………………………………