专栏名称: 全栈修仙之路
专注分享 TS、Vue3、前端架构和源码解析等技术干货。
今天看啥  ›  专栏  ›  全栈修仙之路

超强 MedicalGPT:训练医疗领域大模型,支持 Qwen-2 和 Llama-3 等十几种开源模型!

全栈修仙之路  · 公众号  ·  · 2024-06-17 09:09
    

文章预览

MedicalGPT [1]  是一个开源项目,旨在辅助医疗领域大模型的训练。它具备以下功能: 增量预训练 :通过持续学习,提升模型对医疗数据的理解。 有监督微调 :利用标注数据对模型进行精确调整,以适应特定医疗任务。 RLHF :结合奖励建模和强化学习训练,优化模型的决策过程。 DPO :直接偏好优化,确保模型的输出更符合用户期望。 近期热文 当 AI 遇上爬虫:让数据提取变得前所未有的简单! 超强 OCR 神器:支持批量 OCR、文档识别、公式识别,离线可用、完全免费! 2024 年最完整的 AI Agents 清单来了,涉及 13 个领域,上百个 Agents! MedicalGPT 已发布的模型 shibing624/vicuna-baichuan-13b-chat 推理示例 MedicalGPT 特点 MedicalGPT 基于 ChatGPT 训练流程,实现了医疗行业语言大模型的训练: 阶段一(可选):增量预训练(Continue PreTraining),在海量领域文档数据上 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览