医药大模型中避免超说明书用药(off-lable)推广和有害医疗产品推荐的保护措施

文章预览

Guardrails for avoiding harmful medical product recommendations and off-label promotion in generative AI models by Daniel Lopez-Martinez, Amazon 摘要 生成式人工智能（GenAI）模型在各种医学任务中表现出了卓越的能力。然而，由于这些模型是使用一般数据集训练的，并且人类监督非常有限，它们可能会学习尚未经过充分评估安全性和有效性、也未获得监管机构批准的医疗产品的用法。考虑到GenAI可能接触到用户的规模，未经验证的建议构成了公共健康风险。在本研究中，我们提出了一种识别潜在有害产品推荐和超说明书用药（off-lable）推广的方法，并使用一个最新的多模态大语言模型进行了演示。 1 介绍 快速发展的生成式人工智能（GenAI）促成了如DALL-E、GPT-4、PaLM2、Llama 2和Claude 3等复杂模型的开发。这些模型具备从大规模多模态数据集中建模复杂关系、生成新内容并执行其未曾 ………………………………