【KDD2024教程】大型语言模型的基础与评估，231页ppt

文章预览

随着人工智能（AI）系统在金融服务、医疗与生命科学、招聘与人力资源、教育、社会基础设施和国家安全等高风险领域的快速普及，开发和部署基础AI模型和系统时必须以负责任的方式进行，并确保其可信性、安全性和可观测性。我们重点关注的是大型语言模型（LLMs）及其他生成式AI模型和应用。这些模型和应用不仅需要在准确性和质量相关指标上进行评估和监控，还需要在以下方面进行评估和监控：对抗性攻击下的鲁棒性、分布变化下的鲁棒性、对代表性不足群体的偏见和歧视、 安全性和隐私保护、可解释性、幻觉（以及其他没有根据或低质量的输出）、有害内容（如性别歧视、种族主义和仇恨言论）、安全性和一致性机制的越狱、提示注入攻击、虚假信息和错误信息、虚假、误导和操纵性内容、版权侵权以及其他负责任AI的维度。 https://sites. ………………………………