迈向可信的人工智能：伦理和稳健的大型语言模型综述

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 转载自 | 专知 链接：https://arxiv.org/abs/2407.13934 摘要——大型语言模型（LLMs）的快速进展有潜力革新各个领域，但其迅猛发展在监督、伦理开发和建立用户信任方面带来了显著挑战。 本综述全面调研了LLMs中的关键信任问题，重点关注意外伤害、缺乏透明性、易受攻击、人类价值观对齐和环境影响等问题 。我们强调了可能破坏用户信任的诸多障碍，包括社会偏见、决策过程中的不透明性、潜在的滥用以及技术快速演变带来的挑战。随着LLMs在金融、医疗、教育和政策等敏感领域的普及，解决这些信任差距至关 ………………………………