图灵奖得主Bengio亲自打分，首份《人工智能安全指数报告》发布，中国一家公司上榜

文章预览

来源：学术头条 安全话题，在人工智能（AI）行业一向备受关注。 尤其是诸如 GPT-4 这样的大语言模型（LLM）出现后，有不少业内专家呼吁「 立即暂停训练比 GPT-4 更强大的人工智能模型 」，包括马斯克在内的数千人纷纷起身支持，联名签署了一封公开信。 这封公开信便来自生命未来研究所（Future of Life Institute）， 该机构由麻省理工学院教授、物理学家、人工智能科学家、《生命 3.0》作者 Max Tegmark 等人联合创立，是最早关注人工智能安全问题的机构之一，其使命为“引导变革性技术造福生活，避免极端的大规模风险”。 公开信息显示，生命未来研究所的顾问委员会成员阵容强大，包括理论物理学家霍金、企业家马斯克、哈佛大学遗传学教授 George Church、麻省理工学院物理学教授 Frank Wilczek 以及演员、科学传播者 Alan Alda、Morgan Freeman 等。 日前， ………………………………