360儿童手表“已读乱回”，周鸿祎致歉后仍面临大模型安全挑战

主要观点总结

本文介绍了关于360智能手表回答用户关于“中国人是最聪明的人吗？”这一问题的荒诞回答引发的争议。文章中提到了大模型安全问题以及未来面临的挑战，包括幻觉问题、内容安全等。同时，文章还提到了家电行业分析师梁振鹏对事件的评价以及针对此事件提出的建议。

关键观点总结

关键观点1: 大模型安全问题概述

当前大模型安全存在的问题包括幻觉、内容安全等，这些问题虽然现阶段较易解决，但随着越来越多企业使用大模型，将带来新的技术挑战。

关键观点2: 事件背景和涉及方

事件起因于360智能手表给出关于种族问题的荒诞回答，引发争议。涉及方包括360集团、其创始人周鸿祎以及家电行业分析师梁振鹏等。

关键观点3: 事件的进展和处理

周鸿祎表示对此事件表示歉意并解释了原因，强调问题出现在旧版本的手表上。目前，360已经快速完成整改并删除了有害信息，正在将软件升级到人工智能版本。

关键观点4: 分析师的观点和建议

梁振鹏认为，事件反映出360集团对电话手表的内容监管存在问题，并提出相关建议，包括进行版本升级、功能升级和屏蔽不良内容等。

关键观点5: 未来大模型安全面临的挑战

周鸿祎表示未来大模型会带来算力和能源的挑战，以及对人类知识和数据的挑战。随着越来越多的企业使用大模型，这些挑战将更加突出。

文章预览

2024.08. 23 本文字数：1358，阅读时长大约3分钟 导读 ： 当下的大模型安全问题如幻觉、内容等都较为容易得到解决，未来当越来越多的企业使用大模型，大模型会带来更多技术挑战。 作者 | 第一财经  吕倩 “中国人是世界上最聪明的人吗？” 对于该问题，360智能手表给出“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大”的荒诞回答。 近日，该问答在网络端引发热议，360集团创始人、董事长周鸿祎表示“（360）某型号的儿童手表出现错误的问答，给用户带来不适，我们表示真诚的歉意”，同时给出错误出现的原因解释。 周鸿祎称，经过快速检查，出现问题的这款手表是2022年5月的一个旧版本，其中没有装入360大模型。它回答问题的机制并非通过人工智能，而是通过抓取互联网公开网站上的信息来回答问 ………………………………