OpenAI语音转录工具被曝严重幻觉：转录100小时，一半儿在瞎扯

文章预览

西风 发自 凹非寺 量子位 | 公众号 QbitAI OpenAI的AI语音转写工具，那个号称近乎“人类水平”的 Whisper ，被曝幻觉严重—— 100多小时转录，被工程师发现约一半都在瞎扯。 更严重的是，美联社还爆料有医疗机构利用Whisper来 转录医生与患者的会诊， 瞬间引发大量网友关注。 据悉，明尼苏达州的曼卡托诊所和洛杉矶儿童医院在内的超过30000名临床医生和40个卫生系统已开始使用法国AI诊疗公司Nabla基于Whisper打造的工具。 而且他们已经转录了大概 700万次 医疗就诊。 网友纷纷表示这就有点吓人了。 值得一提的是，OpenAI之前早就警告过，该工具 不应在“高风险领域”中使用 。 针对最新爆料，有OpenAI发言人回应，OpenAI会在模型更新中加入相应的反馈机制。 OpenAI被督促赶紧解决此问题 Whisper是OpenAI老早前推出的开源自动语音识别 （ASR） 系统，于2022年9月发 ………………………………