独家 ｜ 为什么谷歌的“AI概述”会出错？

文章预览

作者：Rihannon Williams 2024年5月31日 发表于 MIT Technology Review 翻译：高翊之 校对：ZRX 本文 约2500字 ，建议阅读 6 分钟 为什么AI概述会返回不可靠、潜在危险的信息？如果有办法的话，应该如何修复呢？ ‍ 谷歌新的人工智能搜索功能一团糟。它为什么叫我们去“吃石头和胶水比萨”，以及这个问题可以修复吗？             当谷歌在本月初宣布推出人工智能驱动的搜索功能时，公司承诺“谷歌会为你搜索”。这项叫做AI概述的新功能在搜索结果的上方提供了简短的、AI生成的概要，突出关键的信息和链接。    不幸的是，AI系统本质上是不可靠的。AI概述在美国发布的几天内，用户就分享了一些奇怪甚至更糟的回应，例如它建议用户在披萨上加胶水、每天至少吃一块小石头，以及它声称美国前总统安德鲁·约翰逊在1947到2012年间获得了大学学位，尽管他 ………………………………