AI泡沫与大模型幻觉检测新进展

文章预览

GenAI泡沫隐忧 近日英伟达市值站上世界之巅，有热心网友对比了2000年左右互联网泡沫破裂前的Cisco, 惊人的相似，籍此提醒大家，当心来势汹汹的AI泡沫。      其实这不完全是耸人听闻，目前市场对生成式AI（GenAI）的期望与行业头部大模型的实际能力之间存在巨大的GAP。除了支撑英伟达的市值需要投入的高昂的GPU算力成本， 大模型本身的幻觉则是最大的技术局限 。   尽管 Scaling Law还再不断有新进展 ，Scaling law 却可能面临边际效益递减的问题。这意味着更大算力增量带来事倍功半的模型性能提升，从而离市场对GenAI的期望渐行渐远。   目之所及，GenAI在To-C领域（短视频，娱乐，游戏等）攻城略地，却大都是创意性大于准确性要求的领域。到了To-B企业环境中，严谨、准确、一致性是基本要求，幻觉就自然成了最大的障碍。       AI法律研究工具 ………………………………