新华社批“AI污染”乱象

主要观点总结

文章主要讨论了AI技术带来的负面影响，特别是其在新闻和信息传播领域的乱象。文章指出，AI生成的内容存在虚假、低质量的问题，甚至可能导致版权问题。同时，文章也提出了一些应对之策，包括加强监管、提高用户辨别能力、明确AI应用边界等。

关键观点总结

关键观点1: AI技术带来的负面影响

随着AI技术的飞速发展，互联网内容生产力发生了革命性的变化，但随之而来的是一系列问题。AI可以生成、伪造或篡改文本、图片、音频和视频，产生大量粗制滥造、真假难辨的“信息垃圾”。在新闻领域，AI的发展为新闻领域带来了翻天覆地的变化，但新闻真实性受到极大挑战，虚假信息和宣传层出不穷。

关键观点2: AI在新闻领域的入侵及挑战

AI在新闻领域的应用带来了许多挑战，如生成虚假新闻、扰乱公共秩序等。一些MCN机构利用AI软件生成虚假新闻，导致大量网络谣言病毒式传播。此外，AI生成的虚假内容可以以逼真的形式迅速传播，带来严重的社会影响。经济与企业类AI谣言量增速达99.91%，虚假文章的网站数量激增。

关键观点3: 版权问题和应对之策

AI技术带来的版权问题也日益突出。传统版权通常归属于创作者或创作者雇主，但AI版权可能归属于多方，导致新闻、出版机构在面对科技企业推出的AI工具整合新闻和内容时，可能损失相关流量和广告收入。为应对这些问题，应加大对AI学习和生成机制的源头治理，加强对AI生成内容的筛查监管，提高用户对AI生成内容的辨别能力。

关键观点4: 应对措施和建议

新华社建议明确AI平台对源头素材的把控责任和对生成内容的监管责任，完善AI内容生成规则，强制对AI生成内容打上显著标识。同时，要加强监管，规范生成内容向舆论场的流入及传播途径。此外，提高新闻从业者和公众的辨别能力也是重要措施。

文章预览

              文｜胡炜（新京报传媒研究院） 近日，新华社发文从多个方面对AI提出了批评，《警惕“AI污染”乱象》一文 指出 “ 去年以来，生成式人工智能在世界范围内掀起一波接一波的热潮，其颠覆性应用让许多行业和网民受益。然而，一块硬币有两面，伴随生成式人工智能而来的也有一些负面问题，由'信息垃圾'导致的'AI污染'越来越突出。 ”  确实，随AI技术的飞速发展，互联网内容生产力也发生了革命性的变化，然而，这种技术的普及也带来了一系列问题： 在某些热门社交平台上，充斥着大量AI生成的虚假账号； 某小说平台的账号，依靠AI“创作”，一天可更新50部小说，月更字数上千万，但行文常常逻辑不通、辞藻空洞； AI内容创作甚至亮相学术界，某顶尖高校学者在SCI发表的论文，因插图为AI生成，且错误百出，仅发表3天被撤稿 ………………………………