新华社评警惕“AI污染”乱象
近日,新华社发文对AI提出批评,指出生成式人工智能在全球范围内掀起热潮,为许多行业和网民带来益处。然而,这种技术也引发了一些负面问题,尤其是由“信息垃圾”导致的“AI污染”越来越突出。
随着AI技术迅速发展,互联网内容生产力经历了革命性变化,但也带来了一系列问题。在某些热门社交平台上,大量AI生成的虚假账号充斥其中;某小说平台上的账号依靠AI创作,一天可更新50部小说,月更字数上千万,但行文常常逻辑不通、辞藻空洞;甚至在学术界,某顶尖高校学者在SCI发表的论文因插图为AI生成且错误百出,仅发表三天就被撤稿,成为学界笑柄。
AI带来的负面影响越来越多,特别是在新闻和信息传播领域。AI可以生成、伪造或篡改文本、图片、音频和视频,产生大量粗制滥造、真假难辨的信息垃圾,这需要进行全面审视。
AI的发展为新闻领域带来了翻天覆地的变化,从传统的人工采编模式逐渐向智能化、高效化的方向转变。然而,人工智能可能会复制或放大现有数据中的错误,生成虚假信息和宣传,新闻机构在使用AI时面临保持真实性和公信力的重大挑战。一些MCN机构为了博取流量,通过AI软件生成虚假新闻,导致大量网络谣言病毒式传播。今年6月中旬,一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播,扰乱公共秩序,被警方行政拘留。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。
清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示,近一年来,经济与企业类AI谣言量增速达99.91%。美国调查机构“新闻守卫”称,生成虚假文章的网站数量自2023年5月以来激增1000%以上,涉及15种语言。一些专家认为,AI制造的信息垃圾产量庞大,辨别难度较大,筛选成本较高。
版权归属问题也变得复杂。传统版权通常归属于创作者或其雇主,但AI版权可能归属于训练数据提供者、算法开发者、系统操作者甚至最终用户,这导致新闻和出版机构在面对科技企业推出的AI工具整合新闻和内容时,可能损失相关流量和广告收入。当地时间10月21日,《华尔街日报》母公司道琼斯和《纽约邮报》对人工智能初创公司Perplexity提出侵权诉讼,指控后者抄袭受版权保护的新闻内容,并利用这些内容生成对用户提问的回复,抢走了原本会流向这两家出版商网站的流量。而在一周前的10月15日,Perplexity刚刚收到了来自《纽约时报》的警告,要求其在10月30日前停止使用《纽约时报》的内容。
应对这些问题,建议加大对AI学习和生成机制的源头治理,明确AI平台对源头素材的把控责任和对生成内容的监管责任,完善AI内容生成规则,强制对AI生成内容打上显著标识,提升AI技术的透明度和可解释性。同时,加强对AI生成内容的筛查监管,开发相关的审查算法,规范生成内容向舆论场的流入及传播途径,及时发现并删除低质量或虚假内容。提高用户对AI生成内容的辨别能力,理性对待互联网信息,增强防范意识和识别能力,使用反向搜索工具检查内容来源和作者信息,分析内容的语言和结构特征,从而鉴别真伪。
对于新闻从业者,应明确AI应用边界,确定哪些新闻内容可以由AI生成,哪些必须由人工撰写。例如,重大时政新闻、深度调查报道等需要高度准确性和专业判断的内容应禁止使用AI生成,确保新闻的权威性和可靠性。此外,规范AI在新闻编辑、分发等环节的使用,避免过度依赖人工智能导致新闻质量下降。提高新闻从业人员和公众对AI生成内容的辨别能力也是重要措施,通过培训和教育使新闻从业人员了解AI的工作原理和特点,掌握辨别AI生成内容的方法和技巧。
AI的发展势不可挡,它为人类带来了前所未有的机遇和挑战。我们既要充分发挥AI的优势,又要高度重视其带来的问题,加强监管和治理,共同维护良好的网络生态环境。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rllx.cn/ckDX/157454.gov.cn
如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈邮箱:809451989@qq.com,一经查实,立即删除!