首页

华裔蕾拉踩踏

时间:2024-07-06 01:22:40 作者:别让AI虚假新闻成网络谣言重灾区 浏览量:84416

  □ 刘津宁

  避免AI炮制虚假新闻成网络谣言重灾区,平台在刺激创作的同时,还应肩负起杜绝、消除虚假信息传播的社会责任。

  6月中旬,一家MCN机构的实际控制人王某某被警方予以行政处罚,处罚原因在于王某某利用AI软件生成虚假新闻并大肆传播,扰乱了公共秩序。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。最终,王某某依法被处以行政拘留5日,涉案MCN机构亦被责令停业整改。

  随着AI技术的跨越式发展,科技发展的正向效果与负面冲击交织出现,给人类带来了全新的机遇与挑战。近年来,诸如此类涉AI炮制谣言违法犯罪行为屡屡出现,也恰恰证明了生成式AI的“双刃剑”属性日益凸显。这些通过AI生成的虚假新闻主题集中、风格鲜明,多以险情、灾情、刑事犯罪或其他涉民生、社会热点事件为内容,辅以夸张、猎奇的情节和看似相关却实际无关的图片、视频,并以新闻撰稿人的角度、方向、语气对外发布,普通人难以辨别真伪。以前述事件为例,通过警方的披露我们才知道,相关违法主体不是仅用单一账号发布虚假信息,而是通过多平台多账号矩阵式发布,这就加剧了信息的传播规模及可信性,迷惑性极强。

  AI虚假新闻的横行,违背了新闻的本质特性——真实性,冲击了新闻报道的权威性。同时,当网络世界被大量AI炮制的虚假新闻充斥时,真正需要被关注的社会公共事件、重大政策发布就会因传播空间被挤占而无法进入更多人的视野,消耗人们有限的注意力资源,甚至还极易引发恐慌和骚乱。不少虚假新闻在经警方辟谣,甚至进入司法程序后,公众方才直呼“上当受骗”,可见,AI炮制假新闻一方面透支了公众信任,另一方面也消耗了本应发挥更大效能的司法行政资源。

  为何会有虚假新闻源源不断产生?笔者认为根本原因在于造假成本低、传播收益高。对于生产者来说,相关新闻均由AI软件生成,他们只需给出关键词,软件便会自动在网上抓取相关信息,形成一段看起来信息量很大实际子虚乌有的内容,全程基本无需人工参与,时间及经济成本几乎为零。此外,很多网络平台都有鼓励创作的奖励机制,会向流量高的内容和用户支付报酬,变相刺激了一些用户发布虚假、擦边等违法内容并藉此牟利。例如,前述事件中的王某某编造的虚假新闻中最高一条收入700元,警方估算其每天的收入可在1万元以上。

  避免AI炮制虚假新闻成网络谣言重灾区,平台在刺激创作的同时,还应肩负起杜绝、消除虚假信息传播的社会责任。违法行为在翻新,平台防控亦应升级。一方面,要注重事前预防,强化注册、变更账号信息审核程序,用户在发布涉及国内外时事、公共政策、社会事件等相关信息时,要将信息来源在显著位置展示。另一方面,要持续从完善谣言标签功能、规范账号运营、明确营利权限开通条件、限制违规行为获利、完善粉丝数量管理措施、加大对“自媒体”所属MCN机构管理力度等方面予以常态化事中管理。同时,加强事后惩戒,对制作发布谣言、蹭炒社会热点事件或矩阵式发布传播违法和不良信息造成恶劣影响的“自媒体”,及时予以关闭、纳入平台黑名单账号数据库并上报网信部门,并通过大数据技术发现不同人实名注册但实为一人控制使用的违规账号,据其违法行为分别采取取消互动功能、清理粉丝、取消营利权限、禁言、关闭等惩戒措施。

  还需注意的是,在炮制虚假新闻的产业链条中,相关AI软件也是违法内容生成的重要一环,不论其功能是否主要为生成热点虚假信息,还是正规软件被违法行为人恶意利用,都暴露出此类软件存在一定的设计漏洞。因此,监管机关在查处散布虚假新闻行为的同时,还应对此类软件开发者是否合规进行必要检查。

  (作者单位:北京市第四中级人民法院)

  来源:人民法院报

展开全文
相关文章
古诗词朗诵、传统服装走秀 在晋留学生共度“国际中文日”

长江经济带发展战略实施8年来,沿江越来越多居民从中受益。全国人大代表、湖北名羊农业科技发展有限公司董事长刘锦秀说,大别山黑山羊以大别山出产的天然金银花藤、马齿苋等中草药废弃药渣为主要饲草,羊粪便可以加工成有机化肥,这促进了公司与周边地区在技术、运输等方面加强合作,逐渐形成以黑山羊产业为引领、带动周边区县形成产业集群的发展模式,目前整个产业链已带动千余人实现就业。

旅德华侨武汉开博物馆 助流失海外文物“回家”

北京2月23日电 (记者 陈康亮)中国证监会首席检查官、稽查局局长李明23日在北京表示,证监会将进一步加大对上市公司欺诈发行、财务造假以及大股东违规占用等违法行为的打击力度。

商务部部长王文涛:中方对欧盟白兰地反倾销调查不针对任何特定欧盟成员国

冬去春来,在南方过冬的白天鹅陆续向北迁徙,3月以来,已有多批北归的白天鹅在颐和园昆明湖“歇脚”。通常,白天鹅在颐和园短暂停留后,会继续漫长的归途。停留期间,白天鹅在湖面歇息,偶尔会在空中飞翔,好似翩翩起舞的仙子,优美的舞姿吸引众多摄影爱好者和游客前来观赏拍照。

安徽黄山:古村春意浓

条例第三章专章细化了关键信息基础设施运营者的六大主体责任和义务。一是明确建设关键信息基础设施的“三同步”原则;二是建立健全网络安全保护制度和责任制;三是设置专门的安全管理机构;四是进行网络安全检测和风险评估;五是履行重大网络安全事件报告制度;六是确保采购安全可信的网络产品和服务。

重压下的医学生频频崩溃,“规培”制度有解吗?

5月2日,第二届中法全球治理论坛在法国巴黎举行,中法两国百余名专家学者围绕“深化全球治理改革,共建多边主义未来”主题进行深入探讨。本次论坛的举办反映了中法两国在全球治理领域加强合作的共识正不断深化,相互交往交流意愿逐渐加深,相关合作也逐渐成为中法、中欧关系新的增长点和着力点。

相关资讯
热门资讯
链接文字