6月22日，晚间播出的央视新闻曝光了网络上“AI造谣”的现象。报道中提到了一起公安部网安局公布的典型案例，其中一名嫌疑人利用AI技术制造了“华山医院前院长张明远因阑尾炎未得救治而去世于医院走廊”的虚假信息，并通过网络平台大肆传播，引发广泛关注。
据上海市公安局静安分局网安支队透露，经过调查核实，华山医院根本不存在名为“张明远”的前任院长或员工，发布谣言的账号注册者亦非本人操作。原来，这名注册者将账号用作兼职后，将其转手他人。
▲ 图源：央视新闻
深入调查发现，所谓的“华山医院前院长之死”谣言出自一个自媒体工作室，负责人为王某某、郭某某、石某某等三人。该工作室拥有500多个自媒体账号，每天搜集网络热点，利用AI自动生成文章，未经核实便在自控账号上发布，累计发布近10万条虚假信息，造成了严重社会负面影响。
据官方通报，王某某、郭某某、石某某等三人因涉嫌非法利用信息网络罪，已被上海静安警方依法采取刑事强制措施，相关违法账号已被封禁，案件正在进一步侦办中。
央视网指出，随着AI深度合成技术的迅猛发展和应用，网络上AI造谣现象屡见不鲜，除伪造新闻外，还有不法商家制作名人带货广告/视频等推销商品。目前，国家网信办正在进行专项打击行动。截至6月20日，已累计处置违规AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，取得了积极进展。
广告声明：文中链接仅供参考，所有文章均包含本声明。
