新华网视评丨AI技术不应用来造谣生事-新华网
新华网 > 时政 > 正文
2024 12/09 15:07:52
来源:新华网

新华网视评丨AI技术不应用来造谣生事

字体:

  近期,浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查,该团伙利用AI软件,拼接网络中误导性素材,剪辑成“原创”视频,并在多个平台发布,牟取非法流量返利。

  这种利用AI工具实施造谣的案件并不鲜见。随着人工智能技术飞速发展,AI生成内容比例逐步攀升,但其中也充斥着一些虚假信息,有的足可“以假乱真”,迷惑性极强。

  利用AI造谣具有门槛低、批量化、识别难的特点。检索互联网,可见“伪原创工具”“AI洗稿”等网站和小程序,既可创作文案、帮写稿件,又能生成图片、合成视频。有媒体报道,曾经发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,让人触目惊心。

  AI如果被别有用心之人用以造谣、传播虚假信息,短时间内就可能快速传播,误导公众、影响舆论,严重时甚至扰乱社会秩序。

  对AI造谣违法行为,必须重拳治理,要“狠打”也要“严防”。(文案:田中全、张阳)

【纠错】 【责任编辑:康薇】