AI生成假新闻已成为数字时代的新型公害,其通过深度伪造技术批量炮制虚假信息,具有仿真性高、传播快、社会危害大等特点。近年来,从伪造社会事件到捏造名人言论,AI假新闻已渗透至民生、医疗、经济等领域,甚至形成黑色产业链。以下是关键分析与应对建议:
-
技术门槛低,危害性极强
仅需输入关键词,AI即可生成图文并茂的“新闻报道”,甚至伪造视频和音频。例如,广东五华县“老人被殴打致昏迷”事件、上海“华山医院前院长客死他乡”谣言,均通过AI拼接真实元素炮制,引发社会恐慌。部分造假软件可日生成19万篇不实内容,通过流量变现非法牟利。 -
瞄准高关注领域,破坏公信力
经济、医疗、突发事件是AI假新闻重灾区。如“苗古金贴”产品虚构AI生成的“非遗传承人”代言,谎称“千年秘方”治疗疾病,实际为低价代工贴牌产品,欺骗百万消费者。此类案例不仅扰乱市场秩序,更削弱公众对权威信息的信任。 -
治理需技术与法律双管齐下
目前,警方通过实名制追溯、封禁违法账号打击造谣团伙,但技术层面仍需强化AI内容标识和检测工具。例如,武汉警方查处利用AI洗稿的资讯公司,要求其公开致歉并整改。平台方应建立AI生成内容审核机制,用户需提高对“有图有真相”的警惕性。
面对AI假新闻,公众需交叉验证信源,避免情绪化转发;企业应坚守真实透明,而立法与技术的协同创新将是遏制乱局的关键。